10月12日、Zvi Mowshowitzが「OpenAI Fires Three Safety Researchers」と題した記事を公開した。この記事では、OpenAIが安全研究者3名を解雇した経緯と、それが業界全体に与える影響について詳しく論じられている。
OpenAIがTomek Korbak、Mikita Balesni、Jasmine Wangの3名の安全研究者を解雇した。OpenAI側の公式説明は「機密情報の不正取り扱い」だが、当人たちは「安全性への提言を理由とした解雇であり、提示された理由は口実だ」と主張している。
3名はいずれもAI安全研究の中核を担っていた人物だ。TomekとMikitaは「Chain of Thought Monitorability（思考連鎖の監視可能性）」に関する影響力の大きい論文の筆頭著者であり、Jasmineを含む3名は「pacing the frontier（AIシステムの開発・展開ペースを意図的に調整・抑制すべきという考え方）」請願や、METR-Redwoodによるモデル評価、クロスラボ間での監視可能性標準の策定といった、近年の主要な安全イニシアティブに中心的に関与していた。
解雇直前、3名はそれぞれX（旧Twitter）で踏み込んだ発言をしていた。
Mikita Balesni: 「私はOpenAIにいるが、AIが全人類を死滅させる確率は10%超だと思っている」
Tomek Korbak: 「OpenAIのやっていることの多くに不満がある。それを言えることには満足している」
Jasmine Wang: 「RSI（再帰的自己改善）へ突き進む危険性はいくら強調しても足りない」
公式説明と「稼がれた懐疑論」
WSJの報道によれば、OpenAIは3名が「第三者のAI安全組織に機密情報を共有した」として解雇したと説明。公式声明では「情報の取り扱いに関するポリシー違反」と述べ、「安全への懸念を提起したことを理由に解雇した事実はない」と強調した。さらに、声明に記載されていない「信頼の重大な侵害」が別途あったとも示唆したが、当該従業員がその内容を知らされていたかどうかについては明言を避けた。
外部からの反応は冷ややかだ。過去にOpenAIがLeopold Aschenbrennerをセキュリティ上の懸念をボードに持ち込んだことを口実に解雇したと広く信じられている件など、類似した事例が積み重なっている。
Pamela Mishkin（元OpenAI）: 「これらの解雇は、ラボがこれまで表明してきた『コミットメント』の実効性を損なう動きであり、従業員の異議申し立てに対する萎縮効果を狙っている」
Girish Sastry（元OpenAI）: 「OpenAIはこのパターンを何度も繰り返してきた。曖昧な説明を出して、世間が忘れるのを待つ。一度なら偶然、二度なら偶然の一致、何度も続けば……OpenAIだ」
3名が残した提言
3名は公開書簡をOpenAIのボードメンバーおよび安全委員会に宛てて提出し、以下3点を求めた。
- 先月公表された第三者安全監査員の組織内常駐というコミットメントの遵守——自分たちの解雇をそこからの撤退の口実にしてはならない
- フロンティアモデルの監視可能性（monitorability）の維持
- 安全研究者と外部の安全エコシステムとの間のオープンで透明な対話文化の継続
OpenAIはこれらの提言に「強く同意する」と表明した。ただし、Zviはこう指摘する——OpenAIがこれらに反対すると公言できる余地はそもそも存在しない。信頼を取り戻すには「言葉」ではなく、安全提言が解雇につながらないという「コストを伴う行動による証明」が必要だ。
業界へのダメージ
Nathan CalvinはXで「TomekとMikitaはChain of Thought Monitorabilityの筆頭著者だ。AIの監視可能性が崩壊しつつあるこの時期に、彼らがOpenAIを去るのは最悪のタイミングだ」と述べた。
Sneha Revanurも「Jasmineも含め、3名はここ数ヶ月のOpenAIの主要な安全上の取り組みすべてに中心的に関与していた。公開書簡では、なぜこの3名を一度に解雇するしかなかったのか、強固な説明が求められている」と指摘した。
Zvi自身は「安全提言を理由にこの3名を解雇することは、OpenAIにとって愚の骨頂だ」と評価しつつも、「真の解雇理由は不明であり、それが問題の核心だ」と結論付けている。真相がどうあれ、OpenAIには有能な安全研究者が3名いなくなり、業界全体での萎縮効果は現実に発生している。
詳細はOpenAI Fires Three Safety Researchersを参照していただきたい。
