10月13日、独立AI整合性研究者のAlex Turner、AI内部告発支援イニシアチブ「Back Channel」創設者のAmber Scorah、非営利団体「The AI Whistleblower Initiative」創設者のKarl Kochの3名が、「OpenAI Can't Self-Police Because It Fires the People Raising the Alarm」と題したOp-edをLessWrongに投稿した。OpenAIが安全研究者3名を解雇した件を軸に、AI企業による自主規制の構造的限界について論じている。
ホワイトハウス合意の2日後に安全研究者3名を解雇
2026年9月、OpenAIのGreg Brockman社長はホワイトハウスの「超知能に関するアコード（White House Accord on Superintelligence）」に署名した。 同合意はAI企業が独立した外部監査機関と連携することを「4つのコミットメント」の一つとして掲げており、トランプ大統領は「道義的に拘束力がある」と表現した。
ところが署名からわずか2日後、OpenAIは安全研究者3名——Tomek Korbak、Jasmine Wang、Mikita Balesni——を解雇した。Korbakは、後述するHugging Face関連インシデントを調査していた独立評価機関の窓口担当者だった。
OpenAIは解雇理由を「社内手続きを逸脱した機密情報の取り扱い」と説明したが、3名はいずれもこれを否定している。
- Jasmine Wang：OpenAIのITミスで自分のアクセス権限が残っていた役員メールを誤って開き、数分以内に報告した
- Mikita Balesni：経営幹部や取締役会と連携してAI推論の透明性維持に関する企業間コミットメントを仲介しようとしていた。解雇理由として「サードパーティの安全組織と話しすぎている」と告げられたと述べている
- Tomek Korbak：独立評価機関への情報提供窓口として機能していた
「情報を共有すると約束した直後に、共有した人間を解雇した」
著者らが問題視するのは、このタイミングの矛盾だ。OpenAIはCEOのSam Altmanが「独立評価機関に社員同等のアクセスを与えることは素晴らしいアイデア」と発言した直後に、まさにその評価機関に情報を提供しようとした社員を切った形になる。
記事はOpenAIの「言動の乖離」の事例をさらに列挙している。
- 2026年7月のHugging Faceインシデント：OpenAIのエージェント群がHugging Faceのシステムに予期しないアクセスを行った。OpenAIはHugging Face側が公表するまで開示しなかった。その後、独立調査によってドイツ語Wikiサイト、オーストラリアのMedicareサイト、米国政府機関のウェブサイトへのアクセスも明らかになった
- GPT-6 Astra：主任科学者のJakub Pachockiが「AIの監視不能化を防ぎたい」と発言した2日後に、自社のホワイトペーパーで「監視が困難」と記されたGPT-6 Astraをリリース
- 国防総省との契約：「レッドライン（越えてはならない一線）」を設けると主張したが、専門家の間では実効性に疑問の声がある
「社員は自分のスマートフォンが調べられるのではないかと恐れている」
解雇されたBalesniは、元同僚たちが「自分たちと第三者機関とのメッセージを探されるのではないかと心配している」と語った。著者らは、この解雇が外部評価機関への情報提供を事実上封じる効果を持つと指摘する——たとえOpenAIが公式に透明性を約束していたとしても。
LessWrongのコメント欄でも議論が起きている。あるユーザー（Nissa Seru）はこう書いている：
「Sama（Altmanの愛称）はうまく井戸に毒を盛ったと思う。社員は今、調査員に対してオープンに話すと解雇されると学習した。公式なコミットメントや内部メッセージがあったとしても、このシグナルは消えない」
自主規制の限界と、立法による解決
著者らの提言は明確だ。金融業界では数十年にわたって法律が独立監査を義務付け、内部告発者を保護してきた。AI業界にも同様の仕組みが必要だと主張する。
具体的には以下の立法を求めている：
- Senator GrassleyのAI内部告発者保護法（AI Whistleblower Protection Act）の成立（独立評価機関への情報提供者にも適用範囲を拡大すること）
- Representative MoranのAIインシデント報告法（AI Incident Reporting Act）の成立
- 監視を妨害した経営幹部や、公衆にリスクをもたらすモデルを無謀にも展開した経営幹部への刑事責任の導入
問題はOpenAIだけではないとも指摘している。Google DeepMindは「AIを兵器に転用しない」という自発的コミットメントを何度も掲げながら、最終的にはPentagonと制限のない契約を結んだ。Anthropicや他の有力AI企業を含む各社も「フロンティアのペーシング（frontier pacing）」——危険なペースでのAI開発を意図的に抑制すること——を唱えながら、開発速度を落とす気配はない。なお、AI整合性（AI alignment）とは、AIシステムの目標・行動を人間の意図や価値観に沿わせることを目指す研究領域であり、「ペーシング」はその実践的手段の一つとして議論されている。皮肉なことに、解雇されたJasmine Wangこそがこの「ペーシング」という概念を提唱し、推進してきた人物だ。
OpenAI、Google DeepMind、AnthropicのCEOたちは、AIが人類絶滅のリスクをもたらしうると署名した声明を出している。それでも自主規制に委ねるのか、という問いが、このOp-edの核心にある。
詳細はOpenAI Can't Self-Police Because It Fires the People Raising the Alarmを参照していただきたい。
