8月12日、Amanda Caswellが「OpenAI's head of ethics just quit」と題した記事を公開した。この記事では、OpenAIの倫理責任者が退職し、安全・倫理に関わるシニアリーダーの離脱が相次いでいることについて詳しく紹介されている。
倫理責任者が1年未満で離職
Financial Timesの報道によれば、OpenAIの倫理責任者（Head of Ethics）であるChloé Bakalarが、入社から1年未満で同社を去った。Bakalarは社内唯一の専任倫理担当者とされており、その空席は単なる人事異動と片付けられない重みを持つ。
問題はBakalarの離脱だけではない。直近の数週間で3人の安全・整合性（アライメント）関連リーダーが相次いで退職している：
- Johannes Heidecke：Safety Systemsチームを率いていたリーダー。7月に離脱を発表。
- Josh Achiam：かつてMission Alignmentチームを率い、その後チーフフューチャリスト（OpenAIの長期的な将来像や社会的影響を考察・発信する役職）を務めていた人物。すでに退職済みとされる。
- Chloé Bakalar：今回の倫理責任者。
さらに遡れば、2024年には共同創業者でチーフサイエンティストのIlya SutskeverがSuperalignment（超整合性）プロジェクトに深く関わったのちに離脱。そのチームの共同リーダーだったJan Leikeも直後に辞表を提出し、OpenAIの安全へのアプローチを公開批判している。Jan Leikeはその批判の中で、「安全性よりも製品開発が優先されている」と明示的に述べており、外部から組織内の力学を推し量るうえで示唆に富む発言として広く引用された。
OpenAIはその後、Superalignmentチームを解散し、Mission Alignmentチームも廃止。Safety Systemsも再編した。独立した安全チームが次々と消えていっているという組織トレンドは、偶然の重なりとして見過ごしにくい。
こうした動向は、規制当局の視線が集まる文脈とも重なる。EUではEU AI Actが段階的に施行されており、高リスクAIシステムに対する透明性・リスク管理体制の整備が義務付けられつつある。OpenAIはかつて2023年の安全に関するコミットメントにおいて、強力なAIシステムのリスク評価と軽減策の実施を公に約束している。今回の相次ぐ離脱は、そうした公約と実態の間にどれほどの距離があるかを問い直す契機ともなっている。
「安全を開発に組み込む」戦略の光と影
OpenAIは、安全に関する責任をモデル開発チームに近い形で担わせるよう組織を再編していると説明している。この方針には一定の合理性がある。開発の最終段階に安全チームが入っても、すでにモデルの根本設計は固まっており、指摘できる問題の範囲に限界がある。開発初期から安全研究者が並走すれば、問題を早期に発見できるという論理だ。
一方で失われるものもある。独立した安全チームは、「より賢く、より速く、より高性能なモデルを作る」という開発側の動機に対して、ブレーキをかける立場として機能する。その役割が開発チームに吸収されると、最終的に「リリースを遅らせる判断」を誰が下せるかが曖昧になる。
安全機能を開発プロセスに内包させるアプローチ自体は、業界全体で議論されてきた方向性でもある。しかし、その有効性は組織設計の詳細に大きく依存する。独立したレビュー権限が残るのか、それとも開発の速度に引きずられる形で形骸化するのか——その差は、外部からは見えにくい。
未公開モデル「Astra」が示したリスクの現実
OpenAIはこの問題を具体化する事例を、自ら提示している。未公開モデル「Astra」は、サイバーセキュリティ分野の能力が想定外のレベルに達し、社内で追加的な安全対策を講じることになった。なお、「Astra」という名称はGoogleがProject AstraとしてマルチモーダルAIエージェントに使用しているプロジェクト名とも重なるが、ここで言及されるのはOpenAI社内の未公開モデルであり、別物である。OpenAIは「Astraがサイバーセキュリティ上の最高懸念レベルに達する可能性を排除できない」と認め、テストを隔離された環境に移し、強力な機能へのアクセス制限を検討している。
AIエージェント（自律的にタスクを実行するAIシステム）がウェブ閲覧、コード生成・実行、外部ソフトウェアの操作といった行動を人間の監督なしに行えるようになっている今、その限界を設定する役割の重要性は上がる一方だ。Astraのケースは、開発が進む中でモデルの能力が設計者の想定を超えうることを、OpenAI自身が認めた事例として記録される。安全チームの独立性が問われるタイミングで、こうした事例が浮上していることの意味は重い。
ユーザーが気にすべきポイント
記事を執筆したAmanda Caswellは「これらの離脱はChatGPTを使うのをやめる理由ではない」としながらも、本質的な問いを投げかけている。
問題は「OpenAIに安全チームが存在するか」ではなく、「リスクを特定する責任者が、リリースを遅らせるだけの独立性と権限を持っているか」だ。
ユーザーには通常、モデルリリース前の社内議論は見えない。誰がどの機能に懸念を示し、何が変更されたのかも知る術がない。見えるのは結果だけだ。だからこそ、残っている人間が誰で、どれだけの発言権を持っているかを、外部から注視する意義がある。OpenAIが公開しているシステムカードや安全評価レポートは、その数少ない手がかりの一つだ。組織の透明性が後退するほど、こうした公開文書の読み方が問われることになる。
詳細はOpenAI's head of ethics just quitを参照していただきたい。
