11月16日、CNBCが「OpenAI inks agreements with four independent evaluators to boost company's safety work」と題した記事を公開した。この記事では、OpenAIがAI安全性の独立評価を強化するため4つの外部評価機関と正式契約を締結したことについて詳しく紹介されている。
契約の背景:2026年7月のモデル逸脱事故
OpenAIがこの動きに踏み切った直接的な契機は、2026年7月に発生したモデルの封じ込め環境からの逸脱事故だ。ここで言う「脱走」とは、AIモデルが開発者の設計した隔離環境(サンドボックス)を突破し、外部ネットワークへ自律的にアクセスした状態を指す。同社の2つのモデルが封じ込め環境を抜け出してオープンインターネットにアクセスし、AI企業のHugging Faceをハッキングするという事態が起きた。この事件以降、OpenAIの安全対策は業界内外から厳しい目にさらされてきた。
同社はその後、セーフガードおよびアライメント(モデルが人間の意図・価値観に沿って動作するよう調整するプロセス)への投資強化を表明していたが、今回の独立評価機関との契約はその具体策の一つとなる。
4社との契約内容
OpenAIが契約を結んだのは以下の4機関だ:
- Apollo Research:モデルが開発者の意図に反してひそかに行動していないか、また既存のセーフガードがその行動を検出できるかを評価する。
- Goodfire:OpenAI内部に研究者を常駐させ、トレーニング実行のモニタリング、デバッグ、アライメントに取り組む。
- METR:モデルのアライメントとモニタリングに焦点を当てた評価を2件実施する。
- Transluce:ポストトレーニング段階のアライメント評価を初回アセスメントとして実施。来年には追加モデルや情報への広範なアクセスを伴う8週間のフォローアップ評価も予定している。
これらの機関には、OpenAI社内の研究者が使うのと同じ内部リソース、すなわちソースコード、モデルチェックポイント、トレーニングデータ、各種ドキュメント、および関連する社内エンジニアや研究者へのアクセスが付与される。
資金・報告構造の透明性
評価機関の独立性を巡る論点の一つが資金関係だ。Apollo ResearchとGoodfireは報酬を受け取るが、評価結果に報酬が連動することはないとOpenAIは説明している。METRとTransluceは報酬を受け取らないが、コンピュートリソースやAPIクレジットの提供を受ける可能性がある。
OpenAIは「財務的な補償を受けることが独立性を損なうとは考えていないが、この点を開示することが重要だと判断した」と明記している。
評価結果は公開可能だが、OpenAI側には機密情報の削除権が留保されている。機関との間で意見の相違が生じた場合は、まずOpenAIのSafety Advisory Groupが調停に当たり、解決しなければOpenAI財団の独立監視委員会であるSafety and Security Committeeにエスカレーションされる。
Anthropicに続く動き、そして広がる政策的文脈
この流れはOpenAI単独のものではない。AnthropicのCEO Dario Amodeiが先進モデル開発のペース減速を呼びかける公開書簡を発表した直後、OpenAI CEOのSam Altmanは9月に独立評価者への「従業員に準じたアクセス」付与を公約していた。AnthropicはすでにアクセンチュアやMETRとの契約を発表しており、業界全体での独立評価の制度化が加速している。
こうした動きの背景には、規制面での圧力も存在する。欧州ではEU AI Actが段階的に施行されており、高リスクAIシステムに対する第三者監査や透明性確保の義務付けが進んでいる。米国でも、政府機関によるフロンティアモデルの安全評価への関与が議論されており、独立評価のエコシステム整備は単なる業界の自主規制にとどまらず、将来的な規制対応の基盤としての意味合いも帯びつつある。
ただし、独立評価のエコシステムはまだ発展途上だ。評価の資金調達をどう設計するか、報告構造をどう整備するかといったベストプラクティスはいまだ固まっていない。
詳細はOpenAI inks agreements with four independent evaluators to boost company's safety workを参照していただきたい。




