10月11日、CNBCが「AI's quiet safety gatekeepers are stepping into the spotlight」と題した記事を公開した。この記事では、AI安全性評価を担う第三者機関がマルチトリリオンドル規模（数兆ドル規模）のAI産業の中枢に引き上げられつつある構造変化について詳しく紹介されている。
「静かな番人」が表舞台へ
AIモデルの能力とリスクを評価する独立系評価機関は、巨大なAI産業の片隅でひっそりと活動してきた。それが今、業界全体から頼りにされる存在へと急浮上している。
きっかけの一つはAnthropicのDario Amodei CEOが9月に公開したエッセイだ。先進モデル開発の「ペースを落とす」必要性を訴え、独立した外部評価者を社内に常駐（embed）させると宣言した。OpenAIのSam Altman CEOもすぐさま賛同し、トランプ大統領も主要テック企業を集めたホワイトハウスの昼食会で「独立した外部監査者や評価者との連携」を奨励する1ページの合意文書を提示した。Anthropic、Google、Meta、OpenAI、SpaceX、Nvidiaのトップが署名した。
ただし、この合意文書についてブラウン大学のコンピュータサイエンス教授Suresh Venkatasubramaniはこう切り捨てている。
「実際には何も起きていないのに、行動しているように見せようとするパフォーマンスだ。彼らが約束していることは、もうやっているはずのことだ」
資金・独立性・権限——三つの未解決問題
評価機関の代表格であるMETR（Model Evaluation and Threat Research）は非営利団体で、フルタイムスタッフは50人未満。同様に独立系のApollo ResearchやTransluceも小規模組織だ。一方、評価対象のAnthropicやOpenAIは数百億ドルを調達し、数千人を雇用している。
この非対称な力関係が、三つの根本的な問題を生み出している。
1. 資金調達：誰が評価機関にカネを払うのか。AnthropicはすでにAccentureの専門AIビジネス「Faculty」に対し、自社が直接資金提供する形で常駐評価を開始すると発表している。しかしAnthropicは同時に、「長期的には資金はプールされた資金源か政府からであるべきだ」とも認めている。評価される側が評価者に支払う構造への懸念は根深い。
「本物の第三者評価には、財政的な真の独立性が必要だ。報酬をもらわないだけの問題ではなく、不利なレポートを出した結果として仕事が干上がるリスクがある」（Venkatasubramani）
2. アクセス権限：評価者がどの情報にアクセスできるか、現時点では業界標準が存在しない。Amodeiのエッセイによれば、Anthropicは評価者にデスク・社員証・ラップトップ・内部リスクチームと「ほぼ同等」の権限を付与し、主要な知見を公表する権利を契約で保証するとしている。ただし、セキュリティ上の機密情報については「限定的な」削除権を同社は留保している。
3. 報告体制：評価結果をどこに、どう報告するかの枠組みも未整備だ。
OpenAIで起きた内部摩擦
制度設計が宙に浮く中、すでに具体的な軋轢が表面化している。
OpenAIは先週、「機密情報へのアクセスおよび取り扱いに関するポリシー違反」を理由に3名の社員を解雇した。そのうち2名、Mikita BalesniとTomek Korbakは、第三者評価機関とのコミュニケーション方法が解雇の理由だと主張している。
BalesniはXへの投稿でこう書いた。
「元同僚たちは何を信じればいいか混乱していると聞く。また、個人の携帯が第三者とのメッセージを検索されることを恐れて発言を控えている。第三者と関与することへの蔓延する恐怖が、OpenAIが密室で安全対策を手抜きする事態を招くのではないかと心配だ」
OpenAIはこの見方を否定し、「第三者安全評価者との契約を最終調整中であり、数週間以内に詳細を発表する」としている。
急拡大する評価エコシステム
それでも業界全体として、評価機関への資金流入は加速している。METRは2026年8月時点で過去6ヶ月間に約7,100万ドルのコミットメントを調達しており、2024年の寄付総額1,360万ドルから急増している。エンタープライズ向けAI評価を手がけるVals AIも2026年に従業員数が8人から約30人へ急増し、8月には4,000万ドルの資金調達を発表した。
こうした資金の流入を後押しする背景として、METRが7月に実施した事後調査レポートが業界内での存在感を高めた点も挙げられる。元記事によれば、これはAIモデルに関連するセキュリティインシデントを受けてMETRが独立した立場で実施した調査であり、同機関はOpenAIからの報酬を受け取らなかったと明言している。
政策非営利団体Fathomのアドレイ・フリードマンCEOは「政治・政策の世界で20年働いたが、これだけ多くの政治的スペクトルでこれほど早く動いた課題を見たことがない」と述べ、「資本の流入」を予測している。
政府の関与——州レベルが先行
連邦政府の規制整備が進まない中、州が動き始めている。
カリフォルニア州のギャビン・ニューサム知事は9月、独立検証機関（IVO：Independent Verification Organization）の枠組みを定める法律と、AI監査者の州登録制度を創設する法律の2本に署名した。AnthropicとOpenAIはともに両法律を支持している。
連邦レベルでは、民主・共和両党の議員が共同で「FRONTIER法」を提出。IVOを政府認定機関として制度化し、AI企業の安全基準への適合を検証する権限を付与する内容だ。OpenAIのグローバル・アフェアーズ担当Chris Lehaneは法案スポンサーと面会し、IVO条項への支持を直接伝えたとしている。
ただし、政府が評価機関を認定・監督する体制が整うまでには時間がかかる。Fathomのフリードマンは「その間も、企業が独立評価機関と連携する筋肉を鍛えておく価値はある」と述べている。
詳細はAI's quiet safety gatekeepers are stepping into the spotlightを参照していただきたい。
