9月29日、PyMNTSが「Anthropic and OpenAI Scientists Urge Policymakers to Embed Auditors Inside AI Labs」と題した記事を公開した。AnthropicやOpenAIなどフロンティアAI企業の上級科学者22名が、AIラボへの監査員常駐を政策立案者に求める共同論文を発表したことを報じている。
「AIがAIを開発する」時代に、監査員をラボへ常駐させよ
AnthropicやOpenAIの科学者たちが、業界の枠を超えて規制強化を求める異例の提言を発表した。
AI安全研究者のJack Clark、OpenAIチーフサイエンティストのJakub Pachocki、MicrosoftチーフサイエンティフィックオフィサーのEric Horvitzら22名の上級科学者・学識者・市民社会の専門家が、9月28日（月）にケンブリッジ大学を通じて共同論文を公開した。
提言の背景：「知能爆発」リスク
論文が焦点を当てるのは、「インテリジェンス・エクスプロージョン（知能爆発）」と呼ばれるシナリオだ。AIがAI自身の研究開発に深く関与するようになることで、技術の進歩が加速し、人間による監視能力を超えてしまう事態を指す。
この問題の深刻さを示す具体的な数字がある。Anthropic社内において、AIシステムが高レベルの監督のみでAI研究開発業務を担う割合は、2025年3月〜8月の5ヶ月間で1%から26%に急上昇した。これはAnthropicの社内環境に限定したデータだが、開発の自律化が短期間でこれほど進んだという事実は、外部からの検証の仕組みが欠如したまま開発が進む現状への危機感を裏付けている。
論文のエグゼクティブサマリーは、知能爆発がもたらしうるリスクとして以下を列挙している：
- AIを悪用したパンデミックの引き起こし
- 大規模サイバー攻撃
- 広範囲にわたる労働市場の混乱
- AIが人間の制御から逸脱する事態
具体的な政策提言：3つの柱
著者たちは政策立案者に対し、大きく3方向での対応を求めている。
1. AI R&Dの可視化
フロンティアAI企業に監査員を常駐させ、開発自動化の実態を把握できる体制を整える。加えて、技術進捗の主要指標を当局へ定期報告することを義務付ける。AIラボの内部にアクセスできる外部の目を制度的に確保することが、この柱の核心だ。
2. 知能爆発の制御手段の整備
具体的な安全要件の設定、AI能力の成長ペースの制限、高リスクなAI研究実験を停止するオプションの確保、実験を隔離された安全環境で実施することの義務化、インシデント情報の共有体制の構築が求められている。さらに「競争に遅れる」ことを恐れずに開発ペースを調整できる国際合意の締結も提言に含まれており、単一国の規制では対処しきれない問題として位置づけられている。
3. 社会的な準備
AIが法律に従って機能することの担保、市民・市民社会・政府がAIの有害な利用を検知できる仕組みの整備、知能爆発がもたらす影響に対する緊急対応計画の策定。技術的な制御だけでなく、社会全体としての受け皿を整えることを求めている点が特徴的だ。
業界全体でガバナンスの議論が活発化
この論文が公開されたのは、業界の動向が集中した一週間のなかでの出来事だ。
論文公開の5日前（9月23日）には、Anthropic CEO Dario AmodeiとOpenAI CEO Sam Altmanが国連安全保障理事会の会合に出席し、AIリスクへの対応としてグローバルな基準の必要性を訴えた。また9月24日には、Anthropic・OpenAI・Googleが年内もしくは来年初頭を目標にAI安全基準を策定する標準化団体の設立を目指していると報じられた。
さらにOpenAIは9月25日、自社のAIモデルに関連したセキュリティインシデントの発生を受け、AIトレーニングを一時減速したと発表している。
現場の科学者たちが自ら規制を求める提言を出すのは珍しい。ラボ内部の動向を知る立場からの発信という点で、この論文は政策議論における重みを持つ。
詳細はAnthropic and OpenAI Scientists Urge Policymakers to Embed Auditors Inside AI Labsを参照していただきたい。
