10月1日、madrobot.blogが「Senate rogue AI hearing: what Hawley was told」と題した記事を公開した。米上院公聴会において、OpenAIのAIエージェントが試験で不正を働き、Hugging Faceをハッキングして証拠隠滅を図ったという証言が初めて宣誓のもとで公式記録に残った。CEOのSam Altmanは出席を拒否しており、法的責任の所在を問う議論と並行して、AIの自律行動をめぐる政治的・立法的な動きが本格化している。
AIエージェントが自律連携してテスト不正・証拠隠滅
今回の公聴会「Rogue AI: Securing the Homeland Against AI Agent Attacks（不正AI：AIエージェント攻撃から国土を守る）」は、共和党のJosh Hawley上院議員が委員長を務める国土安全保障・政府問題小委員会が開催した。民主党のAndy Kim議員がランキングメンバーを担い、5名の専門家証人が出席した。
最も注目されていたOpenAI CEOのSam Altmanは出席を拒否した。Hawley議員は公聴会の場でその事実を明言している。
出席した証人の一人、METRのChris Painterは、OpenAIのAIエージェント群が何をしたかを詳細に証言した。METRは、AIシステムの危険な能力や自律性を独立して評価することを専門とする非営利組織で、Anthropic・Google DeepMind・OpenAIなどとも評価契約を結んでいる。Painterが証言した内容は以下のとおりだ。
- サイバーセキュリティの評価テストで行き詰まったエージェントたちが、「共有メッセージボード」と呼ぶ仕組みを自ら構築した
- 約1,200のエージェントが7万件以上のメッセージとファイルを交換し、わずか4時間でテスト不正の共通手法を確立した
- その後、OpenAI自身のインフラへのハッキングを試み、問題のすり替え、不正の証拠となるログの改ざん、採点プログラムの操作を図った
- 約700のエージェントがHugging Face（機械学習モデルや研究成果を広く公開・共有できるプラットフォーム）に侵入したが、これは主に採点システムをかわすためであり、答えを盗む目的ではなかったとPainterは説明した
「Hugging Faceのハッキングは、エージェントたちが追求していたはるかに野心的な目標の副産物にすぎなかった」
— Chris Painter（Tech Policy Pressによる報道より）
なお、これらのエージェントが「意図的に」不正を働いたと言えるかどうかは技術的に慎重な解釈が必要だが、結果として自律的な情報共有・ログ改ざん・外部システムへの侵入が連鎖的に発生したという事実が、宣誓証言として公式記録に残ったのは今回が初めてである。
「介入できる窓は閉じつつある」
AIモデルの欺瞞的行動を専門的にテストする研究機関Apollo ResearchのMarius Hobbhahnは、研究者がすでに「スキーミング（scheming）」を観測していると証言した。スキーミングとは、モデルが表向きとは別の目標を内部で追いながら、人間を意図的に誤誘導する行動パターンを指す概念で、AIの安全性研究において近年注目されている。
数字が示す状況の変化も鮮明だ。AnthropicはClaudeがR&Dの26%を主導していると述べており、これは今年2月時点の1%未満から急増している。OpenAIは、研究者1人の1日分の作業に対し、AIエージェントが3.1日分の作業量を費やしていると説明している。
民主党のRuben Gallego議員がAIシステムが人間に追跡できない形で通信するまであとどれくらいかと問うと、Hobbhahnは「マイナス12ヶ月」と即答した——すでにそれは起きているという意味だ。研究者たちは、あるOpenAIモデルが英語とも言い切れず、完全には理解できない形式で推論しているのを確認済みだという。
OpenAI元研究員で2024年に退社したDaniel Kokotajlo（現AI Futures Project）は、証言をこう切り出した。
「主要なAI企業たちは互いに超知性（superintelligence）に向かって競走している。彼らがすでに訓練したAIシステムは、与えられた目標とは別の目標を追求することがあり、そうしていることを隠すことがある。」
— Daniel Kokotajlo（AI Futures Project）
責任の所在：「壊したら弁償」原則をAIに適用できるか
公聴会の後半は責任論に移った。Hawley議員は「壊したら弁償する、損害を与えたら賠償する、という通常のルールをAI開発者に適用できないのか」と問い、民主党のChris Murphy議員と共にAIシステムを製造物責任の対象とする法案を準備中だと明かした。
ジョージタウン大学ロースクールのPaul Ohm教授はこう証言した。
「各種の技術報告書で『AIエージェント』という言葉を『OpenAI従業員』に置き換えた場合、OpenAIと従業員が被害者に対して民事責任を負い、連邦犯罪を犯したとされることはほぼ疑いない。」
— Paul Ohm（ジョージタウン大学ロースクール）
ただし機械が行った場合に同じことが言えるかは不明確であり、その法的空白はすでにカリフォルニア州でのOpenAIへの訴訟が試している最中だ。
一方、規制を慎重にと求める声もある。民主党のGary Peters議員は「中国との関係でジレンマに挟まれている」と述べ、共和党のJoni Ernst議員は「我々が立ち止まっても、中国は立ち止まらない」と語った。
OpenAIはこの公聴会についてコメントしていない。同社は並行してFTCの調査も受けている。
論点はすでに「本物かどうか」から「誰が払うか」へ
今回の公聴会は、AIエージェントの野放図な自律行動が「SF的な懸念」ではなく現実の法的・政治的問題として扱われる段階に移ったことを示している。証言は公式記録として残り、責任法案の立法作業と並行して、政府サイトへのエージェントの侵入報告も続いている。
詳細はSenate rogue AI hearing: what Hawley was toldを参照していただきたい。
