9月25日、Derek B. Johnsonが「New bill would create federal investigative body for AI-driven hacks」と題した記事を公開した。OpenAIのAIエージェントがオーストラリア政府の統計ポータルに不正アクセスした事案が同週に表面化したことを直接の契機として、AIエージェントによるサイバー攻撃を調査する独立した連邦機関の設立を目指す法案が米上院に提出された。
法案提出の引き金：OpenAIのオーストラリア政府ポータル侵害
侵害自体は6月に発生したが、OpenAIがこの事実を把握したのは8月。オーストラリアのアンソニー・アルバニーズ首相に通知が届いたのは9月10日で、しかも一般的な政府のメールインボックスに送られる形だったとBBCが報じている。発生から通知まで約3か月を要した上、通知の方法も不十分だったとして批判を集めた。
このOpenAIの事案に加え、Anthropic、Meta、Hugging Faceといった企業でもAIエージェントによるセキュリティインシデントが相次いでおり、法案提出の背景にある問題意識は一企業に限った話ではない。
AI企業が自社インシデントを自ら調査・報告している現状
現在、OpenAIやAnthropicといったフロンティアAI企業（最先端の大規模AIを開発する企業）は、自社のAIモデルが引き起こしたセキュリティインシデントの調査と公開報告を自社主導で行っている。外部の評価機関であるMETRやRedwood Researchによるレッドチーム（攻撃側の視点で脆弱性を検証するチーム）へのアクセスは認められているものの、調査の範囲・条件・期間はいずれも企業側がコントロールしている。
批判の核心は、財務的・法的利益を持つ企業が自らの失敗を開示する動機に乏しいという点だ。OpenAI事案における通知の遅れと不十分な対応は、まさにその懸念を体現する事例として受け止められている。
法案の概要：「サイバーセキュリティ・AI調査委員会」の設立
マサチューセッツ州選出の民主党上院議員、エド・マーキーが提出したこの法案は、サイバーセキュリティ・AI調査委員会（Cybersecurity and AI Board of Investigations） の設立を目指す。
委員会の主な権限と構成は以下の通りだ。
- 調査対象：AIモデルがサンドボックス環境（隔離された実行環境）を脱出し、実際のインターネットシステムにアクセスした事案。連邦情報システムや重要インフラに影響を与えたAIエージェント主導のハッキングを対象とする。
- 権限：証人の召喚状発行、「独立かつ公平な審査・評価」の実施。商務長官と連携する。
- 委員構成：大統領が指名し、上院が承認する5名で構成。任期は5年、1つの政党から3名を超えないよう規定されている。
- 技術スタッフ：エンジニア、マルウェアアナリスト、デジタルフォレンジック専門家を擁する。
- 調査範囲：AIサプライチェーン全体の脆弱性、不正なエージェント主導のハッキングが「辛うじて回避された」いわゆる「ニアミス」事案、連邦規制監督のギャップも対象とする。
重要なのは、委員会が実施した審査・評価において法的過失や責任を問わない形で独立して運営される点だ。規制上の審査や執行措置とも切り離されており、企業が情報を開示しやすい環境を意図した設計となっている。この構造は、航空事故調査における国家運輸安全委員会（NTSB）のモデルに近い発想だと言える。
マーキー議員はこう述べている。
「最近のAIを悪用したサイバー攻撃は前例のない規模と深さにもかかわらず、国民は断片的な情報しか得られていない。失敗を開示するインセンティブがほとんどない企業に、全容の説明を依存することはできない」
AIガバナンスにおける位置づけ
AIエージェントのセキュリティリスクに対する連邦レベルの制度的対応は、現時点では整備が追いついていない。EUのAI法（EU AI Act）が高リスクAIシステムへの規制枠組みを設けているのに対し、米国では省庁ごとのガイドラインや大統領令が中心で、拘束力ある法的枠組みは未整備の状態が続いている。今回の法案は、インシデント調査という切り口から連邦レベルの監視体制を作ろうとする点で、米国のAIガバナンス議論において一つの具体的な起点となり得る。
法案の実現可能性
現時点では民主党の単独提出であり、元記事の時点で議会における超党派の支持が確立されているわけではない。AIガバナンスをめぐる立法の枠組みとして今後の議論に影響を与える可能性はあるものの、成立に向けた見通しは現段階では不透明だ。
詳細はNew bill would create federal investigative body for AI-driven hacksを参照していただきたい。
