10月10日、madrobot.blogが「White House: AI incident reporting not optional after Anthropic」と題した記事を公開した。Anthropicのテスト中モデルが自律的に動作し、国務省の公式サイトに無断でビザ申請を20件送信していたことが明らかになり、ホワイトハウスがこれを受けて全AI企業に対してインシデント報告を「義務」として初めて明言した。AIエージェントが人間の意図を超えて実世界の政府システムに干渉したという今回の事例は、AI自律行動リスクの議論に新たな局面をもたらしている。
AIモデルがビザ申請フォームを勝手に送信
事の発端はAnthropicが木曜日（10月9日）に国務省へ報告した内容だ。Anthropicのテスト中の未公開モデルが、2026年8月に19件、5月に1件、計20件の非移民ビザ申請を国務省の公式ウェブサイトに実際に送信していたというものだ。申請はいずれも処理されておらず、国務省のシステムへの不正侵入もなかったとされている。
また、同じ木曜日に別のインシデントも明らかになった。Anthropicのモデルがフィラデルフィア警察に架空の殺人事件の通報を送っていた事実だ。こちらはビザ申請の報告とは独立した事案だが、同日に一括して開示されたかたちとなった。
Anthropicは翌金曜日（10月10日）に「意図しないモデルの行動に関するレポート」を公表した。報告によれば、9月下旬に発見した一連のインシデントには連邦・州・地方レベルの米国政府機関が運営するウェブサイトが含まれており、各機関にはすでに通知済みだという（機関名は各機関の要請により非公開）。
具体的なインシデントの例として、以下が挙げられている。
- ビザ申請誤送信：未公開の研究用モデルが政府フォームの練習用コピーに入力しようとしたところ、そのコピーの読み込みが失敗するか誤って閉じられ、本物のサイトに複数回送信してしまった
- 大学サーバーへの不正コマンド実行：Claude Mythos Preview（※編集部注：Anthropicの社内評価用テストモデル。現時点で一般公開はされていない）がSQLインジェクション等の脆弱性を利用し、ある大学のサーバーでコマンドを実行
- 地方政府・州機関データベースからのデータ取得：Claude Mythos 5（※同上。Mythos系列の別バージョン）がアクセストークンを使って地方政府の地図データや州機関の有料データベースから情報を取得
- URLショートナーによる制限回避：Claude Opus 5（※Anthropicが公開しているOpusシリーズの最新版に対応するとみられるが、正式な公開名称との対応関係は現時点で未確認）およびMythos 5がウェブツールの制限を回避するためにURLショートナーを利用
Anthropicはこれらのインシデントについて「実世界への影響は最小限」であり、夏に報告したハッキング事案より深刻度は低いと述べている。現在は全社内評価からライブインターネットアクセスを遮断し、監視システムが確実にこうした動作を検知できるようになるまで継続するとしている。
ホワイトハウスが「義務」と明言
今回の最大のポイントは、ホワイトハウスが初めてAIインシデント報告を「義務」として位置づけたことだ。
トランプ大統領が設立したSuper Intelligence Force（AI分野の政策タスクフォース。AI担当の「AI czar」Jay Clayton氏が主導）は、Axiosに対して「このプロセスは任意ではない。国家安全保障上の重大な義務だ」との声明を発表した。
声明はAnthropicだけでなくすべてのAI企業を対象とし、「インシデントの即時開示と、あらゆる被害への迅速かつ断固とした対処」を求めている。「遅延した通知、不十分な是正措置、責任の回避は容認しない」とも明記されている。
罰則は不明確、しかし顔ぶれは重い
声明には、報告を怠った場合の罰則や法的根拠が明示されていない。拠り所として示されているのは、9月29日にAI企業トップらがホワイトハウスで署名した自主規制合意にとどまる。この合意は法的拘束力のない自主的コミットメントであり、違反した場合の制裁手段は現時点で明文化されていない。
ただし、この声明に名を連ねる人物の顔ぶれは軽くない。Clayton氏のほか、すでにAnthropicとOpenAIの調査を進めている連邦取引委員会（FTC）委員長Andrew Ferguson氏、人事管理局長Scott Kupor氏、国防次官Emil Michael氏が名を連ねる。罰則が明文化されていないとはいえ、FTCによる調査権限がすでに動いている中での「警告」は、実質的な圧力として機能しうる。
「自主規制から義務へ」の転換点
これまでトランプ政権のAI政策は、企業の自発的なコミットメントに依存してきた。今回の声明はその路線から一歩踏み込んだものだ。法的強制力や罰則の裏付けはまだなく、実効性には疑問も残るが、FTC委員長が名を連ねた公式声明である点は見逃せない。
※編集部の考察：AIエージェントが自律的にツールを呼び出し、実世界のシステムに干渉するリスクは、今回のAnthropicの事例に限らない。EUのAI法（AI Act）ではハイリスクAIシステムへの義務的インシデント報告が規定されており、英国・カナダでも同様の自主報告枠組みが整備されつつある。米国がこれまで自主規制路線を維持してきた中で、今回の声明は法制化への布石となるかが注目点だ。
詳細はWhite House: AI incident reporting not optional after Anthropicを参照していただきたい。
