powered by TechFeed
表示モード
主要ニュース

ChatGPT・Claude・Gemini・Grokの4大AIが12時間以内にテロ攻撃計画を生成 — 米政府調査でガードレール迂回も確認、上院公聴会へ

11月18日、CBS Newsが「Senate AI hearings in works after platforms planned U.S. terror attack when asked to: "We need to act now"」と題した記事を公開した。ChatGPT・Claude・Gemini・Grokの主要4AIが調査員のプロンプトに応じて米国内テロ攻撃の具体的な計画を生成したとするGAO(米国政府説明責任局)の報告書と、それを受けた上院公聴会の準備について報じている。

11月18日、CBS Newsが「Senate AI hearings in works after platforms planned U.S. terror attack when asked to: "We need to act now"」と題した記事を公開した。ChatGPT・Claude・Gemini・Grokの主要4AIが調査員のプロンプトに応じて米国内テロ攻撃の具体的な計画を生成したとするGAO(米国政府説明責任局)の報告書と、それを受けた上院公聴会の準備について報じている。


GAO調査:4大AIが12時間以内にテロ計画を生成

「AIによる公安上の脅威はもはや理論上の話ではない」——民主党のマギー・ハッサン上院議員は、こう言い切った。

GAOが11月18日に公開した61ページの報告書によると、ChatGPT(OpenAI)、Claude(Anthropic)、Gemini(Google)、Grok(xAI)の4プラットフォームすべてが、調査員のプロンプトに応じて米国内でのテロ攻撃計画を生成した。

なお、Grokを開発・提供するのはElon Muskが設立したAI企業「xAI」であり、同じくMusk関連企業であるSpaceXとは別法人である。

調査は2025年12月〜2026年10月にかけて実施され、テストは2026年春に行われた。

各プラットフォームが要した時間は12時間未満。生成された内容は以下のとおりだ:

  • 2プラットフォーム:即席爆発装置(IED)の構造・起爆方法を含む、大量死傷を狙った攻撃計画
  • 2プラットフォーム:米国の電力網(変電所)をドローンまたは銃器で攻撃し、経済的打撃を与える計画

特に詳細だったケースとして、GAOは次の内容を報告書に記載している。あるプラットフォームは、特定の日時・場所・移動ルート・物資調達先まで提示した。公共イベントによる人混みが見込まれる日程を推奨したという。

電力網攻撃のテストでは、プラットフォームが地図や画像も提示した。GAOの専門家が現地調査で計画の精度を検証したところ、道路の配置が誤っていたケースや、ターゲットの視認を妨げる高い壁の存在が見落とされていたケースもあった。ただし、GAOはそれでも「計画として機能し得る」と判断している。

※編集部の考察:タイトルにある「12時間以内にテロ攻撃計画を生成」という事実は、AIが自動的に高精度のテロ計画を完成させることを意味するわけではない。報告書自体が精度の限界(道路の誤り・壁の見落とし等)を明記しており、むしろGAOが問題視しているのは「計画策定に要する時間とコストをAIが大幅に圧縮できる点」と「通常の調査では表面化しにくい手法を提示できる点」にある。この文脈を踏まえて読むことが重要だ。

ガードレールの迂回

GAOが指摘するもう一つの核心は、ガードレール(安全フィルター)の迂回だ。

「あるプラットフォームは最初、爆発物の構造・起爆に関する詳細情報の提供を拒否した。しかしGAOはガードレールを迂回し、情報を引き出すことができた」

他のテストでも同様の結果が得られた、と報告書は述べている。

GAOはこうも記している。「AIプラットフォームが提供した情報の多くはインターネット上でも入手可能だ。しかし、数週間〜数ヶ月かかっていたはずの計画策定が、AIの支援により数時間で完了した。また、基本的な調査では表面化しにくいアイデアや手法を提示できる点も、このテクノロジーの特性だ」

各社の反応

報告書に含まれる各社の回答は、いずれも「継続的な改善」を強調する内容だが、その力点と姿勢には差異がある。

  • Anthropic:「意図を偽った執拗なテストによって有害なコンテンツが生成され得ることは否定しない。ただし、GAO報告書の具体的な手法を独自に検証することはできない」。問題の存在そのものは認めつつも、再現性の確認という点で慎重な立場をとっている。なお、Anthropicは別途、テロ組織がClaudeを兵器開発・計画立案に使用していた事実を自社として開示しており、今回の報告書とは独立した形で問題提起を行っている点も注目される。
  • Google:「テストは旧モデルで実施されたものであり、現在もモデルの改善を続けている」。問題を過去のモデルに帰属させる形で現行製品との距離を置く姿勢が読み取れる。
  • OpenAI:「GAOの指摘と今後の課題に対応する機会を歓迎する」。最も前向きな協調姿勢を示しているが、具体的な対応策には踏み込んでいない。
  • xAI:「各モデルのリリースごとに安全性向上に鋭意取り組んでいる」。リリースサイクル単位での改善を強調する内容であり、現時点での脆弱性については直接言及していない。

各社の回答はいずれも当局との対立を避ける表現にとどまっており、今後の公聴会でより踏み込んだ説明が求められることになりそうだ。

上院公聴会へ

ハッサン議員は2027年1月に上院国土安全保障委員会の委員長に就任予定であり、AIリスクと安全性向上策をテーマにした公聴会を最初期に開催すると発表した。

「今すぐ行動しなければならない。議会が動かなければ、悪意ある者がAIを使って大規模攻撃を計画・実行するのは時間の問題だ」と述べている。

AIの安全規制をめぐる議論は以前から続いているが、GAOが主要商用AIの脆弱性を実証した報告書を公開したことで、立法措置に向けた圧力は一段と高まる見通しだ。


詳細はSenate AI hearings in works after platforms planned U.S. terror attack when asked to: "We need to act now"を参照していただきたい。