9月19日、Anna Iovineが「AI generated a fake intelligence report that 'almost started a war'」と題した記事を公開した。AIが生成した偽インテリジェンスレポートが米中間の軍事衝突を寸前で引き起こしかけた事例について、CNNの独自報道をもとに詳しく紹介している。
AIが生成した「核兵器輸送」の偽報告
CNNの独自報道によれば、AIが生成した「完全に虚偽」の報告書が、中国との「戦争をほぼ引き起こしかけた」という。
事件の概要はこうだ。中東にいた中国船舶が核兵器のコンポーネントを輸送しているという内容の報告書がAIによって作成された。米軍はその船への乗り込み（臨検）を計画し、軍用機が実際に飛行していた。しかし、行動に移る直前に当局者が報告書の虚偽を認識し、事態は回避された。
この報告書を作成したのは、特殊作戦コマンドのアナリストで、AIを使ってレポートをまとめたとCNNは報じている。使用されたのが商用のLLM（大規模言語モデル）か政府内部のシステムかは不明だが、軍のAIシステムに詳しい元高官はCNNに対し、内部ツールは「口紅を塗った商用品のコピーに過ぎない」と語っている。
報告書の出所は、ハワイに拠点を置く米国特殊作戦コマンド太平洋（U.S. Special Operations Command Pacific）とみられる。同部門および国防総省はCNNの取材に応じなかった。
なお、記事中では報告書の内容が「核兵器輸送」という極めてセンシティブな主張を含んでいた点が強調されているが、これはAIが捏造した内容であり、実際に核兵器の輸送が行われていたという事実確認はなされていない。
「AI優先の戦闘部隊」を宣言していたトランプ政権
この事件が特に問題となる背景には、トランプ政権がAIの軍事利用を積極的に推進してきた経緯がある。
2026年1月、国防省は「人工知能加速戦略（AI Acceleration Strategy）」を発表。国防長官のピート・ヘグセス氏は「我々はあらゆる領域において『AI優先』の戦闘部隊になる」と述べていた。元記事ではこの省庁を「Department of War」と表記しているが、これはトランプ政権が国防総省（Department of Defense）をそのように呼称し始めたことを反映した表現であり、正式な改称手続きの詳細については現時点で確認中の部分もある。
一方で今月、トランプ大統領はAIに関する懸念を「デマ（hoax）」と発言している。政権としてAIの積極活用を推し進めながらも、そのリスクを軽視する姿勢が示されている格好だ。こうした政策的背景が、現場レベルでのAI出力に対する検証プロセスの軽視につながっていた可能性は否定できない。
高まるAIリスクへの懸念と今回の事件の意味
今回の事件は、AIが単に誤情報を生成するリスクにとどまらず、不完全に検証されたAI出力が軍事行動のトリガーになりうるという現実を明確に示している。人間によるレビューがどの段階で機能したのか、またなぜアナリストが報告書の内容を独自に検証しなかったのかは、現時点では明らかになっていない。
軍事・安全保障の領域では、AIの出力が誤っていた場合のコストが民間利用とは比較にならないほど高い。今回は人間が直前で気づいたことで最悪の事態を回避できたが、それは偶然に近い形での介入だったともいえる。AI出力を鵜呑みにせず、どの段階で・誰が・どのように検証するかという「ヒューマン・イン・ザ・ループ」の設計が、軍事利用においていかに重要かを改めて突きつける事件だ。
AIの軍事活用をめぐる議論は国際的にも加速しており、自律型兵器システムや意思決定支援AIに関する規制・ガバナンスの枠組み整備は各国で急務となっている。今回のような「AIが生成した偽情報が実際の軍事行動につながりかけた」という具体的事例は、その議論に新たなリアリティをもたらすものといえる。
詳細はAI generated a fake intelligence report that 'almost started a war'を参照していただきたい。
