9月18日、Taegan Goddardが「U.S. Military Had Close Call After Using AI for False Report」と題した記事を公開した。AIが「存在しない積み荷」を捏造したレポートをもとに、武装した米軍兵士が中国船への乗船準備を整えるまで誰も疑わなかった——そのわずか数分後、事態は辛うじて回避された。
対イラン戦争の緊張下で回覧された「核部品輸送」レポート
2026年春、中東では米国とイランの間で武力衝突が続いていた。イランの核開発を巡る長年の対立が軍事的局面に入り、米軍は同地域で高度な警戒態勢を維持していた。そのさなか、あるインテリジェンスレポートが米軍全体に回覧された。内容は「中東海域を航行する中国船が、核兵器プログラムの部品を輸送している」というものだった。
核拡散の疑いがある中国船という情報は、対イラン戦争の文脈では最高度の警戒を要する案件だ。レポートは直ちに軍内部で共有され、事態は急速にエスカレートした。
拿捕作戦の準備まで進んだ経緯
CNNが4名の関係者の証言として報じたところによれば、米軍は該当船舶の拿捕（だほ）作戦に向けて動き出した。うち2名の証言では、武装した米軍兵士が乗船に向けて実際に準備を整えていた。さらに別の証言によると、軍用機がすでに飛び立っていたという。
意思決定の連鎖は驚くほど高速だった。レポートが回覧されてから乗船準備が整うまでの間、そのレポートがどのように作成されたかを確認した者は誰もいなかった。
作戦直前に判明した「AIが書いたレポート」
事態が急転したのは、作戦実行の直前だった。当局者がレポートの出所を詳しく調べたところ、それが特殊作戦司令部のアナリストによってAIを使って作成されたものであり、そのアナリストが使用したチャットボットが船の積み荷を誤って識別していたことが発覚した。
これはAIが引き起こす「ハルシネーション（幻覚）」の典型例だ。ハルシネーションとは、大規模言語モデルが事実的な根拠のない情報をもっともらしく生成してしまう現象を指す。医療・法律・金融分野での誤用事例はこれまでも報告されてきたが、今回は軍事作戦の引き金になりかけたケースとして、質的に異なる深刻さを持つ。
なぜこれが深刻か
今回の事例が際立つ理由は、複数のリスク要因が同時に重なっていた点にある。
- 検証なきレポートが作戦計画に直結した：AI生成であることを誰も確認しないまま、レポートが軍全体に回覧され、武装部隊の行動準備まで進んだ。
- 地政学的な文脈が最悪だった：対イラン戦争の最中、中国船への武力行使は米中間の直接的な軍事衝突を招きかねない状況だった。中国は米国の主要な核保有国かつ経済的競合国であり、誤った武力行使が持つ外交的影響は計り知れない。
- 止めたのは制度ではなく偶然だった：作戦が回避されたのは、事前に設計された検証体制が機能したからではなく、誰かがたまたまレポートの出所を深掘りしたからだ。
米軍のAI活用とガバナンスの現状
米国防総省（DoD）は2020年にAI倫理原則を採択し、「責任ある」「追跡可能な」「信頼できる」AIの活用を方針として掲げている。また、Joint Artificial Intelligence Center（JAIC）を通じてAIの軍事統合を推進してきた経緯もある。しかし今回の事例は、こうした方針が現場レベルで実効性を持っているかについて、根本的な疑問を投げかける。
軍や安全保障分野でのAI活用が急速に拡大する中、AIが生成したコンテンツが人間のレビューを経ずに意思決定に直結するリスクはますます高まっている。AIハルシネーションの先行事例や課題については、NISTのAIリスク管理フレームワークなども参照に値する。今回のインシデントが、軍におけるAI生成コンテンツの検証プロセス義務化に向けた議論を加速させるかどうかが、今後の注目点となるだろう。
詳細はU.S. Military Had Close Call After Using AI for False Reportを参照していただきたい。
