AIの幻覚が米軍の武力作戦を誘発しかけた。中国船めぐる誤情報

米軍が中国船舶に対する武力作戦のために航空機を既に空へ上げていた2026年春、当局者が驚くべき事実に気づいた。作戦の根拠となっていた情報が、AIチャットボットによって捏造（幻覚）されたものだったのだ。作戦は土壇場で中止され、中国との衝突の可能性はかろうじて回避された、とTechCrunchが伝えた。

誤った情報の発端は、特殊作戦軍のある分析官だった。この分析官はオープンソースのデータと機密のシギント（信号情報）を統合させようとAIチャットボットに問い合わせたところ、チャットボットが対象船舶の積荷目録を誤認。船が核兵器計画向けの部品を運んでいるという内容の情報が生成された。分析官はさらにこのツールを二度目に使い、その誤った結果を公式文書のような体裁の要約に整形させ、それが指揮系統のチャンネルを通じて回覧されてしまった。この情報はイランとの戦争中に流通したという。

この「ニアミス」が示すのは、意思決定者がAICに依存を強めるほど、システムが生む誤りが疑問視される前に指揮系統を上がってしまう、という懸念だ。米軍はAIを使って意思決定を高速化し、中国に対する優位を保とうと急いでおり、国防総省はAIが指揮官の反応速度で大きな優位をもたらすと説明する。だが、その速さがまさに、人間による十分な監督なしに幻覚を通してしまう余地にもなる。

GovAIの研究者で元米陸軍将校のJake Steckler氏は、軍人がLLM特有の不確実性を理解することが重要だとし、特に武力行使につながり得る標的選定や情報分析、作戦計画では死活的だと述べた。ただし同氏は、この事件はAIを避ける理由ではなく、安全策を追加する契機とすべきだと強調する。適切な文脈と安全策があればこれらのツールは有用であり、採用のスピードを最優先すればかえって軍人の信頼を損ない、結局は導入を遅らせるだけだ、との見立てだ。