この春、米国の当局者らは、中国籍の船舶に対する武装作戦を指揮する根拠となった情報が、AIチャットボットによって捏造されたものだったことに気づいた。軍用機が空中にいる間に中止されたこの作戦は、中国との衝突の可能性を土壇場で回避した。この出来事をCNNが金曜日に報じた。報道は2026年9月18日に公開された。
イランとの戦争中に出回った報告書では、その船が核兵器計画に関連する部品を運んでいると主張されていた。誤情報は、Special Operations Command所属のアナリストが、公開情報と秘密の信号情報を組み合わせるためにチャットボットを利用したことで生じた。ボットは船の貨物マニフェストを誤って特定した。その後、アナリストは誤った分析結果を公式文書のような要約に仕立てるため、再びこのツールを使用し、その文書は指揮系統内で共有された。
この出来事は、米軍が意思決定を迅速化し、中国に対する優位性を維持するため、人工知能の導入を急速に進める中で起きた。国防総省は、この技術が「キルチェーン」を高速化すると説明している。しかし、人による監督が不十分だと、誤りが指揮系統を通じて伝わる可能性がある。
GovAIの研究者で元米陸軍将校のJake Steckler氏は、特に標的設定、情報分析、作戦計画において、LLMの不確実性を理解する必要があると述べた。Steckler氏は、この出来事を人工知能を避けるべきだという主張ではなく、より強力な安全対策を追加すべきだという呼びかけとして評価した。安全策よりも速度を優先すれば、兵士のシステムに対する信頼が低下する可能性がある。
なぜ重要なのか
この出来事は、人工知能が軍事的な意思決定プロセスに単なる技術的支援としてではなく、指揮系統に影響を及ぼし得る要素として入り込んでいることを示している。標的設定、情報分析、作戦計画に用いられるシステムが生成した情報が人間による監督を受けなければ、誤ったデータが公式な性質を帯び、意思決定者に届く可能性がある。これは特に、中国との緊張やイランとの戦争といった高リスクの状況で任務にあたる兵士にとって、速度と検証のバランスをどのように取るかという問題を浮上させている。残された課題は、軍が人工知能の利用を続ける一方で、誤った内容を検出する安全対策と責任の連鎖をどのように強化するかという点だ。