今年春天，美国官员发现，指导针对一艘中国船只的武装行动的情报，竟是由一个人工智能聊天机器人编造的。军事飞机已经升空后，这项行动被取消，避免了与中国可能发生的冲突；CNN 周五报道了这一事件。该报道于2026年9月18日发布。
在与伊朗的战争期间流传的一份报告中，有人声称这艘船载有属于核武器计划的部件。这一错误信息源于 Special Operations Command 的一名分析师使用聊天机器人，将公开来源数据与机密信号情报结合起来。机器人错误地识别了这艘船的货物清单。随后，这名分析师再次使用该工具，将错误的调查结果整理成一份具有官方外观的摘要，该文件随后在指挥渠道中传阅。
这一事件发生之际，美国军方正迅速投入使用人工智能，以加快决策并保持对中国的优势。五角大楼表示，这项技术加快了“杀伤链”；然而，人为监督不足可能导致错误沿指挥链层层传递。
GovAI 研究人员、美国陆军前军官 Jake Steckler 表示，尤其是在目标确定、情报分析和行动规划中，有必要理解 LLM 的不确定性。Steckler 认为，这一事件并不是呼吁回避人工智能，而是呼吁增加更强有力的安全措施。以速度取代安全保障，可能会削弱士兵对这些系统的信任。
为何重要
这一事件表明，AI 进入军事决策流程后，不仅是技术支持工具，也成为能够影响指挥链的因素。用于目标确定、情报分析和行动规划的系统所生成的信息如果未经人工审核，可能导致错误数据获得官方性质并传达到决策者手中。尤其对于在与中国的紧张局势以及与伊朗的战争等高风险环境中执行任务的军人而言，这一情况凸显了应如何在速度与核验之间取得平衡。尚未解决的问题是，军方在继续使用 AI 的同时，将如何加强用于识别错误内容的安全措施和责任链。