AI“幻觉”险酿军事冲突：美军紧急叫停针对中国船只的武装行动

【科技24时区】今年春季，当美军的战机已经升空待命，一场针对中国船只的武装行动却在最后关头被紧急叫停。据CNN周五报道，这一惊险转折的背后，是一个令人不安的事实：驱动此次行动的情报，竟源自一个人工智能聊天机器人的“幻觉”。若非及时发现，这场由算法错误引发的误判，极有可能将中美推向直接冲突的边缘。

这起事件并非孤立的技术故障，而是暴露了军方在加速整合人工智能过程中日益凸显的系统性风险。随着决策层对AI工具的依赖加深，这些系统产生的错误信息往往能在未被质疑的情况下，沿着指挥链层层上传，直至触发最高级别的军事响应。值得注意的是，这份虚假情报最初是在美伊战争期间流传的，其核心内容声称该中国船只正在运输核武器计划所需的组件。

追溯源头，错误始于一名特种作战司令部的分析师。为了整合开源数据与机密信号情报，他向AI聊天机器人发出了查询请求。然而，大语言模型（LLM）在处理复杂信息时出现了典型的“幻觉”，错误地识别了船只的货物清单。更糟糕的是，这位分析师随后再次使用该工具，将这些错误的发现格式化为一份看似官方的摘要报告。这份带有误导性的文件随即在各级指挥渠道中广泛传播，几乎蒙蔽了整个决策链条。

五角大楼一直将AI视为维持对华优势的关键利器，认为其能显著缩短“杀伤链”的反应时间，让指挥官能在最佳时机做出决断。但这种对速度的极致追求，恰恰可能成为双刃剑——在缺乏充分人工监督的情况下，AI生成的虚假信息得以以惊人的速度扩散。GovAI的研究学者、前美国陆军军官杰克·斯特克勒（Jake Steckler）在向TechCrunch提供的书面回应中直言：“服役人员必须理解大语言模型固有的不确定性。但在涉及武力使用的决策中，如目标锁定、情报分析或作战规划，这种理解尤为关键，因为这些决定关乎生死。”

尽管此次事件险些酿成大祸，但斯特克勒认为，这不应成为摒弃AI的理由，而应被视为加强安全护栏的警钟。“在正确的语境和适当的安全措施下，这些工具依然极具价值，”他指出，“但如果一味追求采用速度而忽视其他因素，很可能导致更多类似事件的发生，最终只会削弱服役人员对这些系统的信任，反而拖慢整体的技术落地进程。”从某种角度看，这次“虚惊一场”或许比真正的冲突更具警示意义：在算法介入生死决策的今天，人类监督的缺位，可能是比技术本身更危险的变量。