战忽智库

CNN近日披露：今年春季美伊冲突正酣之际，美军险些因一份人工智能生成的虚假军情报告，对中国船只动武。

据CNN报道，美军特种作战司令部一名情报分析师借助AI聊天机器人整理"军情报告"，称一艘位于中东海域的中国船只正向伊朗运送核武器计划相关部件。报告在美军内部迅速传播，随即触发最高级别作战响应：美军拟定拦截计划，武装人员准备登船，战机升空待命。行动即将执行前，一名官员深入核查后发现，这份情报竟系AI"编造"。知情人士称，报告"完全虚假"，却"差点引发了一场战争"。倘若武装登船成真，两个核大国恐将正面冲突。事发后，五角大楼与太平洋特种作战司令部均未回应置评请求。

这起"致命幻觉"如何产生？第一步，分析师将美军太平洋特种作战司令部掌握的船只货运清单输入AI聊天机器人，机器人将公开来源情报与美方机密信号情报混合处理，最终给出错误判断。

第二步，AI出现"幻觉"，把船上普通物资误判为"核武器相关部件"。一名前美军官员称，内部使用的AI工具"基本上是商业产品的复制品，只不过涂了口红"。第三步，分析师再次使用AI，将错误结论整理成格式规范的专业情报报告并按流程分发。因格式标准、行文专业，报告在流转中获得高度信任，无人起疑。正如CNN援引消息人士所言："AI让你更快抵达一个坏主意。"

表面看，责任在轻信AI的分析师；深层看，这是系统性风险。其一，AI应用加速而验证缺位。国防部长赫格塞思今年1月发布"人工智能加速战略"，计划把美军打造成"人工智能优先"的作战力量，通过七个"节奏设定项目"推动AI全面嵌入情报分析与目标选择等环节。然而，美军目前缺乏验证AI生成情报的统一流程，加速应用与验证缺位构成致命组合。其二，各部门AI模型"各自为政"。不同军种和部门使用不同工具，缺乏协调一致，甚至各作战单位在特定时刻使用何种系统都无统一规范，更谈不上交叉验证。其三，AI只是加速了一个本就存在问题的流程。2003年，美军凭错误情报发动伊拉克战争；1998年，又因错误情报轰炸苏丹制药厂。历史一再证明，错误情报一旦进入决策链条，后果往往由无辜者承担；而AI的出现，只是让错误来得更快、更隐蔽。

最令人警惕之处，不在于AI"撒谎"，而在于谎言以标准报告的外衣在决策链条中快速传导，压缩了人类复核的时间窗口，使"停下来多看一眼"的环节被系统性省略。美方正以"战时姿态"全面押注AI军事应用，有官员坦言，美国在AI整合上不能落后，否则未来与中国等对手交锋时将处于下风。这种"为求领先而牺牲验证"的紧迫感，恰是危险的来源。

中国立场一贯清晰。国防部新闻发言人蒋斌此前表示，中方坚持"以人为本、智能向善"原则，认为人工智能军事应用应坚持由人主导，反对利用AI等新兴技术优势谋求绝对军事霸权。不加限制地推进AI军事化，让算法掌控人的生杀大权，不仅侵蚀战争的伦理与责任约束，还可能导致技术失控。此次事件恰恰印证了这一担忧：当AI在情报分析与目标选择等关键环节权重日增，而验证机制跟不上应用速度时，一次"幻觉"就可能变成一次开火指令。

一份"完全虚假"的报告，险些让两个核大国在海上兵戎相见。阻止这一切的不是AI，而是一名人类官员在最后一刻的"多看一眼"。下一次，他还有时间看吗？