美军内部爆出惊天大雷!AI一张嘴,中国货船被扣进入倒计时,美军差点擦枪走火!
CNN在9月19日刊发的独家调查把这件事的来龙去脉讲得很清楚。今年春天美伊战争打得最凶的时候,美军内部突然流传出一份情报报告,说一艘在中东的中国货船正在运输核武器计划的部件。
指挥层看到这份报告,神经立刻绷紧了。拦截计划很快制定出来,军机升空,特种部队待命,准备登船。
就在行动正式启动前,有人多看了一眼那份报告。这一看不要紧,发现报告是一个分析员用AI聊天机器人搞出来的。分析员只是把货船清单信息输入进去,AI就“脑补”出了一个核部件的结论。
CNN的消息源确认,这份报告“完全是假的”,但它“几乎引发了一场战争”。如果行动真的执行了,中美之间会发生什么,没人敢想。
这件事暴露出来的问题,比表面看起来要严重得多。
先说写报告的这个分析员。他所在的是美军特种作战司令部太平洋分部,专门负责印太方向的敏感行动。按道理,这种级别的单位出具的情报报告,应该有一套严格的核实流程。但这次,一个分析员用AI生成了一份标准格式的情报报告,居然就分发出去了,没人拦下来。
CNN采访的一位前高级官员说了句大实话:美军内部用的这些AI工具,大部分就是商业产品的“换壳版本”,涂了口红而已。这意味着,那些没有经过军事级别安全验证的AI模型,正在被用来处理最高级别的情报。
再往深了看,这不是某个分析员偷懒的问题。五角大楼今年1月发布了“AI加速战略”,国防部长赫格塞斯说要“消除官僚障碍”,“以前所未有的速度”把AI塞进美军各个角落。从情报分析到目标选择,从后勤管理到预算编制,AI的身影无处不在。
但问题是,加速引进的同时,验证机制没有跟上。CNN的报道明确指出,美国政府内部不同部门用的AI工具不一样,安全标准也不统一,对AI生成的信息怎么核实,根本没有统一的规矩。
一位消息人士对CNN说的话,我印象特别深:“AI让你更快地到达一个坏主意。”以前分析员要花几个小时甚至几天去核实一份情报,现在AI几秒钟就能给你一个看起来很像样的结论。效率确实高了,但错得也更快了。
而且这种错误不是孤例。今年2月28日,美以对伊朗发动军事打击首日,伊朗南部米纳卜市一所小学遭到“战斧”导弹袭击,至少175人死亡,大部分是儿童。后来调查发现,美军数据库里关于该地区的情报严重过时,AI系统仍然把学校标记为打击目标。
伊朗人甚至在地上画了一架假飞机,AI识别后,美军就派战机去炸了。这些案例放在一起,指向同一个问题:AI在战场上最大的危险,不是它不够聪明,而是它犯错的时候特别自信,人类根本分辨不出来。
我觉得这件事对中国的启示很直接。
第一,不要被美国渲染的“AI威胁论”带着走。CNN选择在中美高层互动前夕爆出这个料,时间点耐人寻味。把中国、伊朗、AI、核武器、战争这些关键词凑在一起,潜台词不难猜——又在暗示“AI太危险了,大家一起限制吧”。这套路跟当年的核裁军谈判如出一辙:先渲染威胁,再要求限武,最后让对手自废武功。
第二,中国在AI军事化这条路上,必须走自己的节奏。今年9月的北京香山论坛上,中方明确提出了“智能向善、安全可控”的治理导向,主张人工智能军事应用应该“由人主导”。这个立场跟美国的“加速战略”形成了鲜明对比。
第三,也是最实际的一点:中美之间保持军事沟通渠道畅通,在这种背景下比任何时候都重要。不是因为双方要握手言和,而是因为当AI犯错的下一秒,还得有人能拿起电话说清楚。技术没有立场,但技术出错的后果,最终要由人来承担。
一个分析员的AI查询,差一点变成两个核大国之间的军事对峙。这个链条上的每一环,都缺乏有效的人工监督。当五角大楼忙着把AI塞进每一个决策环节的时候,它可能忘了一件事:工具越聪明,用工具的人就越容易偷懒。而偷懒的代价,有时候是整个国家都承受不起的。

