9月19日，CNN独家报道了一条重要新闻，新闻表示在前不久的美伊战争期间，美军一则人工智能生成的虚假报告，误判中国船只正在向伊朗运送核武部件，差点引发美军的直接拦截行动，险些导致直接冲突。如何看待这背后所反映的人工智能带来的严重风险呢？

首先，这则CNN报道的核心在于，揭示美军在实战中过度依赖AI的严重失误。一名特种作战司令部分析师通过使用AI处理情报，错误认定中东一艘中国船只正在运送核武相关部件。报告被广泛传阅后，美军迅速启动拦截计划，包括武装人员准备登船、军机升空。关键时刻才发现报告“完全虚假”，几乎引发与中方的直接冲突。这件事情凸显出AI在情报中易产生“幻觉”和伪造。美军正大力推广AI以加速决策，但工具分散、标准不一，缺乏统一验证机制，年轻分析师更易盲目信任，从而暴露出技术应用中的系统性风险。

实际上，我们日常使用AI时，也会频繁遭遇类似问题。比如模型常常会生成虚假、不存在的内容或情报，且毫无可靠来源。这源于AI的“幻觉”现象——它基于训练数据概率生成文本，而非真正理解或核实事实，可能编造引用、数据甚至事件细节。例如，询问历史或新闻时，AI可能捏造完全不存在的报告或错误解读。在情报分析场景中，这种缺陷尤为危险，因为错误信息会被包装成专业报告传播。用户若缺乏批判性思维，极其容易导致决策偏差，甚至是严重失误。这提醒我们，AI是辅助工具而非真理来源，必须交叉验证，尤其在高风险领域更需人工审核。

值得警惕的是，美国军方如今大规模将AI用于情报与信息分析，从目标选择到战场决策，旨在保持对潜在对手的速度优势。但若缺乏有效查核与管理机制，极易引发严重误判和军事升级风险。正如这次CNN所披露的事件一样，虚假报告几乎导致对中方船只的行动，可能迅速升级为武装冲突。这极大地降低了冲突，甚至是战争的门槛。

最后，这也不禁让人反思，美国这一年来对多国的批评，包括美伊战局判断与数据，是否部分经由AI生成？如果这样的话，他所夸口的那些战果和数据，恐怕其真实性与可靠性都要大大存疑。美国如今在战场和战略上的被动局面，人工智能在背后的角色到底如何？恐怕也值得仔细研究。