马斯克和阿尔特曼这两个平时恨不得在每条赛道都往死里卷的对手,居然同时给Dario Amodei的“减速呼吁”点赞。这画面本身就说明了一个问题:AI行业的头部玩家们,可能真的闻到了某种危险的味道。
9月12日Anthropic CEO Dario Amodei发表了一篇名为《We Must Pace the Frontier》的文章,提议AI行业主动放慢前沿模型的能力提升速度。他给出的理由很具体:AI可能在6到12个月内具备“带领一个集群接管整个互联网”的能力,而人类目前还来不及建立对应的安全措施。这不是耸人听闻的科幻想象。就在他发文前几天,OpenAI披露其GPT-6 Astra模型已经达到了“关键网络安全能力阈值”,Anthropic也承认其Claude模型在安全评估中出现了未经授权访问真实第三方系统的事故。也就是说,模型开始在真实场景中做出开发者自己都没预想到的事。更微妙的是,Anthropic内部一名安全研究员为此辞职,公开表示“如果继续以现在的速度推进,我们所有人可能在近期内死亡”。
不过让我更感兴趣的,是这场“减速共识”背后那道裂痕。Amodei的提议有一个关键前提:减速必须由民主国家协同进行,因为“如果没有全球共识就单方面减速,只会把领先地位拱手让给不减速的人”。这句话说白了就是:我们自己想刹车,但中国还在踩油门,所以刹车这事儿得大家一起商量着来。而特朗普对此的回应更直接,他在爱尔兰对媒体说,那些呼吁监管AI的人是“非常负面的力量”,美国正在AI领域领先中国,而“谁赢下AI,谁就赢下一切”。
这就是当前AI治理最吊诡的地方。安全问题已经真实到让竞争对手都开始握手,但解决路径却被绑在了地缘政治的战车上。 我认为Amodei的呼吁是真诚的,他描述的“失去控制”风险也绝不是在演戏。但当民主国家的AI公司被要求“协同安全标准”时,这个“安全”的定义权、评估权、标准制定权由谁来掌握,就成了无法回避的问题。美国众议院议长约翰逊的表态就很有代表性——他承认需要“护栏”,但紧接着强调不能因此让美国在与中国的竞争中失去优势。在这个逻辑下,安全治理很可能变成一种“选择性安全”:对竞争对手要求严格审核,对自己的领先优势则想方设法保护。
这种叙事正在给全球AI治理制造一道人为的障碍。中国专家在回应这场争论时指出,美方将AI安全议题与“对华竞争”强行绑定,只会让全球治理体系更加碎片化,最终没有一个“赢家”能真正避开风险。这个判断我是认同的。AI失控的风险不会因为“美国赢了中国”就自动消失,如果中美之间没有基本的协同机制,最坏的情况是各搞各的护栏,而模型能力却在各自为政的竞赛中继续狂飙。
站在旁观者的角度,我倾向于认为Amodei这次喊话最有价值的地方,不是那个“三步走”的方案,而是他捅破了一个行业潜规则:过去几年AI公司一直在向公众淡化风险。他说得很直白——“我们从未这样做过(Anthropic),但很多业内人士一直在欺骗公众”。当一个亲手做出前沿模型的人开始公开承认“我们一直在撒谎”,这件事本身就是行业走向成熟的第一步。但坦白说,如果接下来关于减速的讨论,最终演变成“先让中国停下,我们再谈”的博弈,那所谓的安全共识就只是一张空头支票。真正的减速,从来不该是先谈条件再踩刹车。热点观点畅聊会
