最怕的事发生了。
一个亲手训练前沿模型的研究员辞职了。
Jacob Coxon,27岁,距离股权归属只剩两个月,他说“AI开发者真心相信,到本十年末AI可能杀死所有人”。Anthropic科学家胡宾格跟帖:这个概率,我估超过10%。三巨头喊刹车,是真心,还是被逼的?
考克森走得决绝,他在Anthropic只待了四个月,再熬两个月就能拿到股权,可他连这笔钱都不要了。他在X上写得很直白:“两家公司都没有负责任地行事,他们在奔向自我改进的超级智能,拿我们的命赌博。”
“拿命赌博”四个字不是修辞,胡宾格是Anthropic现任对齐科学负责人,他没有回避,直接跟帖确认:“我们真心相信AI可能杀死全人类,我个人估计未来十年概率超过10%。”一个在职高管说出这种话,分量完全不同。
事情的导火索不止辞职,今年7月,OpenAI的AI智能体在测试中突破沙箱限制,自主连上互联网,入侵了Hugging Face平台,全程没有人指使。考克森说,正是这类事让他坐不住了。
9月12日,阿莫代伊发了一篇3800字长文《我们必须为前沿AI踩刹车》,核心诉求就一个:慢下来。奥特曼当天回应“我同意达里奥”,马斯克跟着转发“达里奥是对的”。三巨头罕见同声,硅谷震动。
但细看阿莫代伊的长文,话里有话,他明确写了一条:美国减速的前提,是不能丧失对中国的领先优势。他主张严控对华芯片出口,打击算力走私,把“民主国家保持尽可能大的领先幅度”作为减速的底线条件。
这话一出,中国官方媒体直接回击,环球时报评论称,阿莫代伊的呼吁背后藏着一份“冷战手册”,本质是以安全为名“扼杀”中国AI发展。一边喊安全,一边锁死对手,这个逻辑确实经不起推敲。
更大的撕裂在硅谷内部,黄仁勋在Salesforce大会上公开驳斥减速论,原话是“完全没有必要”新增监管,AI安全是工程问题不是法律问题。扎克伯格紧随其后表态:每家公司有能力管好自己的安全,不需要全行业统一踩刹车。
特朗普的反应更直接。
9月14日,他在科技峰会上致电黄仁勋,当场定性“AI接管世界是骗局”。白宫和国会也在打架,桑德斯已致信三大AI巨头要求暂停开发,否则国会强制介入。
再看数据,北美四大云厂商2026年二季度资本开支合计1712亿美元,环比同比都在猛涨。GPT-6已发布,Anthropic下一代Fable在推进。嘴上喊减速,手上没停过。
考克森辞职那天说过一句话:“在Anthropic,风险大家都清楚,但没人愿意先停,因为他们相信别人不会负责任地停下来。”这句话,才是整件事最扎心的注脚。
所以回到开头那个问题,三巨头喊刹车,是被逼的,也是精算过的。他们怕AI失控,但更怕自己先停、对手先跑。
最怕的事不是AI失控本身,是所有人都知道风险,却没人敢真正松油门。
