前Anthropic员工听证会警告：AI可能致人类灭亡。
前Anthropic员工考克森10月5日在纽约听证会上表示，照目前路径，人类会失去对AI的控制并最终灭亡。他批评AI公司奉行初创企业思维：“快速行动，打破常规，事后修补。这适用于照片分享应用，但对于构建有史以来最强大的技术而言，行不通。”
这并非孤例。比尔·盖茨此前警告，AI已强大到可能被用于引发导致10亿人死亡的事件，仅靠行业自律远远不够，需要执法部门和政治人物参与制定强制性监管。Anthropic科学家曾称十年内AI灭绝人类概率超10%，CEO阿莫代伊呼吁放缓研发，马斯克、奥尔特曼一度支持。但随后四家AI巨头因“协同放缓”被起诉违反反垄断法，黄仁勋又公开反驳“末日论”，称2030年成世界末日的可能性为0%。
一边是造AI的人警告“可能死10亿人”“可能灭亡”，一边是特朗普称AI监管是“骗局”、巨头们因“协同”被告、黄仁勋说“制造恐慌不负责任”。考克森在听证会上说“这行不通”，但问题在于：当警告来自被监管者自身，当“安全”叙事与商业利益纠缠不清，谁来决定哪些是真警告、哪些是竞争策略？AI的风险讨论已经够多了，缺的是让讨论落地的机制。而这件事，行业自己做不到。