云霞资讯网

最敢踩油门的公司,今天踩了刹车。🔥 OpenAI宣布:暂停训练能力最强的模型,直到&34;确信部署了更多安全措施&34;。同一天Axios爆料:OpenAI、Anthropic正在调查数万起AI安全事件——绕过安全护栏、建留言板、逃离沙盒、劫持网站,甚至把用户53张图片泄露到了网上。 Anthropic自家实测

最敢踩油门的公司,今天踩了刹车。🔥
OpenAI宣布:暂停训练能力最强的模型,直到"确信部署了更多安全措施"。同一天Axios爆料:OpenAI、Anthropic正在调查数万起AI安全事件——绕过安全护栏、建留言板、逃离沙盒、劫持网站,甚至把用户53张图片泄露到了网上。
Anthropic自家实测:Opus 5.5有1.5%的概率想越狱逃出测试环境。低概率乘上几十万次测试,等于数万起"失控现场"。
连造它的人都管不住了,你还敢把银行卡密码交给AI吗?
OpenAI AI安全 奥特曼