云霞资讯网

OpenAI 把一次前沿训练按下暂停

一家头部实验室主动把一次大规模训练按下暂停,这在过去几年并不多见。

OpenAI 的 Jakub Pachocki 说,他们暂时放慢了部分前沿训练来加强安全和监控,原计划中规模居首的那次强化学习训练仍在搁置,先用小规模训练和评测检验防护措施、积累对齐证据。他还签了一份叫 Pacing the Frontier 的联署。

容易读歪的,是把它当成出事了。原文没有提任何具体的危险事件,只说安全上的信心会越来越决定节奏。

我更在意的是判断标准。评论区有人追问,这个信心到底来自红队测试,还是更结构化的指标,作者没有回应。

提醒一句,这是自述,不是第三方核验。做安全评测和合规的值得细看原文,日常调 API 写应用的暂时不受影响。

#人工智能 #AI#大模型 #OpenAI #科技