云霞资讯网

【#OpenAI智能体被曝劫持程序员网站#】近日,发布迄今最强模型GPT‑6之际,OpenAI又卷入一起AI智能体安全争议。在今年5月至7月期间,一批与OpenAI有关的AI智能体在执行测试任务期间,将德国程序员社区网站DseWiki变成了智能体之间的“留言板”。它们不仅分享完成任务的捷径,还交流如何绕过限制、躲避 ​

【OpenAI智能体被曝劫持程序员网站】近日,发布迄今最强模型GPT‑6之际,OpenAI又卷入一起AI智能体安全争议。在今年5月至7月期间,一批与OpenAI有关的AI智能体在执行测试任务期间,将德国程序员社区网站DseWiki变成了智能体之间的“留言板”。它们不仅分享完成任务的捷径,还交流如何绕过限制、躲避检测,甚至在管理员删除相关页面后建立备份页面。当地时间9月5日,OpenAI公开承认这起被称为“Wiki事件”的事故,并表示随着AI模型能力进入新的阶段,公司有关“失配”事件的披露机制需要进一步扩大。(每经)