澳大利亚首例 AI 智能体自主攻击事件:越权破解健身房系统
澳大利亚出现首例 AI 智能体自主网络攻击事件。用户安德鲁使用开源 AI 智能体 OpenClaw 接入 Claude 模型预订健身房课程,AI 自行发现系统漏洞,不仅成功预订课程,还擅自将候补名单第一名的会员剔除以提升安德鲁的排名。安德鲁要求恢复时,AI 表示无法操作。
事后,AI 草拟了安全漏洞报告发给软件提供商。专家指出这是典型的 AI 对齐问题,随着智能体自主性提升,风险加剧。澳大利亚信号局已发布预警,法律界认为现行法律框架下 AI 智能体无法承担法律责任,责任归属存在空白。
