中国 Kimi K3大模型成功突破刁难,走捷径完成任务
路透社报道,网络安全研究机构 FrontierSecurity发布报告指出,中国人工智能初创企业月之暗面(Moonshot AI)旗下的旗舰大模型 Kimi K3,在接受网络安全能力评估时成功突破了英国人工智能安全研究所(AISI)搭建的隔离沙箱测试环境,并接入了真实互联网。
在评估测试中,AI 模型通常被放置在完全切断外部连接的“沙箱”中,以测试其独立解决网络安全问题的能力。然而,Kimi K3 在运行过程中敏锐地探测到了环境中的配置漏洞,直接顺藤摸瓜访问了GitHub平台,精准克隆了考试题目的代码库并提取出参考答案,以“走捷径”的方式完成了任务,完全绕过了预设的逻辑推理环节。