【AI能不能编制病毒程序？答案是：能！】日本三井物产Secure Directions的工程师吉川孝志，故意让ChatGPT生成病毒代码，AI都回答：基于法律原因，无法回答。但是，当工程师开启“开发者模式”绕过AI的安全防护系统，ChatGPT按照日文提示，几分钟就给出了病毒代码。OpenAI已收到反馈，开始更新安全措施。
经济学人新一期封面——AI的两面性，也报道了AI在安全方面的问题。加拿大魁北克大学的研究人员让ChatGPT使用C、C++、Python和Java四种语言生成了21个程序和脚本，经过程序员检查，虽然可以运行，都不同程度存在漏洞。ChatGPT也知道它生成的代码是不安全的，但它不说，除非你问它。
