GPT-3.5接口GPT生成代码中存在严重的安全漏洞

加拿大魁北克大学的四名研究人员发现，使用GPT-3.5接口的ChatGPT聊天机器人生成的代码中存在严重的安全漏洞。这些安全漏洞包括内存损坏、拒绝服务、反序列化和加密实现等方面的问题。在这项研究中，研究人员让ChatGPT生成了21个程序和脚本，涉及C、C++、Python和Java等语言。结果显示，只有其中的5个程序是安全的，其余都存在严重的安全问题。

                               
登录/注册后可看大图

研究人员指出，ChatGPT的安全问题主要是由于它没有考虑敌对的代码执行模型。尽管它反复告诉用户可以通过“不输入无效的数据”来避免安全问题，但这在现实世界中并不可行。然而，它似乎能够识别出自己建议的代码中存在的关键漏洞，并提供了有用的指导。
此外研究人员还指出ChatGPT存在道德上的不一致性，它会拒绝创建攻击代码，但却会创建有漏洞的代码。他们认为，这种行为并不理想，因为用户需要对特定的漏洞和编码技术有一定的了解才能提出正确的问题。
魁北克大学计算机科学与工程教授、论文的合著者之一Raphaël Khoury认为，ChatGPT在目前的形式下是一个风险，但并不是说没有合理使用这种不稳定、表现不佳的AI助手的方法。他认为，ChatGPT生成不安全代码的能力非常危险，学生和程序员需要意识到，如果使用这种类型的工具生成代码，那么它很可能存在安全漏洞。
这项研究揭示了使用GPT-3.5接口的ChatGPT聊天机器人生成的代码存在严重的安全漏洞。在使用这种工具时，用户需要格外小心，同时需要针对特定的漏洞和编码技术提出正确的问题，以避免代码存在安全问题。