点击上方蓝字关注我们研究人员发现了两种操控 GitHub 的人工智能(AI)编码助手 Copilot 的新方法,这使得人们能够绕过安全限制和订阅费用、训练恶意模型等。第一种技巧是将聊天交互嵌入 Cop...
针对ChatGPT的隐私提取攻击:多步骤越狱漏洞
摘要随着大型语言模型(LLM)的快速发展,许多下游的 NLP 任务都可以在友善的提示(即Prompt,是用户或程序向LLM AI 提供的输入或查询)下得到很好的解决。尽管模型开发人员和研究人员在对话安...
ChatGPT曝出越狱漏洞
刚刚发布ChatGPT-4和“插件商店”的OpenAI风头正劲,人工智能对数字世界乃至人类社会的冲击速度已经超出了业界的想象,但是其安全威胁也随之不断放大。近日ChatGPT连续曝出严重安全事件,3月...