又出现了一种向聊天机器人注入恶意提示的新方法。在人工智能黑客技术的新兴领域,间接提示注入已成为诱导聊天机器人泄露敏感数据或执行其他恶意行为的基本手段。谷歌 Gemini 和 OpenAI ChatGP...
黑客利用提示词注入严重篡改Gemini AI长期记忆
近日,一场针对谷歌 Gemini Advanced 聊天机器人的复杂攻击被曝光。该攻击利用间接提示词注入和延迟工具调用这两种手段,成功破坏了 AI 的长期记忆,使攻击者能够在用户会话间植入虚假信息。这...
向ChatGPT植入恶意长期记忆,持续窃取用户输入数据
研究员发现,只需诱导目标用户操作ChatGPT访问特定文档或网页,即可利用间接提示注入向“记忆”功能植入恶意内容;更进一步,通过更复杂的定制内容网页,研究员还可让ChatGPT后续将所有输入和输出数据...