扫码立即加入学习!研究人员开发了一种算法,可将恶意提示词转换为一组隐藏指令,进而要求大模型将用户的对话敏感信息发送给攻击者;该研究测试法国公司Mistral AI的LeChat和中国公司智谱的Chat...
一句话让大模型聊天助手主动泄露对话敏感信息
关注我们带你读懂网络安全研究人员开发了一种算法,可将恶意提示词转换为一组隐藏指令,进而要求大模型将用户的对话敏感信息发送给攻击者;该研究测试法国公司Mistral AI的LeChat和中国公司智谱的C...