一个有趣的prompt注入 admin 138890文章 114评论 2024年6月19日20:56:58评论14 views字数 194阅读0分38秒阅读模式 一个很有趣的prompt注入,从而外带代码中的隐私数据到黑客指定服务器。这个过程中如果配置的数据库账号密码被embedding 很可能会被外带出去用AI写代码得注意⚠️AI下任何数据都是需要注意安全的 很多RAG架构的应用从来没考虑过安全性 其实完全可以内置一个prompt防火墙,虽然没啥鸟用,但是总的来说可以防止一些小黑客 原文始发于微信公众号(xsser的博客):一个有趣的prompt注入 免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。 点赞 https://cn-sec.com/archives/2863160.html 复制链接 复制链接 左青龙 微信扫一扫 右白虎 微信扫一扫
评论