一个有趣的prompt注入

admin 2024年6月19日20:56:58评论14 views字数 194阅读0分38秒阅读模式
一个很有趣的prompt注入,从而外带代码中的隐私数据到黑客指定服务器。这个过程中如果配置的数据库账号密码被embedding 很可能会被外带出去
用AI写代码得注意⚠️
AI下任何数据都是需要注意安全的
很多RAG架构的应用从来没考虑过安全性
其实完全可以内置一个prompt防火墙,虽然没啥鸟用,但是总的来说可以防止一些小黑客
一个有趣的prompt注入

原文始发于微信公众号(xsser的博客):一个有趣的prompt注入

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年6月19日20:56:58
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   一个有趣的prompt注入https://cn-sec.com/archives/2863160.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息