一个有趣的prompt注入

admin
admin
admin
108348
文章
90
评论
2024年6月19日20:56:58评论2 views字数 194阅读0分38秒阅读模式
一个很有趣的prompt注入，从而外带代码中的隐私数据到黑客指定服务器。这个过程中如果配置的数据库账号密码被embedding 很可能会被外带出去
用AI写代码得注意⚠️
AI下任何数据都是需要注意安全的
很多RAG架构的应用从来没考虑过安全性
其实完全可以内置一个prompt防火墙，虽然没啥鸟用，但是总的来说可以防止一些小黑客
一个有趣的prompt注入

原文始发于微信公众号（xsser的博客）：一个有趣的prompt注入

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年6月19日20:56:58
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出)：
                   一个有趣的prompt注入https://cn-sec.com/archives/2863160.html

发表评论

匿名网友 填写信息