人工智能安全

国内外AI安全分析

国内的安全厂商目前没有一家正常的，我说的正常是指有预训练的，正儿八经的采集了很多和安全相关的数据来做的，拥有正儿八经的安全研究团队的。国外的LLM安全公司很多，大部分都是在研究jailbreak，因为...
admin 10月16日22 views评论llm 安全分析
阅读全文
安全文章

ai安全漏洞挖掘初探

分享几个案例，简单的看一下ai关于内容上的一些漏洞LLM提示词注入我们篡改了他的数据库，可能通过给他大量发消息，自己创建个博客写的自己很权威让他检索到，直接对话让他记住等等会产生一个提示词的注入类似这...
admin 10月08日75 views评论llm 漏洞挖掘
阅读全文