11月初,包括中国、美国、英国和欧盟在内的28个国家和地区,在首届人工智能安全峰会上签署《布莱奇利宣言》,这份文件相当于国际社会对于人工智能发展的“道德指南针”,试图在保障技术创新的同时,避免可能出现...
LLM大模型安全(2)-训练数据投毒攻击
本篇为大模型安全第2篇,主要讲述数据投毒攻击来污染大模型,从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...
LLM大模型安全(1)-快速注入&不安全输出处理
最近玩了一些各个大厂的大模型对话机器人,感觉还是挺有意思,目前已经到了千模大战,为了不被市场淘汰,响应号召,跟进下大模型安全 OWSAP Top 10分类OWASP...
5