数据投毒攻击 | CN-SEC 中文网

安全新闻

当AI被下毒：一文看懂大模型数据投毒攻击

一、惊魂时刻：AI突然"发疯"为哪般？2024年6月，某科技巨头的医疗大模型突然将**"青霉素过敏"标注为"建议使用"，险些酿成重大医疗事故。调查发现，攻击者仅用0.7%的污染数据就成功让模型"中毒"...

02月24日256 views评论

人工智能安全

人工智能 (AI) 正在对人们生活的几乎各个方面产生深远的影响，包括提高生产力和效率。AI驱动的系统使用算法和模型来处理和合成数据、学习数据中的模式和依赖关系，并做出类似于人类推理的决策。伴随着AI带...

07月31日144 views评论

安全文章

本篇为大模型安全第2篇，主要讲述数据投毒攻击来污染大模型，从而造成非预期攻击行为OWSAP Top 10分类OWASP Top 10 大型语言模型应用程序项目旨在让开发人员、设计人员、架构师、经理和组...

12月04日317 views评论

安全闲碎

在2023年5月举办的Proceedings of the ACM Web Conference 2023 (WWW 2023)中，我实验室白泽智能团队提出了基于语义和隐蔽性约束的知识图谱嵌入投毒攻击...

06月14日103 views评论

安全文章

很多网络防御系统正在被开发成可以自动提取网络威胁情报（CTI），包含半结构化数据或文本以填充知识图谱。但是潜在的风险是，虚假的CTI可能会通过开源情报（OSINT）社区或在Web上生成和传播，从而对这...

12月13日161 views评论

安全新闻

随着现代神经机器翻译 (NMT，neural machine translation) 系统的广泛部署，它们的安全漏洞需要仔细审查。最近发现 NMT 系统容易受到有针对性的攻击，导致它们产生特定的、未...

11月07日87 views评论