对抗攻击 | CN-SEC 中文网

安全新闻

AI大模型面临的安全威胁和应对措施

在当今数字化时代，AI 大模型正以前所未有的速度融入到各个领域，从智能语音助手到图像生成，从医疗诊断辅助到金融风险评估，其强大的语言理解与生成能力、图像识别与处理能力等，为人们的生活和工作...

02月18日197 views评论

安全闲碎

前言这篇文章介绍我们前段时间被计算机安全四大顶会之一的USENIX Security 2023接收的论文，也是笔者作为第一作者的第二篇安全四大。论文题目为“QFA2SR: Query-Free Adv...

11月11日76 views评论

人工智能安全

一前言世界数字技术院（WDTA）开发和发布了“大语言模型安全测试方法”，这表明相关人员始终致力于推进关键进展，保证人工智能技术的可信和安全使用。大语言模型等人工智能系统逐渐成为社会各个领域中不可或缺的...

06月25日183 views评论

安全闲碎

[文献整理] 大模型对抗攻击阅读如下论文和材料，整理与LLM对抗攻击相关内容。Survey of Vulnerabilities in Large Language Models Revealed b...

03月26日227 views评论

安全闲碎

目前深度强化学习中的对抗攻击和防御的研究大多集中在静态图像的分类任务方面，而在动态视频方面的应用研究还存在许多空白。对此，首先在 Atari 游戏，即动态视频中实现深度Q 网络（Deep Q Netw...

11月14日14 views评论