导读人工智能不仅深刻改变了科技发展的轨迹,更成为推动社会进步的关键力量,正积极影响着经济、社会、生活的各方各面。习近平总书记在十九届中央政治局第九次集体学习时的讲话中指出,“人工智能是引领这一轮科技革...
【大模型安全】大模型攻防对抗:揭秘攻击手段与防御策略
大模型攻防对抗:揭秘攻击手段与防御策略 引言 随着科技的飞速发展与智能化的步伐不断加快,人工智能的身影越来越频繁地出现在我们的日常生活中,尤其是大模型的应用。然而,随着其广泛应用,大模型攻防对抗的问题...
BARS:基于深度学习的流量分析系统的鲁棒性认证
一. 引言 深度学习技术被广泛应用于各种流量分析系统,如网络入侵检测系统、概念漂移流量检测系统、流量多分类系统等。然而深度学习在面对攻击数据时易受数据扰动影响,这将导致流量分析器的检测性能下降。本篇研...
LLMs安全:针对业务模型应用场景下提示词攻击的防御检测方案
引言近期OpenAI在DevDay上发布了GPTs功能,允许用户根据特定的需求创建和使用定制版的GPT模型并通过GPTs Store分享给其他用户使用,未来在大模型应用领域已经开始趋于由OpenAI这...
人工智能学术顶会——NeurIPS 2022 议题(网络安全方向)清单、摘要与总结
按语:随着大模型的崛起,将AI再次推向一个高峰,受到的关注也越来越大。在网络安全领域,除4大安全顶会外,一些涉及AI的安全话题,包括对AI的攻防研究,以及应用AI做安全的研究方向,也会发表在AI顶会上...
成果分享|基于结构语义建模的点云分类模型对抗鲁棒性提升与验证方法
2023年6月,在计算机视觉顶会IEEE / CVF Computer Vision and Pattern Recognition Conference(CVPR)上,我实验室丁岱宗博士和张谧教授等...
G.O.S.S.I.P 阅读推荐 2023-05-11 StyleFool
今天要给大家推荐的论文是来自清华大学、澳大利亚CSIRO’s Data61中心和斯威本科技大学联合投稿的关于视频对抗攻击的论文StyleFool: Fooling Video Classificati...
【顶会论文分享】开放环境下的鲁棒异常检测
机器学习模型有效的前提假设是:训练阶段与模型部署阶段的数据分布一致,然而在真实世界中,数据往往是变化的,输入与输出之间的关联性也会发生变化,这种现象(概念漂移)会导致机器学习模型的表现下降;异常检测任...
G.O.S.S.I.P 阅读推荐 2022-11-29 NAS Privacy
大家好,今天给大家推荐的是一篇来自CISPA Helmholtz Center for Information Security张阳研究组,NetApp和清华大学网络与信息安全实验室互联网和云安全研究...
高鲁棒性恶意流量识别研究
今天为大家介绍一篇清华大学计算机系徐恪老师团队在ACM CCS‘21上发表的文章,其解决了智能恶意流量识别系统中实时性鲁棒性不可兼得的难题。Realtime Robust Malicious Traf...
进化的隐藏水印:深度学习提升版权保护的鲁棒性
一、前言过去几年,以网络视频为代表的泛网络视听领域的崛起,是互联网经济飞速发展最为夺目的大事件之一。泛网络视听领域不仅是21世纪以来互联网领域的重要基础应用、大众文化生活的主要载体,而且在推动中国经济...
高效、私有且健壮的联邦学习
原文标题:Efficient, Private and Robust Federated Learning原文作者:Meng Hao, Hongwei Li, Guowen Xu, Hanxiao C...