一. 引言 深度学习技术被广泛应用于各种流量分析系统,如网络入侵检测系统、概念漂移流量检测系统、流量多分类系统等。然而深度学习在面对攻击数据时易受数据扰动影响,这将导致流量分析器的检测性能下降。本篇研...
LLMs安全:针对业务模型应用场景下提示词攻击的防御检测方案
引言近期OpenAI在DevDay上发布了GPTs功能,允许用户根据特定的需求创建和使用定制版的GPT模型并通过GPTs Store分享给其他用户使用,未来在大模型应用领域已经开始趋于由OpenAI这...
人工智能学术顶会——NeurIPS 2022 议题(网络安全方向)清单、摘要与总结
按语:随着大模型的崛起,将AI再次推向一个高峰,受到的关注也越来越大。在网络安全领域,除4大安全顶会外,一些涉及AI的安全话题,包括对AI的攻防研究,以及应用AI做安全的研究方向,也会发表在AI顶会上...
成果分享|基于结构语义建模的点云分类模型对抗鲁棒性提升与验证方法
2023年6月,在计算机视觉顶会IEEE / CVF Computer Vision and Pattern Recognition Conference(CVPR)上,我实验室丁岱宗博士和张谧教授等...
G.O.S.S.I.P 阅读推荐 2023-05-11 StyleFool
今天要给大家推荐的论文是来自清华大学、澳大利亚CSIRO’s Data61中心和斯威本科技大学联合投稿的关于视频对抗攻击的论文StyleFool: Fooling Video Classificati...
【顶会论文分享】开放环境下的鲁棒异常检测
机器学习模型有效的前提假设是:训练阶段与模型部署阶段的数据分布一致,然而在真实世界中,数据往往是变化的,输入与输出之间的关联性也会发生变化,这种现象(概念漂移)会导致机器学习模型的表现下降;异常检测任...
G.O.S.S.I.P 阅读推荐 2022-11-29 NAS Privacy
大家好,今天给大家推荐的是一篇来自CISPA Helmholtz Center for Information Security张阳研究组,NetApp和清华大学网络与信息安全实验室互联网和云安全研究...
高鲁棒性恶意流量识别研究
今天为大家介绍一篇清华大学计算机系徐恪老师团队在ACM CCS‘21上发表的文章,其解决了智能恶意流量识别系统中实时性鲁棒性不可兼得的难题。Realtime Robust Malicious Traf...
进化的隐藏水印:深度学习提升版权保护的鲁棒性
一、前言过去几年,以网络视频为代表的泛网络视听领域的崛起,是互联网经济飞速发展最为夺目的大事件之一。泛网络视听领域不仅是21世纪以来互联网领域的重要基础应用、大众文化生活的主要载体,而且在推动中国经济...
高效、私有且健壮的联邦学习
原文标题:Efficient, Private and Robust Federated Learning原文作者:Meng Hao, Hongwei Li, Guowen Xu, Hanxiao C...
G.O.S.S.I.P 学术论文推荐 2021-08-13
今天我们为大家介绍一篇来自国内著名的研究团队——NESALab、发表在2021年CCS学术会议上的研究论文(由一作亲自撰写推荐!)受益于计算力和智能设备的飞速发展,全世界正在经历第三次人工智能浪潮。人...
3