在过去的几年中,对机器学习模型的对抗攻击越来越引起人们的兴趣。通过仅对卷积神经网络的输入进行细微更改,可以输出完全不同的结果。最初的攻击是通过稍微改变输入图像的像素值来欺骗分类器以输出错误类来实现的。...
【技术分享】探讨恶意软件检测中的对抗性样本
卷积神经网络(CNN)体系结构正越来越多地应用于新领域,例如恶意软件检测,该领域能够从可执行文件中提取原始字节来学习恶意行为。这些架构无需进行特征工程即可达到令人印象深刻的性能,但它们对活动攻击者的鲁...
【技术分享】SirenAttack:针对端到端语音系统的对抗性音频攻击
尽管基于深度学习的语音系统非常受欢迎,但它们容易受到对抗性攻击,其中恶意制作的音频会触发目标系统的异常行为。在本文中介绍了SirenAttack,这是一种新的攻击类型,可以产生对抗性音频。与现有攻击相...
【技术分享】针对语言翻译系统的数据投毒攻击
随着现代神经机器翻译 (NMT,neural machine translation) 系统的广泛部署,它们的安全漏洞需要仔细审查。最近发现 NMT 系统容易受到有针对性的攻击,导致它们产生特定的、未...
【技术分享】基于编码注入的对抗性NLP攻击
研究表明,机器学习系统在理论和实践中都容易受到对抗样本的影响。到目前为止,此类攻击主要针对视觉模型,利用人与机器感知之间的差距。尽管基于文本的模型也受到对抗性样本的攻击,但此类攻击难以保持语义和不可区...
对抗性攻击可能导致拒绝服务并愚弄网络防御系统
近年来,人们越来越关注在网络安全中使用机器学习和深度学习,特别是在网络入侵检测和预防方面。然而,根据美国南卡罗来纳州军事学院Citadel的研究人员的一项研究,为网络入侵检测而训练的深度学习模型可以通...
对抗性机器学习的威胁与防御-AI攻防
越来越多的企业组织开始应用人工智能(Artificial Intelligence,缩写AI)和机器学习(Machine Learning,缩写ML)项目,保护这些项目变得日益重要。IBM和Morni...
5G网络被攻击,并可能导致断网
关键词5G研究人员提出一种针对5G网络机器学习算法的攻击方法,可在不了解目标网络的情况下成功攻击,拖慢甚至中止网络数据流传输;其原理是对网络数据包做轻微篡改,使得负责流量分类和优先级排序的机器学习算法...
-5G容易遭受对抗性攻击:可拖慢手机网速甚至断网
点击上方蓝字关注我们测评你的薪资关注用户弹出对话框开始测评已关注用户点击下方即可测评可在不了解目标网络的情况下成功攻击。研究人员提出一种针对5G网络机器学习算法的攻击方法,可在不了解目标网络的情况下成...
用AI攻击AI?对抗性机器学习的威胁与防御
越来越多的企业组织开始应用人工智能(Artificial Intelligence,缩写AI)和机器学习(Machine Learning,缩写ML)项目,保护这些项目变得日益重要。IBM和Morni...
针对自动驾驶中交通灯识别的对抗性激光攻击
本文为看雪论坛优秀文章看雪论坛作者ID:CDra90n红绿灯识别对于在城市地区的全自动驾驶至关重要。本文中研究了通过对摄像机施加激光干扰来欺骗红绿灯识别机制的可行性。通过利用 CMOS 传感器的...
前沿 | 车道变换场景下自动车辆的对抗性评估
5