人工智能与机器学习对网络安全的正面和负面影响

  • A+
所属分类:未分类

人工智能与机器学习对网络安全的正面和负面影响


人工智能(AI)和机器学习(ML)如今深入我们日常生活的方方面面,包括网络安全。在网络安全人员手里,AI/ML可以识别漏洞并减少事件响应耗时。但在网络罪犯手里,AI/ML就能用于制造重大伤害。


AI/ML对网络安全的影响既有正面的,也有负面的。下面我们就列出AI/ML从正面和负面影响网络安全的各七种方式。 


AI/ML对网络安全的七个正面影响


● 欺诈和异常检测:这是AI工具拯救网络安全最常见的方式。复合AI欺诈检测引擎在识别复杂欺诈模式方面效果显著。欺诈检测系统的高级分析仪表盘可以呈现全面的事件详情。这是异常检测中一个非常重要的领域。


● 垃圾邮件过滤:防御规则滤出含有可疑字词的邮件,从而识别危险电子邮件。此外,垃圾邮件过滤还可以保护电子邮件用户,并减少处理多余邮件的耗时。


● 僵尸网络检测:监督和无监督ML算法不仅有利于检测,还可以防止复杂僵尸攻击。此类算法还有助于识别用户行为模式,以相当低的误报率辨别未检出的攻击。


● 漏洞管理:管理漏洞(人工管理或使用技术工具管理)可能会很难,但AI系统能让漏洞管理变得更加轻松。AI工具通过分析用户行为、端点、服务器,甚至暗网上的黑客讨论话题来寻找潜在的漏洞,识别代码漏洞并预测攻击。


● 反恶意软件:AI帮助杀毒软件检测良性和恶意文件,令识别此前从未见过的新型恶意软件成为可能。尽管用基于AI的技术完全替代传统技术可以提高检测速度,但同时也会增加误报。传统方法和AI方法结合使用可以100%检出恶意软件。


● 数据泄露防护:AI帮助识别文本和非文本文件中的特定数据类型。可训练的分类器可以用来检测各种敏感信息类型。这些AI方法可以使用相应的识别算法搜索图片、音频、视频中的数据。


● SIEM和SOAR:ML可以使用安全信息与事件管理(SIEM)和安全编排、自动化与响应(SOAR)工具来改善数据自动化和情报收集,检测可疑行为模式,并根据输入自动响应。


网络流量分析、入侵检测系统、入侵预防系统、安全访问服务边缘、用户及实体行为分析,以及Gartner《安全影响雷达》中描述的大多数技术领域都用到了AI/ML。事实上,我们很难想象有哪个现代安全工具是没有用到一点儿AI/ML魔法的。


AI/ML对网络安全的七个负面影响


● 数据收集:通过社会工程和其他技术,ML可用于更好的受害者画像,而网络罪犯可利用此信息来加速攻击。例如,2018年,WordPress网站经历了基于ML的大规模僵尸网络感染,导致大量用户的个人信息被黑客收割。



● 勒索软件:勒索软件卷土重来。勒索软件的成功例子不胜枚举,最臭名昭著的一起就是Colonial Pipeline经历的六天宕机和440万赎金支付。


● 垃圾邮件、网络钓鱼和鱼叉式网络钓鱼:ML算法可以生成非常逼真的虚假邮件,用于偷盗用户凭证。黑帽大会的一场演讲中,John Seymour和Philip Tully详细演示了ML算法生成的病毒式推特文章(含虚假网络钓鱼链接)是怎么达到比人写的网络钓鱼邮件有效四倍的。


● 深度伪造:语音网络钓鱼中,诈骗犯使用ML生成的深度伪造音频技术创建更加成功的攻击。现代算法,比如百度的“Deep Voice”语音系统,仅需要几秒钟的人声就能重现样本人声的说话方式、口音和语调。


● 恶意软件:ML可以隐藏记录节点和端点行为的恶意软件,并在受害者的网络上构建模拟合法网络流量的模式。ML还可以在恶意软件中融入自毁机制,从而提高攻击速度。黑客还可以训练算法,令算法抽取数据的速度比人工更快,从而更难以预防。


● 口令和CAPTCHA(全自动区分计算机和人类的图灵测试):基于神经网络的软件可以很轻松地突破人机识别系统。网络罪犯能够利用ML分析大量口令数据集,更好地猜解口令。例如,PassGAN采用ML算法猜解口令就比采用传统技术的流行口令破解工具更准确。


● 攻击AI/ML自身:滥用运行于医疗、军事和其他高价值行业核心的算法可能导致灾难。贝里维尔机器学习研究所的《机器学习系统架构性风险分析》有助于分析已知ML攻击分类和执行ML算法架构性风险分析。安全工程师必须了解如何保护ML算法整个生命周期的每个阶段。


不难理解为什么AI/ML会获得如此之多的关注。对付狡猾网络攻击的唯一方法就是利用AI的防御潜力。企业界必须注意到,ML在异常检测方面(例如检测流量模式异常或人为错误)有多么强大。借助恰当的对策可以防止或大幅减轻可能的伤害。


总的说来,AI/ML在保护我们免受网络威胁侵害方面价值巨大。一些政府和公司已经在用或准备使用AI/ML对抗网络罪犯。尽管存在围绕AI/ML的隐私和道德顾虑,但政府必须确保AI/ML法规不会阻碍企业使用AI/ML实施网络防护。因为,众所周知,网络罪犯是不会遵规守纪的。



参考阅读

警惕忽悠:AI在安全行业中的应用并非真正的人工智能

谷歌使用机器学习阻止DDoS攻击

中国网络安全百强报告(2021)

本文始发于微信公众号(数世咨询):人工智能与机器学习对网络安全的正面和负面影响

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: