介绍

网络攻击不再仅仅依赖于人类的努力和网络空间的有限范围。网络攻击不再是专家和专业人士的唯一责任。自人工智能 (AI) 出现以来，威胁形势发生了重大变化，这要归功于可以智能地自动执行攻击的无与伦比的方法和工具集合。由于人工智能与传统网络威胁领域的整合，现在任何能够使用人工智能资源和适度技术知识的人都可以发动成功的网络攻击。

IBM 的一项研究表明，到 2023 年，数据泄露的平均成本将达到创纪录的 445 万美元。此外，鉴于人工智能在网络攻击领域发挥的作用越来越大，这些数字不太可能在短期内下降。由于许多公司在疫情后仍继续使用远程工作者，因此攻击面显著增加。

对手并不总是属于知名的威胁团体；通过利用通过僵尸网络发现的远程应用程序漏洞，即使是鲜为人知的威胁团体或个人也可以成功渗透组织的网络。人工智能还可以帮助完成网络攻击的所有阶段，包括渗透和侦察。让我们研究一下发展中的互联网中人工智能驱动的攻击的策略和危险，并仔细研究一下

网络攻击的早期时间表和人工智能威胁的开始

（一）二十世纪在网络空间的努力

让我们简要回顾一下特洛伊木马和其他蠕虫的起源，以便了解迅速扩张的互联网及其伴随的危险。网络攻击于 1990 年进入主要框架。

20 世纪 80 年代，网络威胁被认为是一种常见的可怕威胁。防病毒软件首次出现是在冲突爆发时，当时出现了新的蠕虫和病毒。随着 20 世纪 90 年代互联网的出现，许多网络威胁成为可能。多态病毒的出现带来了严重的担忧，这些病毒的遗传密码会发生变化，并在整个计算机系统中传播。

这些病毒在变异的同时保留了原始算法。为了应对这些病毒，人们开发了新的通信保护方法，并建立了加密标准。安全套接字层 (SSL) 协议的创建是为了通过加密双方之间的数据来保护互联网连接。

（二）互联网时代

随着我们进入 21 世纪，可靠宽带的普及，全球各地的个人都在使用互联网。随着时间的推移，网络中漏洞的数量和新感染的数量

网络空间不断扩大。当代恶意软件开始成型。借助社会工程学，这种恶意软件能够通过电子邮件传播，无需下载。此外，信用卡黑客攻击急剧增加。因此，企业开始在网络安全领域建立防御地位，其中一些企业甚至发布了开源防病毒程序。在这十年中，更多的突破性技术越来越受欢迎，例如 Android 防病毒软件和集成安全功能的操作系统 OD Security。

由于技术不断进步，敌人在 2010 年代能够超越网络安全措施，给政府和企业造成重大财务损失。2012 年的全球支付系统数据泄露、2013-14 年的雅虎数据泄露以及 2017 年的 WannaCry 病毒是一些值得注意的重大泄露事件。2019 年，由于多次 DDoS 攻击导致新西兰股市停摆，这是另一个重大事件。

在安全性方面，供应商在此时开始创建新的方法，例如多因素身份验证和网络行为分析，以查找文件中的异常行为。

（iii）机器学习和人工智能如何改变网络格局？

另一方面，人工智能和机器学习 (ML) 的进步对网络安全领域产生了缓慢但明显的影响。虽然机器学习 (ML) 和人工智能 (AI) 自 20 世纪 50 年代就已经出现，但网络安全领域却从这些进步中看到了缓慢但显著的影响。尽管人工智能和机器学习自 20 世纪 50 年代就已经出现，但它们在网络攻击中的使用最初并不被视为严重危险。直到苹果的 Siri 等人类智慧开始发展，神经网络才开始出现在市场上。但随着人工智能和机器学习技术的发展，它们将在网络安全行业中发挥越来越大的作用。

人工智能正在催生一种新的威胁，其能力在不断变化，使威胁行为者能够自动执行恶意活动、定制策略并更有效地利用弱点。因此，安全部门越来越担心人工智能在网络攻击中以前被忽视的作用。

人工智能最流行的应用是基于文本的生成式人工智能，它允许攻击者自动化模型以绕过防御并探索无数攻击媒介。2018 年发生了几起值得注意的人工智能驱动黑客事件，例如 WordPress 数据泄露、诺基亚数据泄露和 TaskRabbit 网络安全漏洞。随着网络安全保护取得一系列进展，该行业正在积极寻求 SIEM 解决方案等尖端防御策略来保护企业网络。

在深入研究防御策略之前，了解人工智能攻击渗透网络的几种方式及其所构成威胁的严重性至关重要。因此，让我们看看现在网络空间的状况、这些变化的后果，以及生成式人工智能的出现所带来的人工智能的最新进步。

人工智能攻击场景的安全隐患

即使拥有最强大、最复杂的人工智能突破，机器仍然无法自行发动攻击。尽管如此，与传统技术相比，人工智能辅助打击更有可能彻底摧毁目标。这是由于人工智能 (AI) 和机器学习提供了特殊优势——仅靠人工劳动无法实现的优势。

（一）自动化和高扩展性

网络攻击可以利用人工智能自动执行监视、漏洞扫描和利用等攻击过程的其它阶段。最近发生的英国 MOVEit 勒索软件攻击事件可能就是自动化的证据，根据对 IIS 日志的取证检查，在不到 24 秒的时间内，两个不同的客户端就发现了漏洞。人工智能推动的攻击具有很强的可扩展性，因为自动化允许攻击者同时攻击多个系统。另一方面，传统攻击的攻击面较小，需要更多的体力劳动。

（二）效率和适应性

在将 AI 攻击与传统攻击进行比较时，速度是最重要的因素。AI 系统能够实时分析大量数据，这使攻击者能够快速找到漏洞并相应地修改攻击计划。由于网络攻击的发动速度非常快，像 PassGAN 这样的 AI 技术已经造成了严重破坏，PassGAN 是一种基于生成对抗网络的密码破解工具，它使用 ML 来创建密码猜测。

恶意软件具有很强的适应性，因为这些工具中的人工智能算法利用大量训练数据来突破企业已设置的防御措施。由于人工智能技术大大缩短了防御者对零日漏洞应用补丁和补救措施的时间，我们甚至可以将零日攻击的激增归因于这一发展。

（三）高度复杂的恶意软件

人工智能攻击者能够通过使用先进的规避策略来突破传统安全措施。复杂的恶意软件已经发展到可以通过不断变异和服务器过滤器规避来逃避防御者检测的地步。IBM 的 DeepLocker 是一个显著的例子，它是一种概念验证恶意软件，它避免了攻击者使用机器学习技术进行入侵的思维模式。

（四）受恶意软件感染的僵尸网络

恶意软件不再仅限于攻击单台计算机。僵尸网络（即受恶意软件感染的设备网络）正变得越来越普遍。这些僵尸网络不再专注于某些公司或行业，而是可以探索整个互联网以寻找漏洞。

大约有 20,000 个网站成为僵尸网络攻击的目标，例如 2018 年的 WordPress 数据泄露事件，这使得恶意软件能够攻击尽可能多的网站。这些僵尸网络的 AI 算法可以帮助优化用于命令和控制的基础设施，增强恶意软件的抵抗力并使其更难追踪。

（五）图片中的生成式人工智能

人工智能 (AI) 系统能够创建专门用于欺骗人们或获取未经授权的网络访问权限的网络钓鱼电子邮件和语音电话。这些系统通过分析大量个人数据和社交媒体资料来实现这一点。

生成式人工智能的引入展示了人工智能的革命及其对网络攻击的影响。尽管向用户提供信息是其主要目标，但威胁行为者也在利用其巨大的潜力来创建定制的社会工程方案并简化他们的攻击策略。此外，这种人工智能模型可以搜索互联网及其所有内容，包括电子书、文章、网站和帖子。它甚至可以搜索未经授权收集的个人信息，并用它来识别和分析受害者。

不幸的是，我们可以用生成式人工智能做很多事情，其中之一就是利用。如果人工智能能够编写代码，它就能够编写恶意软件伪代码。通过巧妙的提示编程，生成式人工智能可以被误导，以创建主动防御策略为借口禁用任何攻击场景，即使它拒绝遵守不道德和非法的请求。

类似地，将不道德的请求分成更小的部分也可能会让人工智能模型觉得这个请求没有什么不寻常的，这可能导致它之前拒绝的原始不道德请求得到满足。

观看来自 2023 年 RSA 大会的这段视频。视频中，经验丰富的漏洞研究员和漏洞利用开发人员 Stephen Sims 使用 ChatGPT 进行了精彩演示，展示了他如何使用该模型创建勒索软件代码。这是一个非常可怕的发现。

当将任务分成几个离散的部分时，ChatGPT 似乎完成了每个请求，包括构建加密伪代码、验证比特币地址以支付赎金以及解密数据。

网络攻击空间不断扩大的经济影响

由于持续的经济低迷，许多公司都普遍削减 IT 预算。随着攻击者在攻击中整合和改进 AI 和 ML 的成功率不断提高，网络犯罪的影响只会越来越大。

网络攻击将通过增加恢复、补救和法规遵从方面的费用产生经济影响。随着更多区域要求（如欧洲的 GDPR、印度的 DPDP 以及美国的 CCPA、GLB 和 NYDF）的生效，组织现在因不合规而面临严厉的处罚，这推高了违规成本。网络攻击的综合财务后果需要仔细考虑并采取战术措施，以最大限度地减少金钱损失并保障组织的稳定。

我们能做些什么呢？

在检测阶段

从乐观的角度来看，防御者也在发展和升级自己，以应对快速演变的网络威胁形势。展望未来，未来既有挑战，也有机遇。作为防御者，我们必须适应不断变化的战场，用最新的工具和知识武装自己，以应对人工智能产生的威胁。

在这个关键时刻，SIEM 解决方案正是您所需要的。遵循“先检测后响应”的原则，SIEM 解决方案的高级分析、异常检测和行为分析可帮助您保持持续警惕，领先 AI 驱动的对手一步。

在缓解阶段

考虑到对手技术进步的速度，使用 Log360 的事件响应框架定期监控攻击模式和高级威胁情报策略可以帮助您完全避免或减少新兴网络攻击的影响。

考虑到对手技术发展的速度，定期监控攻击模式和高级威胁情报策略可以帮助您完全避免或减少新兴网络攻击的影响。一旦检测到安全事件，就可以启动一系列旨在抵消威胁的预定义工作流程。

例如，如果检测到可能受到攻击的计算机，它可以禁用该计算机。此类自动响应可以大大减少攻击者造成伤害的机会。缓解网络威胁时，时间至关重要。

合规性和健康检查

您可以使用直观的仪表板来简化合规性报告，这些仪表板显示指标，表明您的网络如何满足合规性标准。您只需单击一下即可获取这些报告并根据需要导出它们。随着更多法规的出台，您还可以创建自定义合规性报告，以有效满足外部要求和内部合规性需求。

结论是什么？

随着人工智能驱动的网络攻击的出现，一个狡猾而持久威胁的新时代已经到来。借助对抗性人工智能，网络犯罪分子现在可以以前所未有的效率自动化、扩展和发展他们的邪恶行动。攻击者正在逐渐应用我们介绍的一些对抗性人工智能模型。

毫无疑问，双方都在利用网络安全领域的进步，这是一个动态而复杂的领域。为了在不断变化的人工智能网络威胁中保持领先地位，我们必须采取由现代安全解决方案支持的主动和自适应人工智能方法。

通过克服人工智能带来的障碍，我们可以创建一个有弹性的网络生态系统。我们可以克服人工智能带来的障碍，建立一个强大而有弹性的网络生态系统，让创新和防御结合在一起，为子孙后代创造更安全的数字世界。