人工智能在预防性网络安全中的3个已证实的用例

IBM 的《2024 年数据泄露成本报告》强调了一项突破性的发现：人工智能自动化在预防中的应用平均为组织节省了 220 万美元。

多年来，企业一直在使用人工智能进行检测、调查和响应。然而，随着攻击面扩大，安全领导者必须采取更积极主动的立场。

以下是人工智能帮助实现这一目标的三种方式：

1.攻击面管理：利用人工智能主动防御

复杂性和互联性不断增加，让安全团队越来越头疼，攻击面也远远超出了他们仅使用手动方式可以监控的范围。随着组织升级其多云战略并在软件开发和部署中引入新的 SaaS 工具和第三方代码，挑战只会愈演愈烈。

随着攻击面的扩大，网络交互的复杂性也随之增加，攻击者可以利用许多新的潜在切入点。攻击面管理(ASM)为数字基础设施提供 AI 驱动的实时保护，无论底层复杂性如何。

自动化 ASM 可全面洞察攻击面，大大增强手动审计的效果。此外，AI 可从其监控的数据中学习，以改进未来的检测结果，尽管速度和规模是人类无法比拟的。

然而，虽然 ASM 工具通常以交钥匙解决方案的形式呈现，并且通常相对容易部署，但安全团队解释其生成的大量数据的能力对于最大化其影响力至关重要。

2. 红队：人工智能发起进攻

AI红队测试是指让人们对AI 模型进行压力测试，以发现潜在的漏洞和其他问题，例如偏见和错误信息。虽然大多数模型都设计有护栏来减轻这些风险，但攻击者通常会通过使用巧妙的提示来“越狱”。对于红队来说，目标是抢在对手之前到达那里，从而让他们有机会采取纠正措施。

红队本身可以使用人工智能来帮助识别用于训练人工智能模型的数据中的潜在问题。例如，根据 IBM 的报告，超过三分之一的数据泄露涉及影子数据。如果未经审查和质量和完整性监控的数据最终被用于模型训练，则连锁反应可能非常显著。人工智能可以通过识别可能带来安全风险的异常和被忽视的数据源来帮助红队检测影子数据。红队还可以使用对抗性机器学习方法测试彼此的人工智能模型以识别漏洞。

与 ASM 不同，红队演习涉及针对组织的数据和威胁形势而定制的模拟。为了充分发挥其优势，组织必须与能够正确解释和分析结果并实施所需变更的熟练团队合作。

3. 态势管理：大规模持续安全

态势管理是 AI 可扩展、实时监控能力真正发挥作用的地方。ASM 揭示了攻击面中的潜在漏洞，而态势管理则采取了更广泛的方法，以持续、敏捷和适应性的方式监控配置、安全策略合规性以及内部和外部系统之间的连接。

通过使用 AI 实现态势管理自动化，安全团队可以在更短的时间内降低风险，并在复杂的多云基础设施中扩展其工作，以确保整体一致性。此外，由于减少了对手动流程的依赖，人为错误的可能性也大大降低。

即使确实发生了违规行为，将人工智能和自动化广泛纳入其态势管理策略的组织也可以比根本不使用人工智能的组织快近 100 天来识别和缓解违规行为。当然，预防和补救方面节省的时间也会节省大量直接和间接成本。

人工智能改变了游戏规则，但人的因素仍然同样重要

人工智能在网络安全领域的机会是不可否认的。它不仅可以帮助在日益复杂的环境中扩展战略，还可以通过允许经验不足的分析师使用自然语言查询与安全系统进行交互，从而帮助实现安全民主化。

然而，这并不是说人工智能可以取代人类的专业知识。相反，它必须对人类的专业知识进行补充。

安全领域的人工智能和自动化帮助组织节省了数百万的潜在损失和补救工作，但他们仍然需要人们了解人工智能提供的数据和见解，以最大限度地发挥其潜力。

— 欢迎关注