采用生成式人工智能进行网络防御的 3 条建议

在过去的十八个月中，生成式人工智能 (gen AI)已经从令人惊叹的演示的来源变成了几乎每个行业的首要战略重点。大多数首席执行官表示，他们感受到投资新一代人工智能的压力。产品团队现在正争先恐后地将新一代人工智能构建到他们的解决方案和服务中。欧盟和美国开始制定新的监管框架来管理人工智能风险。

在所有这些骚乱中，黑客和其他网络犯罪分子几乎不会袖手旁观。他们正在研究使用 gen AI 来完成各种任务，从改进网络钓鱼消息的语法到探索伪造视频和音频以欺骗或勒索受害者钱财的方法。他们还在寻找方法来攻击企业正在忙着投资的人工智能模型。

如果您是 CISO 或任何安全专业人士，那么现在就是开始评估 gen AI 的时候了。在最近的一份白皮书中，IBM 安全软件首席技术官 Sridhar Muppidi 概述了评估 gen AI 在防御网络攻击方面的应用的五项关键建议。以下是其中一些建议的快速浏览。

使用 gen AI 进行威胁搜寻和响应

Muppidi 指出，随着攻击者增加对 gen AI 的使用，他们的攻击将变得普遍、具有规避性和适应性。安全团队需要利用这项技术来适应自己的优势。人工智能和机器学习已经可以提高安全团队的效率。

例如，人工智能驱动的安全信息和事件管理(SIEM) 解决方案可以帮助分析师优先考虑检测到的风险。它们有助于最大限度地减少分析师对误报的关注，并让他们能够专注于手头的关键威胁。Gen AI 支持的解决方案将做更多的事情，包括通过自然语言搜索加速威胁搜寻、生成威胁检测和响应手册，以及为分析师提供自然语言聊天机器人。所有这些人工智能驱动的解决方案都可以缓解人类瓶颈，并使安全性更加高效——响应更快，事半功倍。

根据一代 AI 为防御者节省的时间来评估它

CISO 及其团队预计将在未来一两年内受到安全提供商提供的大量产品的轰炸，所有这些产品都宣扬其特定的人工智能技术的优势。您如何对所有这些产品描述和演示进行排序，以了解哪些内容将对您的安全运营中心(SOC) 产生最大影响？

我们建议重点关注节省时间。时间对于每个 SOC 来说都至关重要。SOC 的人手不足是出了名的。分析师感到工作过度并且经常感到沮丧。任何可以节省分析师时间的事情（无论是手动调查事件、识别误报还是编写事件报告所花费的时间）都值得优先考虑。

挑战新一代人工智能提供商的信任

在评估新一代人工智能产品时，往往没有给予足够重视的一个方面是信任。您信任向您出售此网络安全解决方案的提供商吗？提供商是否有一个框架来保护其人工智能数据、模型和使用？您应该询问提供商的问题包括：

• 您的模型使用哪些数据进行训练？

• 我的 SOC 每天使用的数据的代表性如何？

• 在采用之前，我可以在自己的环境中对其进行评估，看看它的性能如何吗？

尽管新一代人工智能产品今天看起来令人印象深刻，而且几乎渗透到每个话题中，但这项技术仍处于起步阶段，尤其是在网络安全领域。每个月都会发布新的模型和技术。因此，向提供商询问他们自己的产品目标至关重要。你应该直截了当地问：

• 你们在产品中的新一代人工智能开发上投入了多少资金？

• 您是否有专门的团队评估和开发网络安全人工智能？

• 还有谁在使用您的 TDIR 解决方案？

随着您的组织在供应链、客户服务、营销、人力资源、产品开发和其他运营中采用新一代人工智能，您的攻击面将会扩大。因此，您需要使用这些同代 AI 功能来保护您的 AI 数据、模型和使用。

底线是什么？当攻击者使用人工智能时，你最好的策略是以牙还牙。

原文始发于微信公众号（河南等级保护测评）：采用生成式人工智能进行网络防御的 3 条建议