ChatGPT与安全系列｜ChatGPT给网络安全带来哪些影响？

ChatGPT这一语言生成人工智能模型近期在互联网上掀起了一阵AI风暴。从网络安全角度上讲，AI在帮助企业IT和安全团队提高检测效率等方面潜力巨大。ChatGPT在网络安全方面的潜力已开始显现。例如，Logpoint SOAR通过集成ChatGPT，可帮助用户尝试AI驱动的聊天机器人，同时可应用于网络安全操作，以减少部分工作量。这些创新对于改进网络安全运营至关重要。

据悉，Logpoint SOAR通过自动化安全事件的调查，并提供了案例管理工具，帮助分析师自动化事件响应。Logpoint SOAR附带了一系列预先配置的剧本，并提供了创建自定义剧本、自动化检测和响应过程的能力。这些新功能集成将有助于减少在欧洲、美国和亚洲的安全合规要求下的攻击摘要报告上花费的时间，并为安全分析师节约宝贵的时间。

但另一方面，它也为网络攻击者更容易地开发恶意软件大开方便之门。

Ivanti公司网络安全专家在接受国外媒体采访时，谈到了这项技术对网络安全的意义。

业界将生成型AI作为努力攻关的前沿技术。生成型AI可以响应命令或查询，生成文本、视频或音频内容，但一直以来，这种类型的AI技术无法分析数据和信息并将其情境化以提供理解。

而目前，像ChatGPT和DALL-E这样的生成式AI的诞生，标志着AI技术迈出了一大步。信息安全需要AI，它可以通过获取威胁信息、附加的上下文来增强对威胁的关联和识别，并根据其智能理解得出结论，甚至预测威胁行为。

但从另一方面来看，ChatGPT的价值更偏向于威胁行为体，例如在制作钓鱼电子邮件时变得更为便利。AI技术可以用最少的成本创建大量复杂的网络钓鱼电子邮件，它还可以创建逼真的虚假配置文件。即使是以前难以被造假的社交媒体资料信息，现在也能做到编写足以以假乱真的虚假个人资料，甚至包括创建虚假的个人头像。

我们也已经看到，网络攻击者也开始使用ChatGPT开发恶意软件。尽管ChatGPT的代码编写能力的质量好坏参半，这种生成式AI可以加快恶意软件的开发，从而助长攻击行为。最终，我们将看到越来越多的漏洞被利用，且漏洞利用速度也越来越快。

另一方面，如前所述，AI在帮助企业IT和安全团队提高效率方面非常有用，例如实现自动化或半自动化的漏洞检测和补救，以及基于风险的优先级排序等，从而极大地节省专业安全人员负担。但不幸的是，这种类型的工具目前还不存在，由于需要进行培训才能理解特定环境中的语义信息，因此这种AI工具实施起来可能会很复杂。

安全行业现在需要将注意力转向构建AI，以帮助专业人员分析和解读安全大数据。但在这种AI工具真正得到应用之前，攻击者还将继续占据优势。

并不能。到目前为止，ChatGPT实施的检查很多是无效的。例如，研究人员发现，向ChatGPT提问的方式会显著改变其响应结果，包括拒绝恶意请求的有效性。根据给生成式AI工具的命令，可以将恶意软件攻击的所有步骤拼凑在一起。目前ChatGPT还无法做到编写好的代码，但未来可能会发生。

ChatGPT的应用应该被视为一次大规模的演示体验，这还只是测试版的发布。在未来，随着用户的大规模使用，生成式AI将被快速优化和迭代。ChatGPT已经降低了网络钓鱼攻击的门槛，未来谁能确保网络犯罪分子不会通过新的更为强大的新版本来开发恶意软件呢。

ChatGPT的出现将改变恶意软件开发人员和安全技术人员之间的竞争态势，因为AI能够比传统开发人员更有效率地操纵代码，从而更大程度地改变设计。

“潘多拉的盒子” 一旦打开就很难再关回。可以说生成式AI进入网络攻击者的“武器库”中已经是一种必然，现在我们需要关注的是如何为防御这一新威胁做好准备。