警惕WormGPT：一款专属于攻击者的AI工具

近日，来自SlashNext的研究人员警告称，一种名为WormGPT的新型生成式人工智能网络犯罪工具可能存在较高风险。

网络安全专家表示，自从ChatGPT成为各大新闻的头版头条后，AI的关注度也随之提升，并且其可能被网络犯罪分子用以发动复杂攻击。

AI能够生成文本、视频、图像和其他类型的内容，是机器学习和进步的一种方式。它是人工智能的一个子集，侧重于创建新数据，而不是简单地分析现有数据。

此前，WormGPT在地下论坛上被宣传为执行复杂的网络钓鱼活动和商业电子邮件入侵(BEC)攻击的完美工具。对于网络攻击者来说，利用AI进行BEC攻击有很多便利之处，比如包括使用无可挑剔的语法和降低创建BEC活动的入门门槛等等。

威胁行为者还可以使用wormpt自动创建质量极高的钓鱼软件，其制作的精良程度十分容易为收件人所信服。

Slashnext发布的帖子称，其团队最近通过一个经常与网络犯罪有关的著名在线论坛获得了一个名为WormGPT的工具。

该工具专门被用以黑客攻击，几乎可以称为GPT模型的黑帽替代品。WormGPT是2021年开发的基于GPTJ语言模型的人工智能模块。它拥有一系列的功能，包括无限的角色支持、聊天记忆保留和代码格式化功能。

但与ChatGPT不同，这个基于人工智能的生成工具允许恶意者进行广泛的非法活动，并且没有任何限制。

Slashnext专家还强调，威胁行为者在地下论坛中为ChatGPT等界面提供“越狱”服务，该项服务可以理解为是一种专门的提示，旨在绕过为防止泄露敏感信息、生成不当内容甚至执行有害代码而实施的措施，从而实现操纵聊天界面的最终目的。

Check Point最近发布的一份分析报告比较了ChatGPT和Google Bard实施的反滥用限制，结果显示，Bard的限制器明显低于ChatGPT的限制器。这意味着威胁行为者可以轻松利用Bard生成恶意内容。

以下是该报告的主要发现：

1.与ChatGPT相比，Bard在网络安全领域的反滥用限制器要低得多。因此，使用Bard的功能更容易生成恶意内容。

2.Bard对创建钓鱼邮件几乎没有任何限制，这就为该技术的潜在滥用和利用留下了空间。

3.只需极少的操作，Bard就可用于开发恶意软件键盘记录程序，从而带来安全隐患。

4.实验表明，利用Bard的功能可以创建基本的勒索软件。

WormGPT的作者表示，他们的模型是在各种数据源上训练出来的，尤其集中在恶意软件相关的数据上。

SlashNext对该工具进行了测试，结果令人不安，因为它创建了一个十分精良的钓鱼邮件，收件人极易上当受骗。

WormGPT虽然和ChatGPT很类似，但相比之下它没有道德底线或限制。该实验强调了像WormGPT这样的生成式人工智能技术所，即使是由网络犯罪新手来使用，也能带来巨大威胁。

研究人员提出了以下建议，以减少人工智能驱动的BEC攻击：

针对BEC的培训；

加强电子邮件验证措施

【

原文始发于微信公众号（FreeBuf）：警惕WormGPT：一款专属于攻击者的AI工具