网络犯罪分子训练AI聊天机器人，进行网络钓鱼和恶意软件攻击

继WormGPT（使用面向恶意软件的数据进行训练的ChatGPT克隆版）之后，如今又出现了一种新的生成式人工智能黑客工具：FraudGPT，据称至少另一种基于谷歌的AI聊天机器人Bard的工具正在开发中。

这两个基于AI的机器人程序都出自同一人之手，此人似乎热衷于专门针对众多的恶意用途训练的聊天机器人，包括网络钓鱼、社会工程攻击以及利用漏洞和创建恶意软件。

FraudGPT于7月25日问世，由用户名为CanadianKingpin12的人在各种黑客论坛上四处宣传，他称这款工具是面向骗子、黑客和垃圾邮件发送者的。

图1. FraudGPT在黑客论坛上推广（图片来源：SlashNext）

下一代网络犯罪聊天机器人

网络安全公司SlashNext的研究人员开展的调查显示，CanadianKingpin12正在积极使用从暗网获取的不受限制的数据集训练新的聊天机器人，或基于为打击网络犯罪而开发的复杂的大型语言模型训练聊天机器人。

CanadianKingpin12在私下表示，他们在开发DarkBART——这是谷歌的对话生成式人工智能聊天机器人的“恶意版本”。

研究人员还了解到，广告商还可以访问另一个名为DarkBERT的大型语言模型，该模型由韩国研究人员开发，使用暗网数据进行训练，但目的是为了打击网络犯罪。

DarkBERT可以根据相关的电子邮件地址提供给学术人士，但SlashNext强调，获取邮件地址对黑客或恶意软件开发人员来说远远谈不上是挑战，他们花上大约3美元就能从学术机构获得电子邮件地址。

图2. 待售的.EDU电子邮件账号（图片来源：SlashNext）

SlashNext的研究人员透露，CanadianKingpin12表示，DarkBERT机器人程序“胜过使用暗网数据进行训练的同类中所有其他机器人程序”。恶意版本已经过调整，可以执行以下用途：

策划复杂的网络钓鱼活动，以人们的密码和信用卡资料为目标。

执行高级社会工程攻击，以获取敏感信息或获得对系统和网络的未授权访问。

利用计算机系统、软件和网络中的漏洞。

创建和分发恶意软件。

利用零日漏洞以牟取钱财或破坏系统。

正如CanadianKingpin12私下向研究人员透露，DarkBART和DarkBERT都将拥有实时访问互联网的功能，并与谷歌镜头（Google Lens）无缝集成，用于图像处理。

为了演示DarkBERT恶意版本具有的潜力，开发者制作了以下视频：

图3

目前尚不清楚CanadianKingpin12是在DarkBERT的合法版本中修改了代码，还是仅仅获取了模型的访问权，只是将其用于恶意用途。

无论DarkBERT的起源如何、威胁分子的说法到底有多可信，使用生成式AI聊天机器人的趋势总之愈演愈烈，采用率也可能随之增加，因为这种聊天机器人可以为能力较差的威胁分子或那些希望将业务拓展到其他地区但缺乏语言技能的人提供一种简单的解决方案。

SlashNext的研究人员认为，鉴于黑客已经能够使用两个这样的工具，协助执行高级的社会工程攻击，并且在不到一个月的时间内就开始肆虐，这表明了恶意AI对网络安全和网络犯罪领域带来了重大影响。

安全圈