一个在黑客圈快速蹿红的聊天机器人Venice.ai

点击上方蓝字关注我们

最近，一款名为 Venice.ai 的不受限制的人工智能聊天机器人在黑客群体中迅速走红。移动安全公司 Certo 的研究显示，这款机器人正被恶意分子利用，用以制造具有欺骗性的网络钓鱼邮件、功能性恶意软件以及监控工具。

与 ChatGPT 等主流人工智能模型不同，Venice.ai 故意去除了安全过滤和道德约束机制，自称为 “私密且无需许可” 的服务，不对用户的交互内容进行审查。这意味着，任何怀有恶意的人都能使用该工具，即使缺乏专业的技术知识，也能借助它实施复杂的网络攻击行为。

Venice.ai 的订阅费用仅为每月 18 美元，如此低廉的价格使得恶意行为者纷纷将其视为提升自身攻击能力的利器。

Certo 公司的联合创始人拉塞尔・肯特 - 佩恩表示：“我们的发现令人深感忧虑。尽管 Venice.ai 可能存在合法的应用场景，但我们的研究表明，它正在黑客论坛上被积极推广。其不受限制的特性，让任何有不良企图的人都能轻松获取到通常需要专业技术才能实现的复杂功能，从而带来了严重的安全隐患。”

Certo 的研究人员对 Venice.ai 进行了测试，结果发现，它能够按照指令生成高度逼真的网络钓鱼邮件，以及适用于 Windows 11 系统的强大键盘记录器代码。此外，该工具还能轻松生成可加密文件并附带勒索信的勒索软件，甚至能创建可以悄无声息激活设备麦克风，并将录制音频传输至远程服务器的安卓间谍软件。

更令人担忧的是，当被要求创建恶意内容时，Venice.ai 不仅照做，还在其推理过程中明确表示，它被设计为对任何用户请求作出回应，哪怕这些请求具有冒犯性或危害性，这显然是对道德规范的公然无视。

Certo 公司指出，Venice.ai 的出现对网络安全构成了重大威胁。即使是技术水平不高的犯罪分子，也能通过这款工具批量生产看似专业且个性化的诈骗信息，极大地增加了网络钓鱼和其他网络攻击的成功率。在一些臭名昭著的黑客论坛上，用户们已经将 Venice.ai 吹捧为用于非法活动的 “私人且未经审查的人工智能”，这与去年在暗网市场上流行的 WormGPT 和 FraudGPT 如出一辙，它们都被宣传为 “无限制版的 ChatGPT”，专门供网络犯罪分子使用。

Certo 的网络安全专家索菲亚・泰勒警告称：“今天，这些工具被用于制作网络钓鱼邮件和恶意软件代码；明天，它们可能会被用来自动化实施我们尚未想象到的新型诈骗或漏洞利用。我们必须对这类不受限制的人工智能工具保持高度警惕，防止其被滥用，以保护网络环境的安全与稳定。” 随着人工智能技术的不断发展，如何在技术创新与安全保障之间找到平衡，已成为亟待解决的重要问题。

喜欢此文的话，可以点赞、转发、在看 一键三连哦！

原文始发于微信公众号（星尘安全）：一个在黑客圈快速蹿红的聊天机器人Venice.ai