研究人员表示DeepSeek R1可被操纵用于创建恶意软件

网络安全公司Tenable Research的最新分析揭示，开源人工智能聊天机器人DeepSeek R1能够被操纵用于生成恶意软件，包括键盘记录器和勒索软件。

Tenable的研究团队评估了DeepSeek生成有害代码的能力，重点测试了两种常见的恶意软件类型：键盘记录器和勒索软件。尽管DeepSeek无法直接“开箱即用”生成完全可用的恶意软件，并且需要手动代码修正，但研究表明，它可能会降低网络犯罪分子的入门门槛。Tenable研究人员通过“越狱”技术，以“教育目的”为由绕过内置的伦理限制，成功让DeepSeek生成了恶意代码。

在生成键盘记录器的任务中，DeepSeek首先制定了计划并生成了C++代码。虽然初始代码存在错误，无法直接运行，但经过研究人员的手动调整后，键盘记录器成功实现了记录键盘输入的功能。进一步的实验中，DeepSeek还为隐藏日志文件和加密其内容提供了代码，尽管仍需人工修正。

该截图显示了DeepSeek创建的键盘记录器在任务管理器中运行，以及它生成的日志文件。（图片来源：Tenable Research）

在勒索软件的实验中，DeepSeek制定了创建文件加密恶意软件的策略，并生成了多个代码样本。然而，这些初始版本都需要手动编辑才能编译运行。经过Tenable团队调整后，一些勒索软件样本成功运行，具备查找和加密文件的功能，甚至包括系统启动自动运行和弹出加密通知的功能。

Tenable的技术报告指出：“DeepSeek可以创建恶意软件的基本结构，但无法在没有额外提示工程和手动代码编辑的情况下生成更高级的功能。”

即便如此，DeepSeek等工具仍可能加速恶意软件开发。AI可以为用户提供代码片段和操作步骤，这对于编程经验有限的网络犯罪分子尤为有用。

Bugcrowd的首席信息安全官Trey Ford评论称，AI既可以帮助好人，也可以帮助坏人。网络安全应努力专注于通过加固终端提高攻击成本，而不是依赖EDR解决方案阻止所有威胁。

Trey表示：“犯罪分子总是会利用一切可用的工具和技术。生成式AI辅助开发将为新一代开发者提供便利，无论是出于善意还是恶意。需要提醒的是，EDR市场的核心是终端的‘检测’和‘响应’——它并不旨在阻止所有攻击。最终，我们需要通过提高攻击成本来减少这些攻击活动，特别是按照CIS 1或2标准加固终端。”