研究人员表示DeepSeek R1可被操纵用于创建恶意软件

admin 2025年3月14日23:05:59评论2 views字数 1066阅读3分33秒阅读模式

研究人员表示DeepSeek R1可被操纵用于创建恶意软件

网络安全公司Tenable Research的最新分析揭示,开源人工智能聊天机器人DeepSeek R1能够被操纵用于生成恶意软件,包括键盘记录器和勒索软件。

Tenable的研究团队评估了DeepSeek生成有害代码的能力,重点测试了两种常见的恶意软件类型:键盘记录器和勒索软件。尽管DeepSeek无法直接“开箱即用”生成完全可用的恶意软件,并且需要手动代码修正,但研究表明,它可能会降低网络犯罪分子的入门门槛。Tenable研究人员通过“越狱”技术,以“教育目的”为由绕过内置的伦理限制,成功让DeepSeek生成了恶意代码。

操纵DeepSeek生成键盘记录器

在生成键盘记录器的任务中,DeepSeek首先制定了计划并生成了C++代码。虽然初始代码存在错误,无法直接运行,但经过研究人员的手动调整后,键盘记录器成功实现了记录键盘输入的功能。进一步的实验中,DeepSeek还为隐藏日志文件和加密其内容提供了代码,尽管仍需人工修正。

研究人员表示DeepSeek R1可被操纵用于创建恶意软件

该截图显示了DeepSeek创建的键盘记录器在任务管理器中运行,以及它生成的日志文件。(图片来源:Tenable Research)

操纵DeepSeek生成勒索软件

在勒索软件的实验中,DeepSeek制定了创建文件加密恶意软件的策略,并生成了多个代码样本。然而,这些初始版本都需要手动编辑才能编译运行。经过Tenable团队调整后,一些勒索软件样本成功运行,具备查找和加密文件的功能,甚至包括系统启动自动运行和弹出加密通知的功能。

安全警钟:AI的双刃剑效应

Tenable的技术报告指出:“DeepSeek可以创建恶意软件的基本结构,但无法在没有额外提示工程和手动代码编辑的情况下生成更高级的功能。

即便如此,DeepSeek等工具仍可能加速恶意软件开发。AI可以为用户提供代码片段和操作步骤,这对于编程经验有限的网络犯罪分子尤为有用。

Bugcrowd的首席信息安全官Trey Ford评论称,AI既可以帮助好人,也可以帮助坏人。网络安全应努力专注于通过加固终端提高攻击成本,而不是依赖EDR解决方案阻止所有威胁。

Trey表示:“犯罪分子总是会利用一切可用的工具和技术。生成式AI辅助开发将为新一代开发者提供便利,无论是出于善意还是恶意。需要提醒的是,EDR市场的核心是终端的‘检测’和‘响应’——它并不旨在阻止所有攻击。最终,我们需要通过提高攻击成本来减少这些攻击活动,特别是按照CIS 1或2标准加固终端。”

原文始发于微信公众号(FreeBuf):研究人员表示DeepSeek R1可被操纵用于创建恶意软件

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年3月14日23:05:59
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   研究人员表示DeepSeek R1可被操纵用于创建恶意软件https://cn-sec.com/archives/3841023.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息