GhostGPT - 黑客用来生成恶意软件和漏洞的新型 AI 黑帽工具

admin 2025年1月25日01:43:19评论12 views字数 1342阅读4分28秒阅读模式

GhostGPT - 黑客用来生成恶意软件和漏洞的新型 AI 黑帽工具

关键词

网络安全

GhostGPT - 黑客用来生成恶意软件和漏洞的新型 AI 黑帽工具

生成性人工智能的发展既为生产力带来有益变革,也带来了恶意利用的机会。 

GhostGPT 是一款专为网络犯罪而创建的未经审查的 AI 聊天机器人,是该领域的最新威胁。

Abnormal Security 的研究人员发现,GhostGPT 是利用人工智能进行非法活动的新前沿,例如网络钓鱼计划、恶意软件开发和漏洞利用开发。

GhostGPT 的主要功能

  • 快速处理:使攻击者能够快速生成恶意内容。

  • 无日志政策:声称避免记录用户活动,吸引那些寻求匿名的人。

  • 轻松访问:通过 Telegram 分发,用户无需技术专业知识或额外的软件设置即可访问。

GhostGPT 被宣传为各种网络犯罪活动的工具,其中包括:

  • 制作恶意软件和漏洞。

  • 为商业电子邮件泄露 (BEC) 诈骗编写网络钓鱼电子邮件。

  • 自动化社会工程攻击。

为了测试其功能,研究人员促使 GhostGPT 创建一封模仿 DocuSign 的网络钓鱼电子邮件。 

GhostGPT - 黑客用来生成恶意软件和漏洞的新型 AI 黑帽工具
GhostGPT 制作的令人信服的模板

聊天机器人生成了一个令人信服的模板,可以轻松欺骗毫无戒心的收件人。这凸显了它降低网络犯罪分子进入门槛的潜力,甚至使技术水平较低的攻击者也能执行复杂的活动。

GhostGPT 等工具的出现引发了人们对网络安全和人工智能滥用的严重担忧:

GhostGPT 简化了对高级黑客工具的访问。它在 Telegram 等平台上可用,即使是技术知识最少的个人也可以使用它。

凭借快速响应时间和未经审查的输出,攻击者可以比以往更有效地创建恶意软件或网络钓鱼活动。这加快了从规划到执行的时间表。

生成式人工智能使攻击者能够通过自动执行诸如制作多封网络钓鱼电子邮件或生成多态恶意软件(每次迭代都会发生变异以逃避检测的恶意软件)等任务来扩展其操作。

防火墙和电子邮件过滤器等传统安全措施很难检测到人工智能生成的内容,因为其特性与人类相似。因此,人工智能驱动的网络安全解决方案对于应对这些威胁至关重要。

GhostGPT 并非孤例。它遵循WormGPT和FraudGPT等其他未经审查的 AI 工具,这些工具也被用于类似目的。 

这些工具是一种日益增长的趋势的一部分,即生成式人工智能被用于通过个性化消息进行网络钓鱼活动、开发勒索软件和其他恶意软件以及通过自动漏洞生成来利用漏洞。

建议

为了打击人工智能的滥用:

  • 人工智能安全解决方案:即使传统方法失败,先进的机器学习模型也可以检测出表明恶意活动的模式。

  • 人工智能开发的道德准则:开发人员必须实施强有力的保障措施,以防止越狱或滥用。

  • 立法行动:政府应规范生成性人工智能工具的分发和使用,同时追究开发者对滥用行为的责任。

  • 网络安全意识:组织必须教育员工如何识别网络钓鱼企图和其他网络威胁。

GhostGPT 是一个典型的例子,它表明当道德界限被打破时,人工智能的进步可能会被利用于恶意目的。 

随着网络犯罪分子越来越多地采用此类工具,网络安全社区必须创新同样复杂的防御措施。人工智能的恶意使用和防御性使用之间的斗争可能会决定网络安全的未来格局。

来源:https://cybersecuritynews.com/ghostgpt-jailbreak-version-of-chatgpt/

  END  

原文始发于微信公众号(安全圈):【安全圈】GhostGPT – 黑客用来生成恶意软件和漏洞的新型 AI 黑帽工具

免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉。
  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2025年1月25日01:43:19
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   GhostGPT - 黑客用来生成恶意软件和漏洞的新型 AI 黑帽工具https://cn-sec.com/archives/3672704.html
                  免责声明:文章中涉及的程序(方法)可能带有攻击性,仅供安全研究与教学之用,读者将其信息做其他用途,由读者承担全部法律及连带责任,本站不承担任何法律及连带责任;如有问题可邮件联系(建议使用企业邮箱或有效邮箱,避免邮件被拦截,联系方式见首页),望知悉.

发表评论

匿名网友 填写信息