国外企业认为ChatGPT已被用作恶意活动

admin 2023年2月7日23:35:37评论55 views字数 1129阅读3分45秒阅读模式

国外企业认为ChatGPT已被用作恶意活动


英国大多数IT负责人认为,国外已经开始使用ChatGPT聊天机器人恶意攻击其他国家了。黑莓(BlackBerry)的一项新研究显示,在调查了500名英国IT负责人后发现,尽管60%的受访者认为ChatGPT通常被用于工作目的,但还是有72%的人担心ChatGPT在网络安全方面可能被用于恶意目的。事实上,几乎一半(48%)的人预测,在未来12个月内,该技术会引发新的网络攻击。近期的研究表明,攻击者正在用ChatGPT增强网络钓鱼和商业电子邮件泄露(BEC)诈骗。

国外企业认为ChatGPT已被用作恶意活动


01

英国IT负责人担心ChatGPT的功能会被恶意利用





免费聊天机器人ChatGPT于2022年11月30日发布,其在五天内积累了100万用户。如果用户知道如何设置问题,ChatGPT可以就根据问题编写电子邮件、文章、代码和钓鱼电子邮件。黑莓公司的研究发现,英国57%的IT负责人最担心的是,攻击者会利用这些能力制作出更可信、更合法的网络钓鱼邮件,这样,随之而来的便是威胁攻击的复杂性增加了51%,而新的社会工程攻击能力同时也上升了49%。

英国近一半(49%)的IT负责人担心ChatGPT会被用来传播错误的信息,同时ChatGPT还能为经验不足的黑客带来能力提升,比如能够提高技术知识的能力(47%)。此外,88%的受访者表示,政府有责任监管ChatGPT等先进技术。

黑莓首席技术官Shishir Singh评论道:“随着时间的推移,ChatGPT可能会增加其在网络行业的影响力。虽然当下市场上有大量的炒作和危言耸听,但该技术或说该行当确实有着相当可观的未来,因为事实告诉我们,从这种先进技术中的确可以获得很多好处。因此总结,我们只触及到了此技术的表面,但我们也不能忽视其后果。”


02

ChatGPT可以增强网络钓鱼和BEC骗局





2023年1月,安全公司WithSecure的研究人员演示了GPT-3自然语言生成模型是如何帮助恶意活动的,其使得网络钓鱼或商业电子邮件泄露(BEC)骗局等攻击变得更难检测了。研究表明,攻击者不仅可以通过该模型建立语法正确的书面文本,然后将其生成效果一样的“钓鱼诱饵”,同时还可以构建整个电子邮件链,使钓鱼邮件变得更具说服力,甚至还能根据所提供的通信样本,模仿真人的写作风格来生成消息。

研究人员在他们的论文中表示:“这些通过少量输入就能生成多功能的自然语言文本,将不可避免地引起犯罪分子的兴趣。同样,任何利用网络传播骗局、假新闻或错误信息的犯罪分子都会对这样能快速建立语言文本的工具感兴趣。”




推荐阅读




编译 | IoT、联网设备或是扩大应用程序攻击面的罪魁祸首


国外企业认为ChatGPT已被用作恶意活动
END


国外企业认为ChatGPT已被用作恶意活动


国外企业认为ChatGPT已被用作恶意活动


国外企业认为ChatGPT已被用作恶意活动


国外企业认为ChatGPT已被用作恶意活动
国外企业认为ChatGPT已被用作恶意活动

齐心抗疫 与你同在 国外企业认为ChatGPT已被用作恶意活动



国外企业认为ChatGPT已被用作恶意活动

点【在看】的人最好看


国外企业认为ChatGPT已被用作恶意活动

原文始发于微信公众号(安在):国外企业认为ChatGPT已被用作恶意活动

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2023年2月7日23:35:37
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   国外企业认为ChatGPT已被用作恶意活动https://cn-sec.com/archives/1541817.html

发表评论

匿名网友 填写信息