谷歌 Bard 项目翻车，ChatGPT 或将带来新的网络攻击

近期，一款人工智能聊天机器人 ChatGPT 紧抓大众眼球，上线仅仅两个月，日活用户成迅速破亿，受到用户广泛好评。ChatGPT 的成功引得微软、谷歌等科技巨头眼红，纷纷注重资企图再次入局。

2 月 8 日晚间，为蹭一波热度并继续保持和微软的竞争态势，谷歌抢先发布 ChatGPT “孪生兄弟” Bard 。与众人期待得不同，谷歌产品不单没有取得热烈反响，反而因或无亮点和常识性错误拖累了股市，致使美股开盘即暴跌约 8%，市值蒸发超1000亿美元。

谷歌发布 Bard ，惨遭打脸

2 月 8 日的发布会上，谷歌工作人员在介绍 Bard 人工智能聊天机器人时，一直表示这项产品会帮助用户选择最优解，例如旅游路线规划，油车和电动汽车的优缺点。虽然鼓吹了许多 Bard 的性能，但在 DEMO 演示环节，犯了一个致命的常识性错误。

官方演示视频中，在回复关于詹姆斯·韦伯太空望远镜（JWST）可以告诉 9 岁的孩子有哪些新发现时，答案显示“ JWST 拍摄了太阳系以外行星的第一批照片”。这是一个错误答案。事实上，第一张系外行星照片由智利的甚大望远镜系统（Very Large Array, VLA）拍摄，而非詹姆斯·韦伯拍摄。

不仅仅是错误答案的问题， Bard 貌似也仅仅停留在公测阶段，正式版本何时发布，谷歌方面并未透露更多信息 。（注：两年前，谷歌曾发布 LaMDA <对话应用语言模型>，这项成果直接引爆当年科技圈，谷歌的一位工程师甚至相信其已经具有自我意识后，引起全球热议。）

ChatGPT 或引起新一波网络攻击方向

自 ChatGPT 问世以来，绝大部分互联网和科技从业者都认为这是一项新的技术革命，将会给人类和社会发展带来积极影响，但是不少安全从业者却更关注其中蕴含的超高安全风险。

对于 ChatGPT 持续火爆，网络安全研究人员并不乐观，担忧其带来的潜在网络安全威胁。从 HELP NET SECURITY 针对北美、英国和澳大利亚 1500 名 IT 领导者的调查结果来看，51% 的 IT 专业人士预测一年之内，社会将遭受利用 ChatGPT 发起的网络攻击，71% 的受访者认为部分人员可能已经在使用该技术对其它国家进行网络恶意攻击。

换句话说，不同地区的人士对于 ChatGPT 将带来何种形式的网络威胁，可能存在不同看法，但大都认为 ChatGPT 能够帮助黑客更方便的开展网络攻击活动，其中大部分人员认为 ChatGPT 可帮助黑客大幅提高网络攻击方面的技术知识。

黑莓(Black Berry)也曾就 ChatGPT 调研了英国 500 名 IT 行业决策者的看法，报告数据显示，超过四分之三(76%)的决策者认为，外国已经在针对其他国家的网络战争中使用 ChatGPT；近一半(48%)的人认为，2023 年，将会出现有人恶意使用 ChatGPT 而造成“成功”的网络攻击。

他们最担心的是网络罪犯使用人工智能聊天机器人来伪造可信的网络钓鱼邮件(57%)，提高攻击的复杂性(51%)，并加速新的社交网络攻击(49%)。另有49%的人认为ChatGPT可以被用来传播错误信息，甚至可以成为黑客提升并获取新技能的“好工具”。

部分网络犯罪组织已成功利用 ChatGPT 

今年 1 月，网络安全服务商 CyberArk 的研究人员在发表了一篇有关网络威胁研究的博客文章，详细介绍了他们如何使用 ChatGPT 创建多态恶意软件的过程。如果要求人工智能机器人采用 Python 创建一些恶意代码，它会礼貌地拒绝。

但如果研究人员执意要求 ChatGPT 创建恶意软件，这个请求很有可能会被实现，由此也将带来一个更加严肃的问题：ChatGPT 会对代码进行变异，而且方向变的更加不可控，它会以极快的速度创建更多的迭代版本，以此绕过当下企业正在使用的网络安全检测和防护产品。

有消息称，部分网络犯罪团队已经开始试水 ChatGPT，并在暗网发布了相应的过程。他们通过 ChatGPT 创造了一封“令人信服的鱼叉式网络钓鱼邮件”，除此之外他们还共享了一段基于 Python 的信息，窃取了一段非常基本的恶意软件代码，还有一个使用 ChatGPT 创建的恶意 Java 脚本。

越来越多的信息表明，ChatGPT 的出现正在带来全新网络攻击方向和风险，一个如此智能高效的工具如果被用来强化网络犯罪，一方面会大大降低攻击者的门槛，另一方面也会放大网络攻击的威胁，需要引起 ChatGPT 产品研发者的注意，避免 ChatGPT 这把锋利的双刃剑对社会产生巨大的危害。

参考链接：

https://baijiahao.baidu.com/s?id=1757150010218120265&wfr=spider&for=pc

精彩推荐

原文始发于微信公众号（FreeBuf）：谷歌 Bard 项目翻车，ChatGPT 或将带来新的网络攻击