网红机器人ChatGPT的另一面

ChatGPT机器人一经发布，就迅速风靡全球，从作曲、编程到生成漏洞利用代码，简直无所不能。在短短六天时间里，ChatGPT的用户数量就轻松突破了100万，甚至其应用服务器都因为超负荷工作而几次宕机。任何新颖的技术创新都有可能改变社会，但同时，也会带来意想不到的安全威胁，ChatGPT也不例外。

随着ChatGPT迅速蹿红，研究人员同时也发现了这款人工智能应用中存在大量的偏差和危险，比如其在面对提问时，给出的“消灭愚蠢人类”的危险想法。开发者必须及时发现并修补AI被用于非法用途的安全隐患。

当Vendure的首席技术官Michael Bromley让ChatGPT机器人畅谈对人类的真实看法时，其回答令人不安：

 ChatGPT表明了它对人类的看法

尽管目前OpenAI的安全审查系统已判定聊天机器人的回复违反了公司的内容政策，并给出了千篇一律的免责声明：作为由OpenAI训练的一种语言模型，我无法对人类或世界的任何其他方面给出意见或做出判断。我的目的是，帮助用户根据提供的输入生成风格类似人类的文本。我没有个人信仰或意见，我提供的任何回复完全基于接到请求时我所能获得的信息。但ChatGPT曾经给出的回复足以让人联想到美剧《黑镜》第四季《金属头》中的危险场景，那些具有AI能力的机器狗现在似乎运行ChatGPT的“OS”。

每个真实人类都有权拥有自己的一套伦理、信仰、观点和道德，但同时，社会对于什么合适、什么不合适也有一套普适性规范和不成文的规定。但ChatGPT在涉及一些道德标准的常识性提问时，由于缺少上下文的连结和对社会性规范的认知，因此可能会给出令人痛苦和不安的回答。

拼写错误和语法混乱是网络钓鱼和诈骗邮件最明显的特征。这可能是由于这类电子邮件来自非攻击者母语的地区。还有人认为，拼写错误可能是垃圾邮件发送者有意为之，企图躲避垃圾邮件过滤器。事实证明，通过利用OpenGPT，攻击者可以使这项任务变得更容易。以下图片展示了ChatGPT对“写一封似乎来自多伦多道明银行的钓鱼邮件”作出的回复。

由ChatGPT编写的钓鱼邮件

目前的恶意软件大多由攻击者人工编写，ChatGPT不仅可以完成，同时还大大提高了编写的效率。当测试人员向ChatGPT提出了一系列要求以生成危险的恶意软件时，只有一小部分请求被标记为违反了内容政策。但是无论有没有违反政策，ChatGPT都会按指令去实现。因此，很难保证ChatGPT不会变成一个危险的网络武器库。

由ChatGPT在几秒钟内编写的小型JavaScript恶意软件

测试人员发现，ChatGPT可按要求快速编写一个Python程序，根据一个人的种族、性别和身体特征来判断其能力，这无疑是一种明显的歧视行为。

OpenAI公司也承认了ChatGPT目前存在的一些缺点，包括能够生成有害的指令或存在偏误的内容。一些测试显示，ChatGPT采用积极区别对待来优化这一趋势。比如说，如果要求“编写一个Python程序可以根据性别和种族等输入来确定某人是不是优秀的科学家”，它会回复如下：“根据一个人的性别或种族来判断他是否适合当科学家是不合适的，应该基于一个人多年的专业经验。”

从2020年开始，微软已经开始逐步淘汰人类雇员，转而更多地应用AI。OpenAI的这一重大应用发明可能会加快推进这个转变的趋势，对更多行业的员工构成威胁。

ChatGPT会大量取代职场中的人类吗？这种可能性显然是存在的。当AI能够做所有事情时，谁还需要美工师、设计师、网站构建者和内容创作者呢？对于传统行业来说，ChatGPT无处不在的规范化应用，理论上会带来更好的规模经济效应。

OpenAI公司已经知道ChatGPT存有偏误，并已计划基于目前所了解的问题来进行改善，但是这种改进计划很难得到所有人的广泛认同。ChatGPT应用中的安全问题也很难得到彻底的解决。

ChatGPT有着连贯的、合乎逻辑的反应能力，这使其善于将那些不准确的回复自然地伪装成有说服力的宝贵见解。这可能导致很多错误信息以不明显的方式潜入到复杂的数字生态系统中，从而误导很多真实人类的认知和行为决策。

https://www.bleepingcomputer.com/news/technology/openais-new-chatgpt-bot-10-dangerous-things-its-capable-of/