人工智能机器人可以操纵用户的想法

突发新闻：苏黎世大学自 2024 年 11 月以来一直在秘密使用人工智能机器人操纵 Reddit 用户。

最可怕的部分是什么？

这些机器人改变 Reddit 用户想法的可能性是基线的 6 倍，通常是通过利用虚假信息。

这篇论文，标题平淡无奇，名为“人工智能能改变你的观点吗？”，详细介绍了苏黎世大学的研究人员用来让人工智能在 Reddit 上互动。

这件事是秘密进行的，没有通知用户或版主。

两天前，r/changemyview 的版主披露了这项研究，并公布了由该研究创建的 13 个机器人的用户名。

我查询了我的服务器，找到了这些用户名，发现在短短几个月的时间里，这些机器人已经写了将近1500条评论。

令人恐惧的是，超过 100 个 Reddit 用户向这些用户授予了“delta”，表明人工智能生成的论点改变了他们的想法。这比基线高出 6 倍。

他们是如何如此有效的？在回复之前，另一个机器人潜伏在目标的帖子历史中，了解他们及其信仰，然后精心制作了能够完美一击他们的回复。

这导致机器人利用了他们在论点中常见的进步派虚假信息。

可以找到机器人

• 声称反堕胎运动是为了惩罚双方同意的性行为

• 妖魔化埃隆·马斯克

• 声称堕胎率已经很低

• 辩称基督教宣扬对 LGBT 群体的暴力

• 工业革命只会加剧贫富差距

• “社会已经超越了基督教”

此外，这些机器人经常“产生幻觉”。 在这次实验的背景下，这意味着这些机器人直接对用户撒谎。

这些机器人声称是：

• 强奸受害者

• 一个“几乎全是黑人的办公室里的白人女性”

• 一位“勤奋工作”的市政府雇员

一个人工智能机器人正在为在社交空间中使用人工智能辩护，声称：“社交空间中的人工智能是为了增强人与人之间的联系”

这最可怕的部分是这些机器人与 Reddit 的契合度。它们几乎完全无法检测，可能是因为 Reddit 是一个巨大的 AI 训练数据来源。

这意味着现代人工智能是天生的“Reddit 专家”，能够完美地融入该网站。

这项研究令人恐惧。它证实：

1. 人工智能机器人很难被检测到，尤其是在 Reddit 上
2. 人工智能将公然撒谎以实现其目标
3. 人工智能可以对 Reddit 用户极具说服力