人工智能生成的内容如何破坏人类思维能力

admin 2023年12月11日15:22:28评论11 views字数 1681阅读5分36秒阅读模式


欧洲刑警组织今年早些时候发布了一份报告,警示到2026年,高达90%的在线内容可能是由人工智能生成的或被操纵的。这引发了一个问题——这种趋势将在多大程度上影响人们的批判性思维技能。



尽管人工智能的众多应用能够助力人类进步并提高效率,但它们也常常被用来制造大量的错误信息和不真实信息,包括文字和图像或视频以便混淆真相,转移人们对重要新闻的关注。
人工智能的设计往往依赖于人类的指令来进行操作,一些顶尖的工程师正竭尽全力降低恶意应用的可能性。然而,这种技术并不完美,易于出现差错。
最近在诸如ChatGPT等平台上的研究表明,如何针对性地突破其安全防线。这一发现引发了广泛关注,甚至一些专家开始警示,批判性思维技能是保护自身智力的重要武器。

人工智能生成的内容如何破坏人类思维能力

剑桥大学的心理学家们最近研发出了首个被证实有效的错误信息易感性测试(MIST),这个测试着重关注了个人对不真实新闻的易受程度。
在这次测试中,年轻的美国人(45岁以下)相较于年长的美国人(45岁以上)表现出了明显的劣势。年轻人群的平均得分仅为12分(满分20分),而年长人群的平均得分却高达15分(满分20分)。这一结果也在一定程度上揭示了人们在网络上消费内容的时间与自身的新闻识别能力之间存在的相关性。

测试结果发现美国年轻人在识别不真实新闻方面比老年人更差,因为他们在网上娱乐的时间越多就越不可能从错误信息中分辨出真实的新闻。相反的,年龄较大、不太精通数字技术的一代更有可能被假新闻所吸引。


人工智能生成的内容如何破坏人类思维能力

欧洲刑警组织的报告以严厉的语气警告说:“在我们的日常生活中,我们深信自己的感知能力会引导我们,告诉什么才是真实,什么不是。对事件的听觉和视觉记录一直以来都被视为对事件真实情况的直接反映。
然而,如果这些直观的媒体能够被人为地操控,用来展示从未发生过的事件,或者扭曲事件和事实的真实情况那将会带来怎样的后果呢?

人工智能生成的内容如何破坏人类思维能力

福布斯顾问的一项调查显示,76%的消费者担心因人工智能的错误信息而受骗,但只有56%的人认为他们能辨别真伪。此外,英国的Public First公司进行的一项研究揭示了人们对人工智能的看法与潜在应用之间的关联。结果显示,公众支持利用人工智能进行医疗干预预警或检测福利系统欺诈等,但并不支持将其用于在刑事或军事背景下检测做出决定或提供建议。


人工智能生成的内容如何破坏人类思维能力


批判性思维对于打击数字时代错误信息的普遍影响至关重要,

尤其是对年轻一代而言。

错误信息和强制控制阻碍了我们的日常生活,

可以通过教会人们批判性思考来正面应对这些挑战。


——吉姆·阿塔克

(开放思想基金会主席)



人工智能生成的内容如何破坏人类思维能力

当前许多批判性思维工具鼓励人们采用横向思维技术,即积极从多个来源寻找信息,或者采用逆向思维技术,即积极寻找与自己观点相矛盾的信息。然而,在一个由人工智能生成高达90%内容的时代,这些工具的有效性有待衡量。因为这些内容可以在数千个网站上大量推出和复制,可能会影响人们对信息的判断和评估。

因此,最重要的是配备不依赖于交叉检查信息的工具,例如:
  • 确保理解统计数据:这意味着知道他们不说的和他们做的一样多。
  • 识别证据基础:内容基于什么依据,研究是如何产生的,是否可信?
  • 理解上下文:一个至关重要的手段就是将信息应用到预期的上下文之外。那么,首先我们要考虑的是信息的最初来源,它是在怎样的背景下被提及的以及它是如何发生变化的?
  • 根据以前的信息推断:是否符合人们心中所期望的标准描述呢?Deepfakes技术所带来的问题逐渐浮出水面,比如电视名人是否在针对世界问题发表看法时,与其一贯的形象相吻合?
  • 要求清晰和精确:更深入的挖掘能够揭示信息来源的专业背景和内容的可靠性,从而提供更加准确、可信的信息,或者凸显出某些信息的不可靠性。
  • 保持怀疑:需要质疑被告知的东西,期望一切都是假的会使识别真正的赝品变得更加困难。持续保持开放的心态将是关键。

往期推荐

最新美国全军种人口统计

开源情报是哈马斯行动成功和以色列情报失败的因素之一

以色列对加沙城市地面作战的挑战(附城市战相关资料下载)

俄罗斯特殊供电清单泄露其机密要地

西方主流媒体对以哈冲突的误导性宣传梳理


原文始发于微信公众号(情报分析师Pro):人工智能生成的内容如何破坏人类思维能力

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2023年12月11日15:22:28
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   人工智能生成的内容如何破坏人类思维能力https://cn-sec.com/archives/2276659.html

发表评论

匿名网友 填写信息