深度伪造和科学知识的传播

在所有视频中，有相当比例的受试者在收到深度伪造视频或真实视频时，无法正确识别视频的真实性。对群体中所有视频的回答正确率平均后发现，约有27%-50%的教育利益相关者无法正确识别视频的真伪。这些深度伪造视频（与气候变化相关）与那些深度伪造视频（与以选举为重点的政治导向相关）以及虚假视频（与背景无关）的影响程度相似，表明不同背景下的深度伪造视频的影响程度可能是一致的。这些比率也与个体对未经AI修改的数字图像的敏感度密切相关。

研究结果进一步表明，在所有视频中，与收到真实视频相比，收到深度伪造视频的成人和教育工作者正确识别视频真实性的概率降低了6%（校长）到11%（成人）。根据正确识别视频真伪的受试者比例，这些估计值表明回答正确率下降了10%（校长）到19%（成人）。相比之下，学生群体检测深度伪造视频（与真实视频相比）的能力更强。此外，收到深度伪造视频对回答“无法判断”的概率影响很小，在统计上也不显著，这意味着深度伪造视频在成人和教育工作者群体中诱导受试者做出了错误的回答，而在学生群体中则诱导受试者做出了正确的回答。

然而，这些总体结果掩盖了重要的异质性，因为受试者正确识别深度伪造视频和真实视频的准确率在不同视频之间存在差异。还需要进行更多的研究，以了解这种异质性的驱动因素。不过总体而言，研究结果表明，在本研究中，没有任何群体能够幸免于深度伪造视频的欺骗。

确定深度伪造视频的特征，从而缓解个体受到其影响的程度，是制定应对措施的重要一步。了解受试者在决策过程中关注了视频的哪些特征，以及视频真实性对决策过程的影响，有助于了解受试者的认知过程。

受试者在收到深度伪造视频时，倾向于更多地使用深度伪造视频技术层面的特征（如面部特征、视频背景、整体视频质量），而较少使用视频社会层面的特征（如所分享信息的可信度）或音频质量。

决策过程中受试者使用视频分析与正确识别视频真伪可能性之间的关系。这些结果表明，在决策过程中使用视频的整体质量和演讲者的面部特征与正确识别深度伪造视频的概率显著增加有关，但与正确识别视频的概率无关。收到深度伪造视频时，在决策过程中使用视频技术层面的特征会降低观看者的影响程度。这一发现与之前的研究结果一致，即关注视频技术层面的特征可以降低深度伪造视频对成人的影响程度。事实上，最近的研究表明，面部认知处理是评估视觉媒体真实性的一种有效的技术。

在收到深度伪造视频时，较少使用视频社会层面的特征进行决策并不总是最佳的，尤其是对成人而言。如果成人和教师在决策过程中使用他们对演讲者观点的熟悉程度，那么他们正确识别深度伪造视频的可能性就会提高约22%，利用内容的可信度也有助于成人和教师准确识别视频真伪。通过教育大众评估深度伪造内容的社会背景，如内容可信度、演讲者身份等，为制定相比于关注技术层面的特征提供了更有力的策略。这一发现与传播科学/信息误导领域的最新研究进展相吻合，因为人们发现，先验知识水平越高，认知反思能力就越强，对错误信息的易感性就越低。事实上，从长远来看，对深度伪造视频技术层面的特征进行评估的价值可能会下降，因为深度伪造视频生成技术预计将继续快速发展，并且制作出与真实视频无异的内容。

这项实证研究中调查工具的设计有助于了解受试者的特征和信念如何调节他们受到深度伪造的影响程度。此外，研究结果显示，受试者的种族、对气候变化的看法、觉察深度伪造的能力、觉察深度伪造的风险、气候变化知识、信息消费频率、社交媒体使用频率、城市化程度、在科学或数学相关领域工作或任教、收入和教育程度等因素并不能持续调节不同群体觉察视频真实性的能力。

在普通成年人和教师群体中，检测深度伪造视频的能力随着年龄的增长而下降。我们发现，年龄每增加一岁，正确识别深度伪造视频的可能性就会降低0.6%。在校长、中学和CMU学生中也观察到了类似的趋势，但这些关系在统计上并不显著。这一发现与以往的研究结果形成了鲜明对比，以往的研究发现，受到数字错误信息影响的程度随年龄的增长而降低。这些研究中的数字错误信息并不包括深度伪造信息，这表明深度伪造信息是一种独特的错误信息模式，它对信息消费者的影响不同于其他错误信息途径。虽然还需要进一步研究才能更好地了解老年人更容易受到误导的机制，但相关研究表明，老年人更容易受到误导的原因可能是对社交媒体的信任度更高，更难识破谎言，以及对社交媒体的熟悉程度较低。这些结果表明，应优先将老年群体作为深度伪造缓解策略的目标受众，这是第一项发现老年人信息消费者更容易受到深度伪造信息影响的研究。

易受深度伪造影响的程度与受试者政治倾向之间的关系也表明，深度伪造可被视为一种不同类型的错误信息。研究发现，在成人和校长群体中，政治保守派的人比政治自由派的人正确识别深度伪造的可能性要低10%-15%。然而，在教师群体中，政治保守派的人比政治自由派的人正确识别深度伪造的可能性要高约13%。政治保守派的教师受深度伪造影响程度降低的原因尚不清楚，但这一发现表明，接触深度伪造内容可能不会触发个体的身份保护认知（identity protective cognition），而这一因素通常与政治保守派受众更容易接受气候变化的错误信息有关。未来的研究需要进一步了解不同群体的参与信念和观点如何与深度伪造内容以及社会背景相交织，从而产生这些更细致入微的结果。

然而，与其他STEM的错误信息模式相似，我们发现，个人对信息来源（如社交媒体、报纸等）的信任度会影响他们对深度伪造信息的易感性。旨在通过普及信息验证技术（information verification techniques）来打击错误信息以提升媒体素养（media literacy）的方法，可能是一种非常有前景的缓解策略，可以降低深度伪造对人们的影响程度。

研究结果还表明，其他缓解策略，如通过反复接触深度伪造信息来训练信息消费者识别深度伪造视频的能力不太可能成功，并且可能会加剧深度伪造对人们的影响程度。如果不开展有关深度伪造的科普教育，持续接触潜在的深度伪造信息可能会对人们造成更多的混淆，从而导致深度伪造信息的影响恶化。

首先，研究发现深度伪造视频的质量已经足以造成严重混淆，使所有教育利益相关者都很容易受到影响。K-12年级学生易受深度伪造的影响使得学生有可能将错误的科学信息当作事实，并对科学、科学过程和科学的政策影响产生错误的看法。如果这些错误观点不受到质疑，随着学生逐渐成熟并进入社会岗位，这些错误观点就会逐渐固化，从而对政策产生更直接的影响。成年人，尤其是教师和校长的脆弱性可能更令人担忧。教师和校长必须将当代科学问题综合起来并传达给学生，错误信息对他们的影响程度可能会转化为不经意间将信息传授给学生。此外，随着学生越来越多地接触和依赖网络信息，教育工作者更没有能力对学生带入课堂的错误信息进行辟谣。成年人的脆弱性意味着家长可能无法防范他们的孩子所接触到的错误信息，并可能在传播错误信息中扮演重要角色。

其次，研究发现使用视频技术层面的特征（如整体视频质量、面部特征）可以帮助受试者更准确地检测出深度伪造视频，但使用视频社会层面的特征（如演讲者的知识、内容的可信度）可以帮助受试者更准确地识别出深度伪造视频和真实视频。虽然之前的研究侧重于视频技术层面以及人工检测和算法检测之间的相互作用，但研究结果表明，视频的社会背景也是需要考虑的关键因素。因此，通过教育信息消费者评估数字内容的社会特征，可能会为减少深度伪造的策略提供新的焦点，而这种策略可能比关注技术层面的特征更加有力。从长远来看，深度伪造技术预计将继续朝着制作与真实视频无异的内容方向快速发展，从而削弱人们使用技术层面的特征对深度伪造视频进行视觉评估的效用。

最后，研究发现个体的一些特征可以指导缓解深度伪造的战略制定和实施。第一，老年人往往表现出更高的脆弱性，因此应针对这一群体制定具体的教育干预措施。第二，研究发现，受试者对信息来源（包括印刷品、同行和网络来源）的信任度越高，就越容易受到深度伪造的影响，这表明提高媒体素养的方法也能有效打击深度伪造。第三，其他类型的缓解策略，如那些依赖于反复接触深度伪造内容的策略不太可能成功，而且可能会加剧对受试者的影响程度。后一种结果进一步强调了开展深度伪造检测普及和教育的必要性，因为反复接触潜深度伪造的内容会增加人们的混淆，使得深度伪造成为传播错误信息更有力的媒介。

免责声明：本文转自元战略，原作者Zoie Y. Lee。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨元战略

作者丨Zoie Y. Lee