观点 | 智能化谣言如何治理

admin 2022年11月17日00:24:21安全闲碎评论6 views2349字阅读7分49秒阅读模式
观点 | 智能化谣言如何治理
观点 | 智能化谣言如何治理

扫码订阅《中国信息安全》杂志

邮发代号 2-786

征订热线:010-82341063


网络谣言治理是互联网信息内容治理的重要部分。当前,计算机视觉、机器学习、自然语言处理等人工智能技术的深度发展驱动网络谣言加速向智能化网络谣言演化,并催生出面向特定个体群体或机构的定制化谣言,催生出逼真模拟与合成音视频内容的深度伪造谣言,以及催生出利用自动化程序在社会化媒体平台上进行“谎言灌喷”等新型网络谣言内容与传播形态。与先前的网络谣言相比,智能化谣言不仅易于生产、难于鉴别,还可借由内容定制、算法分发、用户关系传播和社交机器人介入等方式实现隐蔽流动、靶向感染、集中爆发。由此造成的信息失序不但会破坏社会信息生态,亦有可能带来社会舆论动荡、社会信任受损等风险。对此,有必要加快完善智能化谣言治理的系统性建设,以技术为基础、协同机制为保障、传播新秩序为根本,提高相应的治理能力。

夯实基础,补齐技术短板

算法治理已成为智能传播时代谣言治理的发展趋势。算法在全面性、精准度和治理效率上具有优势,尤其是针对难以辨识真伪的深度伪造内容,通过算法模型对其加以识别是目前比较有效的手段。因此,增加和发掘智能化谣言治理的技术储备,构建全新的算法治理实践模式,是提升智能化谣言治理水平的重要基础。

目前,依托于算法的网络谣言识别已形成三种主要技术路径:以人工标记的谣言文本特征为依据鉴别目标内容;借助信息传播模型识别谣言扩散关键节点来辨识虚假信息;引入深度学习方法对规模化文本进行深层语义特征的抽象与提取,将其中的有效特征作为鉴别信息真假的关键指标。近年来,谣言检测技术的准确性不断增强,其应用对象也从静态时滞数据集、单一谣言源头逐步向动态实时信息流、多元传播网络拓展。然而,针对具有高度拟真形态、裂变扩散能力、跨圈层穿透力的智能化谣言,现有谣言识别算法仍存在两个亟待补齐的短板。一是对文本形态之外的多媒体内容的检测能力较弱。当前,可实现音频及视频的模拟、合成与伪造的深度伪造技术正助推智能化谣言向更接近真实和客观存在的图片、声音、影像等多媒体形态扩展,而目前谣言识别算法技术多聚焦于文字内容,在利用多媒体分析技术以及挖掘多媒体信息特征与元数据方面仍处在起步阶段。二是谣言识别过程中精度与速度之间的矛盾尚未解决。谣言识别通常需要重复的信号才能达到足够的精度,往往只有在谣言开始传播并造成危害时才能准确识别谣言,若为避免谣言的负面影响而在信息发布初期开展检测评估,则可能由于特征信号不足产生误判,妨害网络信息的正常流动。
技术虽是应对智能化谣言的基础性工具,但其作为一种治理手段亦有一定的应用边界。因此,以算法为核心的技术治理需融入协同治理体系才能发挥最大作用,在更大程度上助力智能化谣言的系统治理。

协同共治,完善协作机制

我国的网络信息内容生态治理由政府、企业、社会、网民等多元主体共同参与,其中政府机构通过《网络信息内容生态治理规定》等政策文件对不同主体在网络信息内容生态治理中的主要责任及行为规范作出明确规定,并多次提出加强谣言管理的要求。由于谣言的鉴别难度在技术影响下不断提高,政府机构通过顶层设计,积极推动体制机制有效实施,各主体之间形成有效且持久的谣言治理合作模式,政府、网络平台、新闻媒体等主体联合协作,提高网络谣言治理的效率及协同性。

相较于传统网络谣言,智能化谣言传播带来的复合风险更强、治理难度更高,需组织多方合作的智能化谣言的治理体系。一方面,提升全社会应对智能化谣言的技术能力,通过平台与平台之间、平台与科研机构之间在谣言识别、证伪、拦截等技术上的互鉴、合作与共同进步,既可有效推广应用既有技术成果,也能够为新技术的研发汇聚更多资源。另一方面,构建多主体协同参与的事实核查网络,创设行之有效的事实核查多方合作机制与系统规范的事实核查机制,促进信息资源在政府、平台、媒体、专家、社会组织乃至民间志愿者之间有效流动,整合新闻媒体的权威查证、专家网络的知识资源、社会公众的分布式参与以及平台的广泛触达能力,最大程度地提高治谣需求匹配程度和智能化谣言治理效率。在建立健全智能化谣言治理的协作机制上积极发挥引导和协调的作用,为多元主体的合法、合规、合理、合意参与提供充分的政策、资源与措施保障。

正本清源,建立传播新秩序

技术规制与多元共治可以在智能谣言的真伪辨识、拦截删除、责任追究等方面起到积极的作用,不过这些举措还更多停留在就谣言论治理、就后果谈规制的层面,无法从根本上杜绝谣言的产生。深究网络谣言产生的原因,就会发现其往往是信息市场失衡和失序的结构性产物——如果人们感知可靠的信息供给量无法满足公众需求时,失实的、片面的但能够与社会心理相契合的谣言就拥有了生存和扩散的空间。也就是说,基于网络信息内容生态治理的立场,智能化谣言治理的最终目标不应只是谣言内容的删除、涉谣责任人的追责与真实信息的跟进,而应着眼于整体传播新秩序的建立,压缩甚至根除谣言生存与发展的空间。

在传播新秩序中,以社会信任重塑为基石,优质信息的供给与需求能够充分对接,意见表达渠道得以开放畅通,内容生产、加工与传播的数据链条更加清晰精准,多元主体交互机制和协作系统可以高效运转。这一设想的达成,需要政府机构完善公共政策、法律法规等外部规制手段,为信息生产与传播的规范引导提供框架性指南;主流媒体等权威信源需要提高信息发布的及时性、全面性以及与核心关切的匹配性;网络平台要落实主体责任,强化内容生态管理、完善审核审查制度、扶持优质内容创造;自媒体和网络用户需要加强媒介素养、坚守法律和伦理底线,发挥好去伪存真的监督作用。

(来源:学习时报)





《中国信息安全》杂志 倾情推出

“企业成长计划”

点击下图 了解详情

观点 | 智能化谣言如何治理

原文始发于微信公众号(中国信息安全):观点 | 智能化谣言如何治理

特别标注: 本站(CN-SEC.COM)所有文章仅供技术研究,若将其信息做其他用途,由用户承担全部法律及连带责任,本站不承担任何法律及连带责任,请遵守中华人民共和国安全法.
  • 我的微信
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2022年11月17日00:24:21
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                  观点 | 智能化谣言如何治理 http://cn-sec.com/archives/1413947.html

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: