深度伪造与国家安全:基于总体国家安全观的视角

admin 2022年5月3日23:21:57制度法规评论10 views25564字阅读85分12秒阅读模式

点击蓝字关注我们

内容提要:

深度伪造是人工智能技术和数字技术发展的产物,自2017年第一个深度伪造的作品出现,深度伪造正在世界范围内快速扩散。人工智能与大数据技术的发展和普及,使得有心者制作各种深度伪造作品的门槛大大降低,导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。深度伪造技术既有造福于人类社会的正面功能,也有给国家安全带来风险与挑战的负面作用。它不仅给国际形势和国际安全环境带来了巨大的冲击,让国际社会本就存在的“信任赤字”更为恶化,而且在国防安全、政治安全、经济安全和国民安全等领域制造了更多、更为复杂的问题。国际经济犯罪团伙利用深度伪造对中国企业和民众进行诈骗活动;以美国为首的西方国家更是频频利用深度伪造的作品,在涉疆、涉港等问题上对中国发难;在重大国际问题上,国际上的各种势力更是利用深度伪造争取中国的民意,造成部分民众认知的错乱;等等。要治理深度伪造所带来的各种安全隐患,就要在总体国家安全架构下完善针对深度伪造的综合治理体系,同时倡导综合安全、合作安全和共同安全的理念,与国际社会共同打造数字时代人类安全的命运共同体。

深度伪造(Deepfakes)是一个合成词,是人工智能(AI)领域由“深度学习”(deep learning)和伪造(fake)合成的一个词汇。它用来描绘利用人工智能技术和大数据生成的视频、照片和其他文本,这些视频、照片和文本看起来非常逼真,不要说非专业技术,就连专业技术亦难以识别其真伪。深度伪造包含两方面的含义,首先,它是一种技术,一种制作超逼真视听作品的技术。其次,它指根据深度伪造技术制作的视听作品。深度伪造的主要危险在于它会让一个人——无论是政治家、商界精英还是普通公众——向他人呈现另一种“现实”:一个真实的人在做一些他们从未做过的事情或者说一些他们从未说过的话,从而通过这样的“现实”欺骗不知情的公众。

深度伪造问题已经引起国内外学术界的重视,并出现了一些具有一定水平的研究成果。其中,国内学术界对深度伪造问题的研究主要集中在以下四个方面。第一,以美国为研究对象,探讨深度伪造的出现给美国社会带来的各种风险、挑战,以及美国州和联邦两级立法机构应对深度伪造的立法尝试。第二,从传播学的角度,分析深度伪造带来的影响,认为深度伪造加剧了更加系统性的平台控制,从而催化了政治分裂和政治冷漠,也进一步挑战了传统新闻体制的专业权威。传播学研究甚至认为,人工智能技术的“魔兽”一旦被放出笼子,对媒体的威胁就难以遏制。第三,从颠覆性技术异化以及治理的角度分析研究,认为以深度伪造为代表的颠覆性技术异化,已经成为数字化时代的威胁和人类社会可持续发展的重要挑战,对现存社会伦理规范、经济和法律制度乃至国际秩序造成破坏性冲击。第四,从国家安全的角度进行分析,认为深度伪造技术在近几年迅速兴起,为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具,给政治安全、经济安全、社会安全和国民安全等国家安全领域带来了诸多风险。研究者提出:通过研发预警检测手段、推进立法管制、加强宣传教育以及推进国际安全合作治理等手段,来应对深度伪造技术的滥用及其安全挑战。

美国学术界对深度伪造关注较早,研究成果丰富,代表了国外对深度伪造研究的最高水平,并且其研究多从国家安全的角度认识深度伪造问题。研究者认为,作为人工智能技术发展的产物,深度伪造技术虽然也有一些积极的作用,但从美国国家安全的角度看,它不仅会增强竞争对手对美国发动信息战和政治战的能力,而且会对美国国内选举政治造成重大影响,甚至会影响美国国内政治走向,加剧美国国内政治的两极分化;深度伪造还会引发国家间的危机和冲突,特别是增加拥有核武器国家之间爆发核战争的风险。美国学者给出的解决方案主要有两个:第一,公权力部门和网络平台特别是社交网络平台,通过技术研发,遏制不道德、非法或恶意内容深度伪造作品的传播。第二,加强立法,在不抑制言论自由和技术进步的前提下,以法律来规范深度伪造行为,减轻和消除它给国家安全带来的威胁。

上述国内外学术界的研究成果属于深度伪造领域的开拓之作。当今世界技术发展一日千里,颠覆性技术不断突破,尤其是以人工智能为代表的数字技术的发展日新月异。作为人工智能技术发展的产物之一,深度伪造技术同样在不断改进,随之带来的各种问题,尤其是与国家安全相关的问题也在不断涌现。这也决定了深度伪造不仅涉及新兴技术治理的问题,更是事关包括政治安全、经济安全和社会安全等在内的综合安全问题。因此,有必要站在总体国家安全观的高度,从国家治理和全球治理的角度对深度伪造问题进行分析,并提出应对之策。

深度伪造技术特征及其快速传播的原因

数字技术与数字媒体的发展和普及,使得区分真假媒体视听作品和文本变得越来越困难,这个领域的最新进展是深度伪造的出现。深度伪造是运用人工智能技术和大数据来描绘某人说和做的从未发生过的事情,辅之以社交媒体的覆盖面和传播速度,可以迅速影响成千上万甚至更庞大的群体,进而对社会产生难以估量的负面影响。

(一)深度伪造技术及类别

深度伪造通常被描述为使用机器学习(machine learning)技术创建的伪造品,这是人工智能技术的一个子领域,特别是生成对抗网络(Generative Adversarial Networks,GANs)的产物。其过程是:两个被称为神经网络的机器学习系统会相互竞争地进行训练。第一个网络或生成器的任务是创建伪造的数据,如照片、声音,或复制原始数据集属性的视频片段;第二个网络或鉴别器的任务是识别伪造的数据。这两个称为“生成器”和“鉴别器”的网络在相同的图像、视频或声音数据集上进行训练,然后第一个网络尝试创建足以欺骗第二个网络的新样本,第二个网络用于确定它看到的新媒体是否真实。这样,它们互相推动改进。基于每次迭代的结果,生成器网络不断进行调整,以创建越来越接近真实的数据。上述两个网络间的竞争——通常是数千次甚至数百万次迭代——直到生成器提高其性能,使鉴别器无法再区分真实数据和伪造数据。计算机视觉技术——如焦点识别,可以与生成对抗网络相结合,以跟踪图像或视频中的特定物体。使用面部特殊标志跟踪,或识别人面部的主要特征,允许程序准确地交换目标面部。类似的技术也存在于增强现实领域,即虚拟物品在现实世界中实时显示的领域。在Instagram和SnapChat等网站或应用程序上,以面部交换和过滤的形式,换脸是一件非常快速和轻松的事情,关键是这样做几乎没有任何成本。2016年,迪士尼电影工作室将凯莉·费雪(Carrie Fisher)年轻时的形象植入电影《星球大战外传:侠盗一号》中,耗资数百万美元;如果使用深度伪造技术,几小时内就可以免费创建一个完美的复制程序。

学术界一般认为第一个深度伪造的作品是2017年底一个署名为“Deepfakes”(深度伪造)的用户发布在美国著名社交新闻媒体红迪网(reddit)上的视频,该视频是使用名人的形象合成的色情视频。这样的视频使用真实的镜头并合成了真实的声音,因此许多观众认为他们正在观看的视频是真实的。这段视频一出现便迅速传播,引发各界关注,深度伪造问题也因此逐渐进入了研究者的视野。自那个时期开始,越来越多的深度伪造作品出现在电子媒体特别是社交平台上。

1. 深度伪造技术分类

从技术角度看,深度伪造可以分为以下三类。第一类是深度伪造视频技术。三种数字技术对于深度伪造视频技术的发展发挥了至关重要的作用:首先,计算机视觉科技的发展开发了一种算法,可以自动绘制图像中面部的标志特征,比如眉毛和鼻子的位置,从而产生了面部识别技术。其次,互联网的兴起,特别是视频和照片分享平台的大量涌现,形成了以互联网为基础的庞大的视听数据库,为各种深度伪造视频提供了取之不尽的大数据。最后,图像取证能力技术的发展,使系统可以自动检测伪造品。上述技术的发展为人工智能技术的繁荣创造了先决条件,机器学习特别是深度学习的优势就在于它的循环学习方法:它可以检测大型数据集之中的模式,并产生类似的产品;它能够从取证算法的输出中学习,因为这些算法教会了人工智能算法在下一个生产周期中需要改进什么。如此循环往复,制作出来的视频产品相似度就越来越高,甚至几乎完全一样。

第二类是语音克隆技术。语音克隆技术也被称为音频深度伪造、语音合成、语音转换或交换。语音克隆技术已经发展到这样的水平:只需采集到一个人的几句话,人工智能语音克隆软件就可以生成与目标人类语音非常相似的合成语音。这一技术已经成为日常家用电子产品的标准功能,如谷歌家庭(Google Families)、苹果智能语音助手(Siri)、亚马逊语音虚拟助手(Amazon Alexa)等。各种方便访问的人工智能应用程序使创建语音克隆产品变得更加便利,语音克隆体的质量也迅速提高。因此,人工智能技术使得语音克隆的可信度和创建可信克隆的速度达到了一个新的高度。

第三类是文本合成技术。在深度伪造的背景下,文本合成技术可以生成模仿目标独特说话风格的文本。这些技术主要依赖于自然语言处理(Natural Language Processing,NLP)技术。这是计算机科学和语言学交叉形成的一门科学学科,它的主要应用是改善人类和计算机之间的文本和语言互动。自然语言处理系统可以分析大量的文本,包括一个特定目标的音频剪辑文本,从而形成一个能够在一定程度上解释演讲的系统,包括词语以及对所表达的微妙情感和意图的理解。这可能会制造一个人说话风格的模型,并反过来又可以用来合成新颖的演讲。自然语言处理常用的架构是一种称为“机器学习模型”(Transformer)的深度学习算法。该算法基本上可以通过学习单词序列如何在句子和文本中相互关联,将一个输入的文本“转换”为一个新的文本。位于旧金山的一家人工智能研究实验室开放人工智能(Open AI)创建的第三代语言预测模型(GenerativePre-trained Transformer 3,GPT-3)被认为是这一技术领域的领先者。开放人工智能实验室的研究人员声称,“GPT-3甚至可以生成新闻文章,而人类评估者很难将其与人类所写的文章区分开来”。

作为数字时代人工智能技术发展的产物,深度伪造技术就如同基本的图像和视频桌面编辑器一样,并不存在错误和邪恶之处,它只是一个工具。与其他技术一样,深度伪造技术同样具有双刃剑的特性,人们出于不同的目的可以创作出不同性质的深度伪造作品。

2. 深度伪造作品分类

从深度伪造产品本身的性质看,目前出现的深度伪造作品可以分为三类。第一类是具有积极作用的产品或应用。深度伪造技术在许多行业具有积极用途,包括电影、教育媒体和数字通信、游戏和娱乐、社交媒体和医疗保健、材料科学以及各种商业领域(如时尚和电子商务)等。电影业可以通过多种方式从深度伪造技术中受益。例如,它可以帮助因疾病而失去声音的演员制作数字声音,或者更新电影片段而不需要重新拍摄;它还可以为任何语言的电影自动配音,从而让不同语言的观众更好地欣赏电影和教育媒体。例如,在医学上,渐冻人协会(The ALS Association)正在利用深度伪造技术,为渐冻症患者提供帮助。渐冻人协会与一家名为“琴鸟”(Lyrebird)的公司合作,使用语音克隆技术来帮助渐冻症患者。该公司鼓励渐冻症患者在他们还能够发声时备份他们的声音,并将语音克隆技术与眼睛阅读器辅助技术联系起来,使渐冻症患者在丧失说话能力之后,依然能够用他原始的、独特的声音而不是“机器”声音来与家人和朋友进行交流。

第二类是较为中性的深度伪造,主要是娱乐和幽默性质的深度伪造作品。这类作品往往是以公众人物作为娱乐对象。例如,2020年在中国社交媒体上广为流传的一段深度伪造视频,表现的是时任美国总统唐纳德·特朗普(Donald Trump)和国务卿迈克尔·蓬佩奥(MichaelPompeo)两个人用中文合唱了一首歌曲《我爱你中国》,明显属于娱乐大众之作。优兔(YouTube)上有1 820万粉丝的吉米·坎摩尔(Jimmy Kimmel)在他的节目中播放了特朗普总统的视频,总统的声音在“醉酒唐纳德·特朗普”的片段中慢了下来,听起来像是喝醉了。这样的深度伪造作品没有恶意,纯属幽默,观众也明白这样的视频并不是真的,所以不会造成不良的社会后果。

第三类属于恶意的深度伪造。这一类深度伪造被创作者用于某种特殊的目的,往往会给国家安全、社会治理带来严峻的威胁和挑战。如在深度伪造中占比最高的是利用深度伪造技术合成的色情视频。深度伪造的色情视频受害者不仅包括一些影视明星,也包括一些普通女性,属于人工智能技术发展带来的新的性别安全问题。深度伪造还被用来抹黑政治人物,尤其是正在从事选举工作的政治候选人,从而影响一些国家的政治进程。深度伪造也被用来对一些国家正在发生的政治事件作出不利的描述,不仅可能激化社会矛盾、导致群体性事件的发生,也可能影响国家的政治形象,在国际舞台上给这些国家制造难题和困境。深度伪造还会给企业和个人在经济上带来损失,无论是通过深度伪造影响一些企业股票,还是影响一些企业刚刚上市的产品,都会给企业带来巨大的损失。深度伪造造成的诈骗活动,更是让一些企业和个人蒙受了重大损失。更严重的是,深度伪造可能会摧毁社会信任,信任赤字将恶化整个社会的心理生态环境。

(二)深度伪造的特征

美国众议院常设情报特别委员会(House Permanent Select Committee on Intelligence)主席亚当·希夫(Adam Schiff)在其主持的“人工智能对国家安全的挑战”听证会上,曾经得出这样的结论:“让深度伪造和其他虚假信息模式变得真正有害的是社交媒体的无处不在,以及虚假信息传播的速度。”希夫的分析说明了深度伪造的主要特征:以网络社交平台为主要传播媒介,传播速度快。

1. 网络社交平台是传播深度伪造作品的最主要渠道

在20世纪甚至21世纪初的大部分时间里,杂志、报纸和电视广播公司管理着向公众传递的信息。上述媒体均建立了严格的专业标准来控制新闻质量,而大众媒体和自媒体的数量相对较少,这意味着只有有限数量的个人和组织可以广泛传播信息。然而,在过去十来年,智能手机的普及使得社交媒体被广泛运用,越来越多的人开始习惯从各种社交媒体平台获取信息,如国外用户从脸书、推特,国内用户从微信、微博等平台获取信息。这些平台依赖大量用户来生成相对未经过滤的内容,而用户倾向于展示他们自身的体验,浏览并发送他们同意的观点(平台算法也增强了这种趋势),将他们参与的社交媒体平台变成了“回音室”。这些平台也容易受到所谓的信息级联影响(cascading impacts),即受深度伪造作品影响的人向其所在的多个群组传递、分享信息,选择相信这些信息的群组受众又会将这些未加鉴别的深度伪造作品传播到更大范围,从而造成深度伪造的累积效应。《科学》(Science)杂志的一项研究报告称,推特上的虚假信息通常会被更多的人转发,而且比真实信息要快得多,尤其是政治话题。

2. 深度伪造发展迅猛

自第一个深度伪造视频出现后,深度伪造以其质量、数量和多样性的特点稳步上升而受到极大的关注,这反向推动了深度伪造更为迅猛的发展。联合国裁军研究所(The United Nations Institute for Disarmament Research,UNIDIR)的追踪研究发现,自2018年11月以来,在线识别的深度伪造视频数量每六个月就会翻一番。

3. 深度伪造传播迅速且点击量巨大

当一段关于美国众议院议长南希·佩洛西(NancyPatricia Pelosi)似乎喝多了、走路摇摆不稳的深度伪造视频上传到互联网后,不到48个小时,仅仅在脸书和推特两个社交平台就获得了几百万的点击量。另外根据笔者在优兔(YouTube)的观察,此类深度伪造的作品传播速度普遍都十分迅速,拥有非常高的点击量。如拜登唱歌、特朗普跳舞的深度伪造视频自2020年11月17日上传,到2021年12月23日,已经获得了10 941 585次的点击量;特朗普总统与英国伊丽莎白女王的“史诗之舞”,从2017年7月4日发布,到2022年4月12日已经有3 972 528人次观看。

4. 深度伪造以公众人物等为主要对象

公众人物主要包括国家政要、跨国公司老板和影视界明星等,因其具有高知名度和较大的社会影响而备受深度伪造者的青睐,美国前总统贝拉克·奥巴马(Barack Obama)及其妻子米歇尔·奥巴马(MichelleObama)、特朗普及其女儿伊万卡·特朗普(Ivanka Trump),众议院议长佩洛西、英国女王伊丽莎白、脸书创始人和老板马克·扎克伯格(Mark Zuckerberg)、2018年被《时代》(Times)杂志评为“最具影响力100人”的以色列著名演员盖尔·加朵(Gal Gadot),以及中国的一些影视界明星等,都曾经出现在各种深度伪造的视频作品中。

(三)深度伪造快速传播的原因

深度伪造之所以能够迅速流行并传播,主要有以下几个原因:

1. 人工智能技术的发展和普及使得制作深度伪造作品更简单易行

与其他人工智能技术一样,深度伪造和合成媒体不需要专门的硬件或设备来开发,拥有强大显卡的台式电脑就足够了。商业性甚至免费的深度伪造服务已经出现在公开市场上,这些服务的普及将降低进入门槛,使得任何有兴趣的人几乎都可以拥有创建专业级深度伪造作品的能力。

2. 互联网空间免费获取数据集使深度伪造的门槛变得很低

计算机视觉社区已经创建了带有标记的视觉材料的大型数据集,其中许多数据集都可以在互联网上免费获得。这些数据集是训练机器学习算法所必需的。深度伪造数据的创建者可以很容易地访问这些数据集;此外,由于云计算提供的服务,训练机器学习算法所需的计算能力成本较低,如谷歌的Colaboratory(简称Colab)可以让任何人通过浏览器编写和执行任意高级通用编程语言(Python)代码。它尤其适合机器学习、数据分析和教育目的。用户无需进行设置,就可以直接使用,同时还能获得图形处理单元(Graphics Processing Unit,GPU)等计算资源的免费使用权限。因此,一台普通的电脑,甚至是一部能上网的智能手机,都足以创造出高质量的深度伪造作品。

3. 深度伪造中占比最高的是色情和政治类作品

从传播学的角度看,色情和政治类作品往往具有低俗、虚假、传播快的特性,加上人性的猎奇心理——这在东西方国家都是一样的,如中国有“好事不出门,恶事行千里”的谚语,西方国家则有“当真相还在穿鞋时,谎言已经传遍半个世界”(A lie travels halfway around the world while the truthis getting its shoes on)的谚语,讲的都是同样的道理——这些因素使得色情和政治类深度伪造作品传播最广。美国麻省理工学院(MIT)通过对推特进行深入研究,“分析了十多年来300万用户发布的约12.6万条级联新闻报道”,结果发现,“一个捏造的故事传播到1 500人的速度是一个真实故事的6倍”。而且,虚假的政治故事比关于商业、恐怖主义或科学的虚假故事传播得更快。

4. 近年来欧美国家的政治极化也加快了深度伪造信息的传播速度

冷战结束后,外部压力的弱化反而加剧了欧美国家国内政治的两极分化。政治极化的一个重要后果就是减少了公众之间跨领域政治互动的机会;而同质的社交网络又降低了对不同观点的容忍度,放大了理念上的两极化,在一定程度上提高了接受意识形态兼容新闻的难度,并增强了对不同信息的封闭程度。这些趋势创造了一个深度伪造作品高度吸引特定受众群体的环境。

总之,人工智能、大数据技术的发展和普及,使得有心者制作各种深度伪造作品的门槛大大降低,导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。尽管深度伪造只是一种技术工具,并且具有造福于社会的功能,但是,深度伪造技术更多地表现出负面作用,因而给国家安全和社会治理带来的挑战更为复杂。

深度伪造对国家安全的威胁与挑战

2018年7月19日,美国参议员马可·卢比奥(MarcoRubio)在传统基金会(Heritage Foundation)的演讲中谈到深度伪造的危害时警告说,过去威胁美国需要核武器、航空母舰和导弹,但今天,所需要的只是“制作一个非常逼真的假视频的能力,它可能会破坏我们的选举,可能使我们的国家陷入巨大的内部危机,并深深削弱我们。”卢比奥关于深度伪造对国家安全带来的威胁与挑战分析不一定全面,但也说明了问题的实质。目前,国际社会、尤其是数字技术发展领先的国家,对于深度伪造给国际社会和国家安全带来挑战的认识越来越清晰,也越来越重视。从近年来世界上出现的各种深度伪造案例及其发展趋势来看,深度伪造无论是对国际安全、国家传统安全如军事安全和政治安全,还是国家非传统安全,都带来了越来越大的冲击和挑战。

(一)深度伪造对国际安全的威胁和对国际形势的影响

当今世界,安全的时空领域较之以往更加宽广,各国人民命运与共、唇齿相依,没有任何国家能够实现脱离国际安全的自身安全,也不存在建立在其他国家不安全基础之上的自身安全。所以,国际安全是国家安全的重要依托。

尽管深度伪造技术出现的时间还不长,但已经对国际形势和国际安全环境造成了冲击,并在一定范围内产生了重大影响。主要体现在以下几个方面:

1. 深度伪造会破坏国际社会的战略互信并冲击脆弱的和平环境

在国际关系中,战略互信是国际安全与国际形势稳定的核心支柱,可以为全球合作和多边合作体制建设奠定坚实的基础。但信息的数字化以及几乎无处不在的快速通信的数字手段,促进了虚假和误导性内容的传播。从国际安全和国际形势稳定的角度看,深度伪造与其他颠覆性数字技术相结合,将极大地降低全球和区域多边机构以及国际关系行为体彼此间的信任。对于在国际社会和国际安全领域试图制造事端的国家与非国家行为体而言,它们可以随时获取和利用日益先进的深度伪造技术,减少信息武器化的障碍,扩大参与并深度影响国际安全形势。2019年,印度和巴基斯坦之间的紧张局势升级期间,路透社发现了30起关于该事件的深度伪造视频:这些视频大部分是2017年印巴冲突期间,发生在印巴两国一些城市的民众向对方抗议示威的场景。“有心人士”利用人工智能技术对这些视频作了处理,被有意错误描述为正在印度和巴基斯坦发生的视频片段。这些深度伪造的合成视频极大地刺激了印巴两国的民族主义者,导致事态升级。由于担心事态失控,印度和巴基斯坦官方被迫暂时关闭了一些社交平台。

2. 深度伪造有可能会影响军事决策和军备控制

一些国家的政治和军事领导人依赖公开与秘密的信息环境作出重大决策,特别是在重大危机面前,需要快速作出决策。但武器化的深度伪造可以被用来扰乱信息环境,这在持续的政治和军事紧张局势中,可能会引发国际危机甚至导致对立或对抗的升级。例如,一段关于某拥有核武器国家将其核武库提升至高度警戒的深度伪造信息,可能会导致其他拥有核武器的国家相应提高其核力量的警戒等级。以核大国对其他拥核国家核武器监控能力而言,这样的深度伪造不必然会导致核武器的使用,但很可能会破坏敌对国家之间以及盟友之间围绕战略稳定的政治和安全氛围。伦敦国王学院的玛丽娜·法瓦罗(Marina Favaro)将深度伪造归类为“大规模扭曲的武器”(Weapons of Mass Distortion),认为它能够降低一个国家的态势感知能力,并可能侵蚀核指挥、控制和通信(NC3);随着深度伪造的复杂程度不断提高,核武器决策者将发现越来越难以信任机器生成的信息,无论是在快速作出决策还是根据事实信息作出决策方面,都将因对收到的信息缺乏信任而导致决策者在危机期间处于不利地位。在2021年3月举行的“技术复杂性下的核武器决策”研讨会上,北约一些前高级决策者讨论了深度伪造的危险并作出判断,认为新兴技术尤其是人工智能技术的发展,“将影响决策者管理、吸收、解释、信任、验证信息以及最终作出决定和决策的能力”。

3.涉及他国领导人的深度伪造作品会对国家关系造成影响

涉及他国领导人的深度伪造作品不仅给国家领导人带来负面影响,也会影响国家间关系。2018年,比利时社会党在电视台播放了一段美国总统特朗普关于气候变化的视频。在视频中,特朗普呼吁在即将到来的全民公投中投票退出《巴黎气候变化协定》。他说:“正如你所知,我有勇气退出《巴黎气候变化协定》,你也应该如此。因为你们现在在比利时所做的实际上更糟。你们同意了,但你们没有采取任何措施。”比利时社会党制作这一视频的出发点并不是出于恶意,而是希望吸引比利时人签署在线请愿书,呼吁比利时政府采取更紧急的气候行动。特朗普在视频的最后说:“我们都知道气候变化是假的,就像这个视频一样。”这相当于最后说明了这是一段伪造的视频。但是,恰恰是最后这一句话,并没有以当地语言出现在字幕中,再加上特朗普对待气候变化的一贯立场,让收视者理所当然地认为这就是特朗普的演讲,是在干涉比利时的内政。这段视频就这样激发了比利时人对美国总统干预比利时气候政策的愤慨。

4. 深度伪造很可能会成为国际恐怖活动的催化剂

深度伪造技术对非国家行为者尤其是国际恐怖组织来说,无疑具有很高的利用价值。早期的恐怖组织缺乏制作虚假但可信的音频和视频的资源,如今随着深度伪造技术的成熟,它们可以轻而易举地制造这类作品了。恐怖组织通过深度伪造的视频或音频,展现对手包括政府官员发表煽动性言论或从事挑衅性行动,最大限度地对其目标受众产生有利于恐怖组织的影响。如“伊斯兰国”(ISIS)的附属机构可能制作这样的视频:某军事联盟的士兵射杀伊斯兰国家的平民和妇女儿童,或轰炸了某伊斯兰国家的清真寺;某国政府官员、执法人员焚烧《古兰经》等。这类视频无疑会激起伊斯兰国家穆斯林的怒火,酿成针对特定国家目标如大使馆、领事馆或企业的抗议活动,甚至导致类似于2012年美国驻利比亚班加西领事馆遇袭之类事件。这样的深度伪造作品还有利于恐怖组织招募人员,补充后备力量。而对这种深度伪造的逆向对等操作,就是西方国家的媒体也可以制作深度伪造的宣传视频,让西方国家的公众相信恐怖组织及其活动给西方世界构成的威胁。

总体来看,深度伪造给本就紧张的大国关系和国际安全形势带来了更为复杂的挑战,尤其是加剧了国际社会和现有国际体系本就存在的信任赤字,给国际和平、安全和稳定带来了多方面的挑战,引发了国际社会对深度伪造问题的关注。联合国裁军研究所2021年的创新对话大会(The 2021 Innovations Dialogue Conference)的主题就是“深度伪造、信任和国际安全”。会议探讨了信任对国际安全与稳定的重要性、日益增长的深度伪造现象如何破坏这种信任,以及如何通过以联合国为中心的多边合作机制,应对深度伪造给国际安全带来的挑战。

(二)深度伪造给国家传统安全带来的挑战

深度伪造同样会对民族国家的传统安全即国防、军事安全和政治安全带来更大的冲击和挑战。虚假信息是与战争和军事相生相伴的一门古老的“艺术”。以欺诈、伪造的信息影响国家的政治决策和军事行动在人类历史上屡见不鲜。远一点的有1898年“缅因号”战列舰在哈瓦那港爆炸后,美国媒体利用这一事件进行误导性报道,从而煽动公众支持对西班牙开战;近到美国前国务卿科林·鲍威尔(Colin Powell)以手中塑料袋里疑似洗衣粉的粉末,指称伊拉克拥有大规模杀伤性武器,进而为美国发动伊拉克战争提供合法理由。它们都属于较为经典的对虚假信息的利用。深度伪造技术的发展和传播,将使虚假信息在政治和军事领域的应用更为普遍和容易,从而使民族国家在传统安全领域面临更为复杂的挑战。

1. 指挥自动化系统方面的深度伪造为双方军事行动提供战术优势

在现代军事体系中,指挥自动化系统(C4ISR)是军队的神经中枢,先进的C4ISR能力通过对态势的感知、对环境和对手的了解、对战场信息的处理以及缩短感知和响应之间的时间,为己方的军事行动提供优势。这一系统的核心就是战争或战场信息的获取、处理以及运用。这就给对手提供了利用信息的空间。在未来的军事行动中,战争和战场上的对手可以生成高级指挥官的深度伪造,向对手的部队下达虚假或矛盾的命令。为此,他们可以使用从媒体或通过情报获得的真实指挥官的视频或录音;或者创建不真实的卫星情报图像,误导基于人工智能的目标识别系统,这样就可以“毒化”图像数据并将民用基础设施识别为军事设施,或将军事目标归类为非军事目标,引导对手错误地攻击目标;他们还可以运用人工智能技术发起错误信息活动,从而导致盟友之间产生争端。在人工智能时代,军事指挥官再也不需要像二战时期那样设计复杂的骗局,以虚假的D日登陆地点信息欺骗纳粹德国总参谋部。未来的军事行动中不再需要这种物理欺骗,因为人工智能为设置数字陷阱和虚假信息提供了更强大的“武器”——深度伪造。

2.深度伪造给国家政治安全带来更大的挑战和威胁

数字时代特别是人工智能技术的发展给各国进行政治战(Political Warfare)带来了颠覆性的变化。深度伪造将极大地改变政治战的内涵和实施方式,那些拥有先进人工智能能力和侵入性访问其他国家大数据库能力的国际关系行为体,将在政治战中获得巨大优势。人工智能为虚假信息的传播者提供了快速侦察目标国家社交媒体受众并识别其心理弱点的能力。人工智能驱动的系统可以快速生成修改过的内容和深度伪造的数字产品,从而推动针对目标国家民众和国家利益的虚假叙事,冲击目标国家民众的心理,侵蚀目标国家社会的信任,给目标国家的政治安全带来更大的挑战和威胁。

自20世纪中期高速摄影机发明以来,捕捉高度可靠证据的技术比制造令人信服的伪造品的技术要便宜得多,也更容易获得。如今,每个拥有智能手机的人都可以录下他们所见证的事件高清视频。人们习惯于相信自己所看到的东西——“眼见为实”“有图有真相”——但人工智能技术的发展已经使得制作逼真的假视频和假图片变得简单而廉价,从而彻底颠覆“眼见为实”“有图有真相”的认知。纽约州立大学奥尔巴尼分校(Universityat Albany,StateUniversity of New York)的计算机视觉专家在谈到深度伪造对社会心理的冲击时分析说:“媒体通过微妙的操纵来改变人们对政客、事件和想法的理解,可以产生更广泛的心理影响。”人们可能会质疑他们在网上或媒体上看到的更多视频的有效性,即使这些视频完全真实,也会导致更多的混乱。深度伪造最具破坏性的方面可能不是虚假信息本身,而是不断接触虚假信息,会导致公众觉得包括视频在内的很多信息根本不可信,从而导致一种被称为“信息世界末日”(information apocalypse)或“现实冷漠”(reality apathy)的现象。实际上,最大的威胁不是人们会被欺骗,而是人们会开始将一切都视为欺骗。这种效应也被描述为“骗子的红利”(liars dividend):那些传播怀疑和不确定性的国际关系行为体最终会受益,因为他们获得了掩盖真相的能力,这恰恰就是政治战的核心内涵。很明显,这样的效应已经初现。美国优利公司(Unisys Corporation)2018年的安全指数调查发现,将近19%的美国人不太可能参加中期选举投票,因为他们担心外部行为者会损害该国的选举投票系统;近86%的受访者对美国选举投票系统可能受到局外人影响的前景表示担忧。优利公司的首席信托官汤姆·帕特森(TomPatterson)说:“2018 年优利安全指数暴露出民众对我们的投票选举制度缺乏信任,这可能会削弱对美国民主制度的信心。”

3. 深度伪造会改变“脆弱国家”在国家治理方面的政治进程

经济合作与发展组织(Organisation for Economic Co-operation andDevelopment,OECD)将脆弱性视为一种普遍现象,在政治、社会、安全、环境和经济五个主要维度上,每个国家都不同程度地以不同方式存在脆弱现象。脆弱指数比较高的国家往往存在政治与社会局势不稳定、经济落后和治安混乱等现象。被视为“脆弱国家”(Fragile States)的往往都是整体发展水平比较落后的发展中国家。在“脆弱国家”,深度伪造还可能加剧社会分裂、内乱、恐慌和冲突,造成政局动荡,甚至会导致暴力冲突和军事政变。例如,2018年10月,加蓬总统阿里·邦戈·翁丁巴(Ali-Ben Bongo Ondimba)在访问沙特阿拉伯时因病住院,并从11月起在摩洛哥继续接受治疗。由于邦戈长期未公开露面,加蓬民众普遍认为其健康状况不佳,甚至已经死亡。2018年12月31日,邦戈在摩洛哥向国内民众发表新年贺词,承认自己身体有恙但正在康复。这段视频引发了一场全国性的危机。包括部分军人在内的相当多的人认为视频是深度伪造作品,加蓬政府的目的是试图隐瞒总统的健康状况。最终,这一叙事导致了加蓬军方的政变,政变军人的理由就是,他们怀疑总统正在康复的视频属于深度伪造,认为总统已经失去履行职责的能力。事后根据《华盛顿邮报》记者寻求专业数字技术公司查证,邦戈新年贺词视频尽管存在瑕疵,但并无明确的深度伪造算法介入的证据;而反对派成员提供的说明视频,反而存在人工智能操纵的迹象。这一案例表明,深度伪造的视频可能会引起一些国家的政局动荡。

特定情况下适时出现的深度伪造会造成社会动荡,激化社会矛盾甚至改变一个国家的政治进程。有特定目的的人或团体可能会制作深度伪造的作品煽动民众聚集,制造群体性事件,引发公共安全危机或者暴力事件。2019年印度的印度教教徒通过WhatsApp传播大量深度伪造的视频,助长了针对印度穆斯林群体暴力和骚乱暴发的频率和强度;同一年,发生在缅甸针对罗兴亚人的骚乱,出现在社交平台的深度伪造视频和图片同样发挥了推波助澜的作用。

(三)深度伪造给非传统国家安全带来的挑战

深度伪造在非传统安全领域带来的挑战主要是经济领域。深度伪造既给包括股票、期货市场带来重大冲击,也对国家的经济运行造成负面影响,对企业的影响更为直接。此外,各国公众也都会面临各种各样的基于深度伪造的经济诈骗活动。深度伪造对经济安全的威胁可以从国家、企业和个人三个层面来理解。

1. 国家层面:深度伪造的内容会损害国家的经济稳定

深度伪造危害国家经济安全的常见手段有以下几种:一是捏造政府的行为。世界各国的财政、商务和金融监管机构一直在与试图影响市场走势的谣言作斗争——这些谣言往往通过各种社交平台流传开来。如2019 年,印度中央银行试图平息社交媒体有关当局将很快关闭某些商业银行的谣言。深度伪造可能会编造诸如政府官员关于税收政策调整的讨论,或具有官方背景的银行家私下讨论未来利率变化,或被视为政府智囊的智库学者关于地区开发的讨论,等等。在经济和金融危机时期,深度伪造可能利用和放大先前存在的经济担忧和市场的波动。

二是制造虚假的突发性事件。突发性事件往往对期货市场和股市构成重大冲击。2013年4月23日,一个名为“叙利亚电子军”(Syrian Electronic Army)的黑客组织劫持了美联社的推特账户,并在推特上写道:“突发:白宫发生两次爆炸,奥巴马受伤。”这一虚假声明立即引发了大量交易,接下来的三分钟,原油价格暴跌,10年期美国国债收益率下跌,投资者转移风险,道·琼斯工业指数下跌150点,标准普尔500指数资本价值损失超过1.36亿美元。三分钟之后,一名美联社员工在推特上写道:“我们被黑客入侵了。”紧随其后的是官方确认该“新闻”是一个骗局,剧烈动荡的市场很快恢复正常。为交易公司提供市场数据的Nanex创始人埃里克·亨萨德(Eric S. Hunsader)说:“美联社的假推文是股市历史上最活跃的两分钟。”可以尽快控制的一般的虚假信息尚且造成如此大的金融和经济动荡,由深度伪造引起的怀疑要想消除将更为困难,后者会让市场动荡持续更长的时间,造成的损失也更加巨大。

三是恶意银行挤兑。一些国家的银行发生挤兑,这样的新闻经常出现在社交媒体中。发生挤兑的原因很多,其中部分原因与社交媒体的深度伪造有关。尽管基于社交媒体的深度伪造如制造银行排长队的视频或照片并不一定是银行挤兑的主要原因,但社交媒体为此类谣言的快速传播提供了平台,当公众对金融形势或银行健康运转的怀疑开始变得普遍时,社交媒体可以迅速放大它们,从而让挤兑变得更加疯狂。

2. 企业层面:深度伪造给企业带来的威胁和挑战更为直

2021年3月10日,鉴于针对企业的深度伪造活动日益猖獗,美国联邦调查局特意对美国私营企业发出了警告。联邦调查局预测,在未来12—18个月,外国行为者将越来越多地使用支持人工智能的虚假媒体进行“网络钓鱼和社会工程犯罪”,其中深度伪造工具将用于创建“合成企业角色”或模仿现职员工,并且很可能对受害企业和组织造成“非常重大的财务和声誉影响。”穆迪投资者服务公司(Moody’s Investor Service)也向客户发出警告,先进的技术使得制作旨在损害企业声誉的深度伪造视频和图像变得更加容易,导致公司的业务和信用质量受到威胁。

其实,我们只要看特斯拉(Tesla)首席执行官埃隆·马斯克(ElonMusk)的案例就可以明白,深度伪造给企业负责人制造的负面形象对企业造成的冲击有多大。马斯克在一个流行的直播播客中吸食大麻,导致特斯拉股价下跌6%。因此,看起来非常逼真的深度伪造视频,会产生与马斯克直播同样的效果,无论是针对企业负责人,还是针对企业的产品,造成的后果是显而易见的:很有可能会让高管和公司的声誉崩盘,并在很短的时间内摧毁公众对企业的信任和股东价值,而要修复这些损失还需要企业付出更大的代价。一项研究估计,受深度伪造信息的影响,全球企业每年损失高达780亿美元,其中包括90亿美元用于修复声誉损失和170亿美元因财务虚假信息而造成的损失。

全球领先的战略传播和公共事务咨询公司富思博睿格润(Finsbury Glover Hering)分析了深度伪造对企业构成的五种潜在威胁:一是网络钓鱼攻击。即利用深度伪造技术伪装成其他人欺骗目标泄露敏感信息。二是交易欺诈。即以高级管理人员身份向毫无戒心的员工或经济伙伴打电话或发送电子邮件,要求紧急转账。三是利用深度伪造的视频对企业进行勒索,在这种敲诈勒索的情况下,深度伪造的真实性几乎无关紧要,因为损害瞬间就会发生。四是股票操纵,即在财务业绩季适时进行的深度伪造,例如冒充企业的首席执行官(CEO)宣布重大经营亏损,导致股价暴跌。五是伪造的监管行为,这种深度伪造活动针对的不一定是特定公司而是整个行业。想象一下捏造的中央银行会议的视频剪辑,其中描绘了官员讨论流动性问题或未来利率变化,或者新闻主播或股市专家宣布市场崩盘,这些视频将会在整个行业掀起多么大的波澜。

富思博睿格润研究报告提到的上述五种“潜在威胁”,有一些实际已经发生了。2019年,一位英国能源公司的董事长被深度伪造的语音电话所欺骗。诈骗者使用商业语音生成软件与他进行交流,而与他交流的人发出的声音是他非常熟悉的总公司首席执行官的声音。他被说服将220 000欧元(约243 000美元)转入匈牙利供应商的银行账户,直到第三次通话时,他才发现了一点破绽,但钱已经被诈骗者转移。目前为止,已知的深度伪造造成的最大损失发生在中国香港。2020年年初,一名香港银行的经理被他认为是“一家阿联酋公司董事的人”骗取了3 500万美元。诈骗者同样是使用人工智能语音合成软件,合成了这位以前与香港经理交流过的阿联酋公司董事的声音。据美国智库卡内基和平基金会(Carnegie Endowment For International Peace)学者研究,利用深度伪造技术对企业进行的付款欺诈,仅2019年就给美国企业造成了高达17亿美元的损失。

3. 个人层面:深度伪造主要被用于欺诈或勒索行为

针对个人的深度伪造主要有以下几种情形:一是身份盗窃。深度伪造至少有两种可以导致身份盗用的方式:一种形式是有针对性的深度伪造来窃取个人身份,然后用受害者的合成语音对其亲朋好友发起欺诈性汇兑;另一种形式是以虚假身份创建银行账户的深度伪造音频或视频,促进洗钱活动或偷税漏税。

二是冒名顶替诈骗。主要指的是犯罪分子冒充“政府执法部门、知名企业或技术支持专家”向受害者施压,迫使其付款。深度伪造可以增强冒名顶替者诈骗的真实性。诈骗者可能会复制特定个人的声音,通过人工智能系统拨打许多受害者的电话号码,而且还能够根据受害者所在地区自动模拟当地的方言或口音。诈骗犯通过操纵受害者的情绪并制造一种虚假的紧迫感,让受害者往往无暇顾及甄别真假。而且,许多骗局故意针对更脆弱的受害者,包括老年人和女性群体。

三是网络勒索。在网络勒索计划中,犯罪分子声称拥有有关受害者的令人尴尬乃至恐慌的信息,并威胁要发布这些信息,除非他们得到报酬或提供更多他们想要的材料。网络勒索者可以使用深度伪造来生成更有说服力的虚假勒索材料,有时还在与受害者通信中引用受害者的密码或电话号码,这些密码或电话号码通常来自公开的数据转储。勒索者可能向受害者发送受害者本人的面部图像或视频,这些图像或视频被合成叠加到色情内容中,作为他们访问敏感信息的证据。根据美国联邦调查局的数据,2019 年,美国居民报告的网络勒索损失(不包括勒索软件造成的损失)为1.07亿美元。

总体来看,深度伪造对全球经济体系或者成熟健康的市场经济国家的稳定性不太容易构成严重威胁。发展中国家或新兴市场经济体面临来自深度伪造的威胁更大。经济不稳定和政府机构不那么受民众信任的国家在深度伪造的信息面前更加脆弱;而对于正在经历经济或金融危机的发达国家来说,深度伪造信息可能发挥“最后一根稻草”的作用。另外,深度伪造对目标个人和企业造成经济损失的危险更大。

需要指出的是,单一深度伪造的影响并不局限于单一类型或类别的风险,而是会在不同层次引发连锁反应。首先,由于深度伪造的目标是个人,其影响往往从个人层面开始。其次,可能会对个人所在的团体或组织如政党造成伤害。再次,深度伪造案例的累积和叠加,可能会影响社会心理。最后,导致社会信任的普遍缺失,从而造成严重的社会危害。

深度伪造治理:基于总体国家安全观的视角

随着互联网特别是移动互联网的普及,深度伪造技术也给中国带来了非常复杂的安全问题。2019年11月29日,国家互联网信息办公室(以下简称“国家网信办”)负责人,在谈到《网络音视频信息服务管理规定》(以下简称《规定》)出台的背景时强调:“出台《规定》是促进网络音视频信息服务活动健康有序发展的需要。当前,网络音视频信息服务迅速发展,用户规模不断壮大……与此同时,也带来了传播违法和不良信息、侵犯人民群众合法权益等风险隐患,特别是随着‘深度伪造’等新技术新应用在网络音视频领域的运用,这些风险进一步集聚、放大,可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动,造成政治安全风险和国家安全、公共安全风险,对社会稳定造成不良影响。”这一判断说明,深度伪造给中国国家安全、社会稳定和公民权益带来了威胁和挑战,也从一个侧面印证了习近平总书记对中国安全形势的总体判断。

习近平总书记在中央国家安全委员会第一次会议上,对中国面临的安全形势曾经作出这样的判断:“当前我国国家安全内涵和外延比历史上任何时候都要丰富,时空领域比历史上任何时候都要宽广,内外因素比历史上任何时候都要复杂。”深度伪造技术给国家安全带来不同类型的威胁和挑战,这些威胁与挑战又表现在不同的层次上,既给包括政治和军事安全在内的传统国家安全带来新的问题和挑战,同时也对包括国家、企业和个人在内的经济安全构成了多层次的挑战。因此,应对深度伪造在不同领域、不同层次的挑战,不能“头痛医头脚痛医脚”,应该以总体国家安全观为指导,建立应对深度伪造技术的综合治理体系。

(一)深度伪造治理必须坚持以人民安全为宗旨

坚持以人民安全为宗旨,是中国共产党执政为民的基本原则在国家安全领域的反映。作为新兴技术的副产品,深度伪造同样也给中国国民安全带来了威胁和挑战,是当今中国国民安全领域需要重点关注的问题。深度伪造在其他国家给公众带来的安全威胁,在中国也同样存在。某些方面,中国公众面临的安全形势甚至更为严峻,如,中国是运用新技术的电信诈骗的重灾区。

据央视网报道,在中国公安部门和金融机构加大反诈骗宣传的情况下,2020年,全国立案电信网络诈骗案件92.7万起,案件造成群众财产损失353.7亿元;2021年以来,全国电信网络诈骗案件日均发案2 700起,日平均损失达到了1.4亿元;2021年1—9月,全国共破获电信网络诈骗案件26.2万起,抓获犯罪嫌疑人37.3万人,同比分别上升41.1%和116.4%。尽管无法确认使用深度伪造技术在电信诈骗中所占的比例有多高,但可以肯定的是,随着人工智能技术的发展,诈骗分子越来越多地将最新技术应用于诈骗活动中。习近平总书记在网络安全和信息化工作座谈会上指出:“现在网络诈骗案件越来越多,作案手段花样翻新,技术含量越来越高。这也提醒我们,在发展新技术、新业务时,必须警惕风险蔓延。”“明者防祸于未萌,智者图患于将来”。由于越来越多的新兴技术可能被应用于诈骗活动,我们必须主动防范、积极应对。

对深度伪造的治理,要本着对社会负责、对人民负责的态度,加强对人工智能和网络空间的治理,因此,还要广泛依靠人民培养积极健康、向上、向善的数字生态系统。数字时代带来的一个巨大变化就是个人以个体行为主体的角色来参与培育和保护值得信赖的数字和信息生态系统。尤其是,相当大比例的数字内容是由个人用户生成的,个人也可以确保准确和良性的信息被共享。所以,整个社会要有意识地在个人层面培养公众在数字时代、人工智能时代的道德意识和社会责任感。

鉴于中国各地区特别是城乡发展不平衡,民众对于数字产品认知存在巨大差异,管理部门、网络平台和技术专家,都有义务和责任向社会说明人工智能时代新合成媒体的影响力及可能造成的危害,只要公众了解到合成媒体和可能造成的不良后果,这种欺骗产生影响的可能性就会降低。当公众被教导去发现和识别深度伪造的特征和缺陷,就能够用自己的判断决定该相信什么、不该相信什么。

此外,还要注重对特定群体的数字技术扫盲,特别是提高没有接受过系统数字知识训练、只了解数字知识皮毛、只能简单地使用数字产品(如智能手机)的老年人的数字知识水平。据美国学者丹妮尔·西特伦(Danielle Citron)研究,在数字素养方面存在“代际鸿沟”(generational divide),55岁以上的一代更有可能传播谎言和假新闻。全国人大代表、中国银监会消费者保护局局长邓智毅在接受记者专访时表示,在中国,电信诈骗的受骗者多为老年人。尽管这并非专门因深度伪造而起,但深度伪造可能会加剧这种现象。因此,任何数字技术扫盲政策都应考虑所有年龄组和社会不同层面,以弥合数字鸿沟和代沟。

只有更多的公众意识到了深度伪造可能造成的危害,进而在整个社会培养防范深度伪造的公众意识,深度伪造对国民安全造成的威胁才能降到最低。从这个角度看,公众意识是防范深度伪造音频、视频不良影响的最好“疫苗”。

(二)深度伪造治理必须以维护国家政治安全为根本

国家政治安全涉及国家主权、国家制度、国民意识形态和执政安全等方面。深度伪造对中国政治安全带来的挑战主要表现为宗教极端意识形态和民族分离势力的渗透和分裂活动,特别是西方国家利用所谓的新疆民族和宗教问题,试图分裂中国,以及利用“港独”势力祸乱香港,给“一国两制”在香港的实施制造麻烦。

在涉疆问题上,西方媒体制作了包括深度伪造在内的大量的虚假报道,极力抹黑中国政府的治疆方略和政策,污蔑中国政府在新疆实施“强迫劳动”和“种族灭绝”政策。2021年4月29日,中华人民共和国驻比利时王国大使馆专门发布了揭露以美国为首的西方国家制作包括深度伪造在内的关于涉疆问题的虚假信息的文章,揭露在美国反华势力的操纵下,一些歪曲事实的“学术机构”、造谣的“专家学者”和不顾道德的“业余演员”,是如何制造谎言、包括利用现代人工智能技术制造更加逼真的谎言,以通过诽谤中国的治疆政策误导国际公共话语。与这两个主题配套的深度伪造视频也不断出现在西方主流媒体上。如英国广播公司(BBC)关于所谓“强迫劳动”的专题报道。在那个视频中,使用的是中央电视台的扶贫报道——出于剪辑的需要,它甚至无法完全遮蔽中央电视台的标志——该深度伪造视频将安徽省在对口帮扶的新疆和田地区皮山县招聘工人的镜头,扭曲改变为“强迫”新疆的维族青年到内地工作,原来报道中的笑容一闪而过,而将父母对即将出行儿女的担忧描绘成生离死别。还有一些深度伪造视频污蔑中国政府通过计划生育政策在新疆实施所谓的“种族灭绝”政策等。正是这样深度伪造的假视频、假音频,给中国政府的新疆政策抹黑,将涉疆问题建构成为所谓的“人权”问题和中国政府的“种族灭绝政策”,不仅误导了外部世界的民众,让中国外交面临更为恶劣的国际环境,也影响了新疆的和平安定和民族团结局面以及未来的发展。

涉港问题是西方国家插手中国内政、给中国政治安全带来挑战的另一个重要抓手。2019年,香港黑暴动乱期间,英国和美国媒体都利用了深度伪造视频向外界传递对香港特区政府和执法警队的不满。香港一家专门验证深度伪造虚假信息的平台——“求验传媒”管理人员在接受BBC访问时指出,他们观察发现,有许多社交网站专页在这次“修例风波”期间“不负责任地散播谣言”,发布许多符合它们政治理念的消息;智能手机的性能提升,让更多人可以拍摄照片或视频,再按图片或短片内容编造故事而不理会这些描述是否准确,是这次香港动乱出现“大量假新闻或误导性讯息流传的原因”。

上述涉疆和涉港的案例表明,深度伪造已经并将日益成为威胁中国政治安全的重要手段,让中国的政治安全面临更为复杂的形势。对深度伪造技术的治理,要上升到维护国家政治安全的高度以严密防范和打击利用人工智能和数字技术进行渗透、颠覆破坏活动、暴力恐怖活动、民族分裂活动和宗教极端活动。

(三)深度伪造治理既重视传统安全又重视非传统安全

治理深度伪造问题,既要重视传统安全,又要重视非传统安全。与其他国家一样,深度伪造给中国传统安全和非传统安全带来了新的威胁和挑战。在传统安全领域,除了上述所提到深度伪造给新疆和香港地区的政治稳定带来的挑战外,深度伪造在国土安全和国防安全领域同样给中国带来了一些新的威胁和挑战。无论是在和平时期,还是在未来可能的战争条件下,中国指挥自动化系统同样会面临竞争对手利用深度伪造技术进行干扰和误导的威胁;竞争对手和境外敌对势力也会继续利用深度伪造技术对中国发动政治战,在中国社会制造不信任的情绪和氛围,以降低中国民众对中国社会制度和执政党的信任度。

为此,一方面,中国要加快国防和军队的现代化建设,要贯彻习近平强军思想,贯彻新时代军事战略方针,统筹推进传统安全领域和新型安全领域军事斗争准备。在坚持党对人民军队的绝对领导、坚持政治建军的基础上,以科技强军、人才强军,加快机械化、信息化和智能化的融合发展。尤其是“加快军事智能化发展,提高基于网络信息体系的联合作战能力、全域作战能力,有效塑造态势、管控危机、遏制战争、打赢战争”。

另一方面,针对深度伪造的音/视频基本上是以互联网为基本载体,维护政治安全一定要高度重视网络意识形态安全问题。习近平总书记将网络称为“当前意识形态斗争的最前沿”,认为“掌握网络意识形态主导权,就是守护国家的主权和政权”;各级管理部门“要把维护网络意识形态安全作为守土尽责的重要使命,充分发挥制度体制优势,坚持管用防并举……切实维护以政权安全、制度安全为核心的国家政治安全”。可以说,人工智能和数字时代政治战的特征表明,在互联网这个战场上能否顶得住、打得赢,已经直接关系到中国的意识形态安全和政治安全。

但我们也要看到,深度伪造更多是针对个体用户,其所带来的非传统安全问题也更为普遍和突出。无论是前述涉及针对中国企业和中国公众经济安全的诈骗问题,还是因为“报复色情”引发的性别安全问题,或者因为虚假信息引发的中国期货市场以及股票市场剧烈波动等问题,都已经成为中国各执法部门必须面对和应对的现实问题。在国家和社会日常治理活动中,管理和执法部门面对的更多的也是上述非传统安全领域的问题。

深度伪造引发的非传统安全问题直接关系到中国公共安全。公共安全是基本的民生,因而需要把处理和应对深度伪造引发的非传统安全问题“放在维护最广大人民根本利益中来认识,放在贯彻落实总体国家安全观中来思考,放在推进国家治理体系和治理能力现代化中来把握”。唯有形成有效的社会治理和良好的社会秩序,才能促进社会公平正义,充实中国公众的获得感、幸福感和安全感,进而实现中国社会的良好治理以及确保人民安居乐业、社会安定有序和国家的长治久安。

(四)深度伪造治理要兼顾外部安全与内部安全及自身安全与共同安全两对关系

“共同构建和平、安全、开放、合作的网络空间,建立多边、民主、透明的全球互联网治理体系”,是深度伪造治理的国际路径。

1. 各国须齐心协力应对作为全球共同安全威胁的深度伪造

安全问题早已越出国界,任何一个国家的短板都可能会造成外部风险的涌入,形成安全风险洼地。在安全领域中,深度伪造造成的危害非常突出。如欧美国家对“报复色情”的宽容政策,导致深度伪造的色情视频基本上集中在这些国家,不仅给这些国家女性带来巨大威胁,也给其他国家的女性——无论是包括影视界名人在内的公众人物,还是普通民众——带来性别安全的隐患。所以,在深度伪造导致的安全威胁面前,没有哪个国家可以独善其身,各国可谓安危与共、唇齿相依。因而要给予内部和外部、自身与共同安全同等的重视,协调应对深度伪造带来的安全威胁与挑战,维护各国公众的共同利益。

2. 以建立在各国共同价值基础之上的数字生态系统治理深度伪造问题

深度伪造治理取决于建立良好的全球数字生态系统,这样的数字生态系统必须建立在各国共同价值基础之上。数字技术已经成为支撑社会功能的核心,正在彻底改变社会的各个方面。国际安全和稳定都依赖于维护一个值得信赖和稳定的数字生态系统。因此,国际社会迫切需要优先考虑数字信任和安全问题,并采取具体措施来保护和促进共享的共同价值标准。目前,在全球数字技术领域,发展不平衡、规则不健全、秩序不合理等问题日益突出,尤其是欧美一些国家在数字技术领域采取双重标准,数字空间治理规则难以反映包括中国在内的广大发展中国家的意愿和利益。中国要继续推动数字领域的全球治理体系变革,特别是在作为深度伪造作品最主要载体的互联网领域。

建立良好的全球数字生态系统应该坚持以下几个原则:一是尊重网络主权。即要尊重各国自主选择网络发展道路和管理模式、互联网公共政策和平等参与国际网络空间管理的权利,不干涉他国内政,不从事、纵容和支持危害他国国家安全的网络活动。二是维护和平安全。网络空间不能成为各国角力的战场,不能成为违法犯罪的温床。各国应共同防范和反对利用网络空间进行恐怖、淫秽和各种经济犯罪的活动。三是构建良好秩序。既要提倡自由,也要保持秩序;既要尊重公众交流思想、表达意愿的权利,也要依法构建良好的网络秩序,保障公众在网络空间的合法权益。四是坚持多边主义。各国应加强沟通交流,完善网络空间对话机制,同时发挥政府、国际组织、互联网企业、技术社群、民间机构和公民个人等各个主体的作用,共同制定全球互联网治理规则,使全球互联网治理体系更加公正合理。

3. 打造良好的全球数字生态系统须发挥联合国等机构的作用

联合国的关键作用是促进合作、多边主义、实质性对话和对最紧迫和最具有挑战性的问题提出协商一致意见。网络空间中的信任、安全和稳定问题也不例外。到目前为止,国际安全的现有多边框架并没有明确处理深度伪造技术的规范和标准,因而,在联合国及其相关机构的参与主导下,参考一些国家和地区处理深度伪造的监管机制和方法,制定国际公认的规范和技术标准,是目前能够被大多数国家所接受的、打造良好的数字生态系统的可行路径。

(五)在总体国家安全架构下完善针对深度伪造的综合治理体系

随着以互联网、人工智能技术为代表的数字技术的飞跃发展,它带来的负面影响也逐渐显现,中国也在总体国家安全体系架构下,逐渐建立并完善数字治理体系。深度伪造技术出现后,中国比较早认识到这一新兴技术对国家安全的威胁,并不断采取应对举措加强在这一领域的治理,已经形成了较为完善的综合治理体系。

首先,中国正在逐渐完善应对深度伪造的法律体系。2016年11月7日,第十二届全国人民代表大会常务委员会第二十四次会议通过了《中华人民共和国网络安全法》,并从2017年5月1日起正式实施;2021年6月10日,第十三届全国人民代表大会常务委员会第二十九次会议通过了《中华人民共和国数据安全法》,从2021年9月1日起正式实施;为保护中国公众的个人信息安全,2021年8月20日,第十三届全国人民代表大会常务委员会第三十次会议通过了《中华人民共和国个人信息保护法》,从2021年11月1日起开始实施。上述三个法律,构建了比较完善的应对数字时代、维护国家安全的法律体系,为危及国家安全的各种深度伪造活动设置了不可触碰的高压线。

其次,有针对性地颁布遏制恶意深度伪造行为的管理条例和规定。这在欧美国家称为“软法律”(Soft Law)。2019年11月18日,国家互联网信息化办公室会同文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》,要求“任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动,不得制作、发布、传播煽动颠覆国家政权、危害政治安全和社会稳定、网络谣言、淫秽色情,以及侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止的信息内容”。

再次,从立法到执法,强化并压实信息发布平台的责任。《中华人民共和国数据安全法》规定:“开展数据处理活动,应当遵守法律、法规,尊重社会公德和伦理,遵守商业道德和职业道德,诚实守信,履行数据安全保护义务,承担社会责任,不得危害国家安全、公共利益,不得损害个人、组织的合法权益。”《网络音视频信息服务管理规定》则对数据平台提出了更具体的要求:“网络音视频信息服务提供者应当落实信息内容安全管理主体责任,配备与服务规模相适应的专业人员,建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度……有效应对网络安全事件,防范网络违法犯罪活动,维护网络数据的完整性、安全性和可用性。”这一规定压实了信息发布平台的责任和义务。

与此同时,国家监管机构和执法部门加大了对违规平台的执法力度。2021年3月,针对未履行安全评估程序的语音社交软件和涉及深度伪造技术的应用,国家网信办、公安部指导北京、天津、上海、浙江和广东等地网信部门、公安机关依法约谈包括小米、快手、字节跳动、阿里巴巴、网易云音乐、腾讯等11家企业,督促这11家数字企业按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求,认真开展安全评估,完善风险防控机制和措施,并对安全评估中发现的安全隐患及时采取有效整改措施,切实履行企业信息内容安全主体责任。

最后,完善公民公共安全教育体系。习近平总书记在提到如何落实总体国家安全观时强调:“把公共安全教育纳入国民教育和精神文明建设体系,推动安全教育进企业、进农村、进社区、进学校、进家庭,加强安全公益宣传,健全公共安全社会心理干预体系,积极引导社会舆论和公众情绪,动员全社会的力量来维护公共安全。”《中华人民共和国网络安全法》也明确要求,“各级人民政府及其有关部门应当组织展开经常性的网络安全教育,并指导、督促有关单位做好网络安全宣传教育工作。大众传播媒介应当有针对性地面向社会进行网络安全宣传教育”。各级政府和相关机构在全国范围内加大了对公众的公共安全教育力度。公共安全教育的普及,有助于提高公众的公共安全意识,防范和降低深度伪造造成的各种安全威胁。

中国是一个网络大国,但并非网络强国,国内民众教育水平、知识水平参差不齐。国内部分地区存在着民族分离势力、暴力恐怖势力和宗教极端思想。再加上境外敌对势力利用技术和话语权优势,在国际社会加大对中国的意识形态攻势。深度伪造是境内外各种不稳定势力针对中国社会越来越频繁使用的重要手段,对中国国家安全造成的影响会更为复杂,这就要求我们在总体国家安全观的指导下,统筹应对新兴技术发展给国家安全形势带来的新挑战。

结 语

人工智能和其他数字技术的不断进步,互联网技术的进一步普及,使得深度伪造技术产品的质量、数量和多样性在稳步上升;而相关软件工具的出现,服务的开放性和数据的易采集性等,都使得制造深度伪造产品的大众化能力不断增强。接触深度伪造产品已经成为互联网和数字社交平台用户日常生活的一部分。如在最近的俄罗斯—乌克兰冲突中,即使远离战场的中国公众,也几乎每天都会接触到一些深度伪造的军事、政治方面的信息。这些深度伪造的信息数量和影响之大、在世界各地传播速度之快,引起了一些数字平台的警觉。它所造成的潜在风险,也为各国敲响了警钟。

同时,恶意使用深度伪造技术以及这种技术的泛滥,无论是在传统安全领域,还是在非传统安全领域,都给国家和国际的和平、安全和稳定带来了多方面的风险和挑战,也让公众面临的安全问题更加复杂化。越来越容易获得的深度伪造技术让一系列国家和非国家行为体参与到原本复杂的虚假信息活动中,也更加容易和方便去影响其他国家的政治局势甚至政治走向;国家与非国家行为体还可以利用深度伪造来破坏其他国家的信息环境,从而在持续的政治和军事紧张局势中引发危机或导致紧张局势的升级。深度伪造最深刻的影响在于,它创造了“骗子的红利”——对从个人、社会、国家和国际社会不同层面的信任关系造成破坏,从而给社会、国家乃至全球治理制造更多、更持久的困难。

目前,包括中国、美国、欧盟和联合国在内的大国和国际组织都已经认识到深度伪造对个人、社会、国家和国际安全带来的挑战和威胁,并且从新技术的研发、加强对信息发布平台的监管以及社会立法等方面采取行动,力求遏制恶意深度伪造给国家安全带来的各种威胁。但是,数字活动的跨境性也决定了要解决深度伪造带来的国家安全问题,国家间的合作是必不可少的。国际社会必须摒弃国际安全治理的双重标准,在相互尊重、相互信任的基础上,倡导综合安全、合作安全、共同安全的理念,共同打造数字时代人类安全的命运共同体。




编辑:陈十九

审核:商密君

征文启事

大家好,为了更好地促进同业间学术交流,商密君现开启征文活动,只要你对商用密码、网络安全、数据加密等有自己的独到见解和想法,都可以积极向商密君投稿,商密君一定将您的声音传递给更多的人。

深度伪造与国家安全:基于总体国家安全观的视角


深度伪造与国家安全:基于总体国家安全观的视角点击购买《2020-2021中国商用密码产业发展报告》

深度伪造与国家安全:基于总体国家安全观的视角

来源:国际安全研究ISS

注:内容均来源于互联网,版权归作者所有,如有侵权,请联系告知,我们将尽快处理。

深度伪造与国家安全:基于总体国家安全观的视角

深度伪造与国家安全:基于总体国家安全观的视角
深度伪造与国家安全:基于总体国家安全观的视角
点分享
深度伪造与国家安全:基于总体国家安全观的视角
点点赞
深度伪造与国家安全:基于总体国家安全观的视角
点在看

原文始发于微信公众号(商密君):深度伪造与国家安全:基于总体国家安全观的视角

特别标注: 本站(CN-SEC.COM)所有文章仅供技术研究,若将其信息做其他用途,由用户承担全部法律及连带责任,本站不承担任何法律及连带责任,请遵守中华人民共和国安全法.
  • 我的微信
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2022年5月3日23:21:57
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                  深度伪造与国家安全:基于总体国家安全观的视角 http://cn-sec.com/archives/969873.html

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: