深度伪造技术正在颠覆网络空间的可信性

数据显示，当前我国网络视频用户规模达8.5 亿，占到网民的94.1%。网络视频应用在快速普及的过程中也带火了“人工智能+人脸识别”类软件，比如ZAO、Deepfacelab等。此类软件所使用的深度伪造技术在带来娱乐的同时，可能引发的安全风险也备受关注。如果通过深度伪造技术制作造假新闻和色情视频等违法信息，必将造成“眼见不一定为实”的普遍不信任感，进而会对国家安全、政治安全和个人合法权益造成威胁。

一、深度伪造技术特征

深度伪造是一种基于人工智能的人体图像合成技术。深度伪造技术的兴起是人工智能发展到一定阶段的产物，源于人工智能系统生成对抗网络（GAN）的进步。GAN由生成器和识别器两个相互竞争的系统组成。建立GAN的第一步是识别所需的输出，并为生成器创建一个培训数据集。一旦生成器开始创建可接受的输出内容，就可以将视频剪辑提供给识别器进行鉴别；如果鉴别出视频是假的，就会告诉生成器在创建下一个视频时需要修正的地方。根据每次的“对抗”结果，生成器会调整其制作时使用到的参数，直到鉴别器无法辨别生成作品和真迹，以此将现有图像和视频组合并叠加到源图像上生成深度伪造视频。

深度伪造视频难以鉴别。目前还没有鉴别深度伪造视频的商业工具。随着生成器越来越擅长创建假视频剪辑，鉴别器也越来越擅长识别它们。相反，随着鉴别器在识别假视频方面做得越来越好，生成器在创建假视频方面也做得越来越好。理论上，只要给GAN当前掌握的所有鉴证技术，它就能通过学习进行自我进化，规避鉴证监测。攻击会被防御反击，反过来又被更复杂的攻击所抵消。鉴别技术只可能暂时领先，深度伪造视频创造者很快就能赶上最新的检测技术。未来，生成假视频和检测假视频将持续进行“道高一尺、魔高一丈”的反复博弈。 

深度伪造软件价廉且易操作，广受用户欢迎。在深度伪造出现前，视频换脸技术最早应用于电影领域，需要相对较高的技术和资金。2017年以来，该技术在“GitHub”的开源软件涌现，开发技术很容易被获取，能被不具备专业知识的普通人利用并轻易制作。制造视频并不需要很高的技巧，机器学习算法与面部映射软件相结合，伪造内容来劫持一个人的声音、面孔和身体等身份信息变得廉价而容易，普通大众一键便可制造想要的视频。例如，希拉里版特朗普的视频仅使用了一种名为FAKEAPP的软件，放入图片视频即可一键生成，不懂编程的人阅读操作流程后都可轻易上手。

二、深度伪造技术滥用带来的安全风险

威胁国家安全和政治安全。深度伪造技术被运用在政治领域，可成为损毁国家形象、挑拨内部矛盾的武器。一是通过伪造国家领导人的图片、视频，诋毁国家形象、制造内部矛盾。政治人物换脸的例子已屡见不鲜，比如，美国总特朗普与德国总理默克尔之间的换脸，甚至在非洲国家加蓬引发了政治动荡，反对派称总统阿里•邦戈（Ali Bongo）的新年演讲是“深度伪造”视频，引发了一场军事政变。美国两党也开始担心该技术成为发起虚假信息战争的最新武器。二是通过拦截篡改相关事件的新闻报道，传播虚假信息，削弱对国家机构和官方新闻媒体的公信力，扰乱政治秩序。三是深度伪造技术已经滥用于情报工作。美联社报道称，一名间谍使用 AI 生成的个人资料和图片在全球著名的职场社交平台LinkedIn上欺骗联系人，包括政治专家和政府内部人士。此外，还可能影响选举活动，比如在选举前故意传播虚假信息，诽谤选举人，进而影响选举的公正性。

侵犯个人肖像权、名誉权等合法权益。深度伪造技术最初被应用于色情行业。2017年12月，一个名为“DeepFakes”的用户在Reddit网站发布“假视频”，将成人色情电影中演员的脸替换成了斯嘉丽•约翰逊等知名女演员的脸，画面以假乱真。2019年出现的一键生成裸照软件DeepNude，只要输入一张完整的女性图片就可自动生成相应的裸照。受害者通常没有追索权，而且照片上传之后很难删除。这一技术会损害当事人声誉，甚至毁掉其职业生涯。对此，美国弗吉尼亚州扩大了《色情报复法》调整，已将利用深度伪造、photoshop 或其他工具制作的虚假照片、视频纳入管理范畴。

带来个人信息安全风险。深度伪造软件收集的用户照片，以及眨眼、摇头等动态行为信息，都是用户不可更改的敏感信息，一旦被非法使用，后果不堪设想。同时，被用作生物识别身份的语音也非常容易被模仿者欺骗。2019年 3 月，网络犯罪分子利用一款基于 AI 的软件模仿了一家德国母公司首席执行官的声音，欺骗该公司旗下一家英国能源公司的经理向诈骗者控制的银行账户转款 24.3 万美元。

三、几点思考

开展深度伪造技术安全风险评估。美国高度重视深度伪造技术的应用问题，两党议员分别在众、参两院同时提出《2019年深度伪造报告法案》（Deepfakes Report Act of 2019），要求评估深度伪造技术的安全风险。2019年6月13日，美国众议院情报委员会为此专门召开听证会，公开讨论深度伪造技术给国家、社会和个人带来的风险及防范措施。我国也应将深度伪造技术纳入新技术新应用的安全风险评估中，充分评估该技术目前的发展状况、适用领域和范围，未来发展方向和应用趋势，以及对国家安全和政治安全的影响、对公民个人权益的损害等。

制定与深度伪造技术有关的规范标准。近年来，美国陆续出台《2018年恶意伪造禁令法案》和《深度伪造责任法案》，主张对深度伪造技术进行严格限制。建议我国相关部门尽快制修订相关技术标准，明确深度伪造技术的适用范围，涉及国家安全、公共利益和公民合法权益的，要对其适用性进行明确限制，尤其是对深度伪造视频的传播应严格限制，如传播需用水印等进行标明。将伪造视频纳入违法和不良信息规制范围，严禁违法有害信息的传播；对深度伪造软件收集使用信息的行为进行评估，加强对人脸等生物识别信息的保护；明确互联网平台和伪造视频者的责任，督促互联网平台利用自身技术优势，加强对违规违法行为的管理。

强化对深度伪造鉴别技术的研发。美国国防高级研究计划局（DARPA）设立“媒体鉴证”项目，开发能够识别深度伪造视频的工具。2019年9月， Facebook投入1000万美元，与微软、Partnership on AI以及多所大学共同发起深度伪造检测挑战赛，激励和促进检测研究。我国相关部门在加强管理的同时，应大力促进第三方检测机构开展深度伪造监测鉴别业务，鼓励企业加大对鉴别技术研发的投入；利用区块链、电子认证签名等技术，开发相关鉴别工具。

作者：赛迪智库网络安全研究所

魏书音 刘玉琢