深度伪造
Deep Fake
人工智能（AI）和机器学习有望将人类进化到更高的未来高度。最紧迫的发展是在自动化领域。人工智能生成的合成媒体，包括音频或视频，可以在艺术、教育和娱乐领域带来前所未有的机会，而成本只是其中的一小部分。
深度伪造Deep Fake可以复制视频、改变声音和交换面孔、嘴唇的动作与所说的话。
举个例子来说，2022年3月8日，乌克兰总统泽连斯基在社交媒体上发布了17秒的短视频，说基辅下雪了。泽连斯基真的是在基辅拍摄的该短视频吗？
-
其左侧面部的光线比较明亮，在其抬起的左肩和手臂上形成阴影，可以比较明显地看到光照方向是从画面右上角往左下角方向。 -
其身后的背景光线相对灰暗，没有面部光线明亮。 -
背景中车辆的阴影显示光照方向几乎是垂直。 -
人和车辆阴影反映出背景视频和泽连斯基本人说话的视频应该不是同一环境同时拍摄。 -
该短视频疑是使用绿幕抠图技术合成。
图：之前被疯狂转发的视频也是假的
电影可以与原始演员一起翻译，从而将成本和劳动力降低。使用深度伪造应用程序的快速渲染以数字方式改变人类，将蒙娜丽莎的微笑变为现实。
该实验室还制作了玛丽莲·梦露、阿尔伯特·爱因斯坦和萨尔瓦多·达利的逼真视频，就好像他们在说话一样。然而，该技术为可能与网络战有关的主要威胁保驾护航，其中设计不良的工具会给黑客带来风险并引发犯罪使用。
特洛伊木马？
Deep Trace Labs 在 2020 年 6 月进行的一项调查提到，互联网上的深度造假视频数量在短短六个月内翻了一番。报告中说，在 2019 年，96% 的深度造假视频都是未经同意的深度造假SE情内容，而目标几乎完全是女性。
第一个深度造假视频于 2017 年浮出水面，其中名人的面孔与SE情演员的面孔互换。在这种情况下，深度造假已经开始对社会产生经济影响。一家总部位于英国的能源公司的首席执行官落入了价值约 243,000 美元的骗局。AI 生成的声音Deep Fake被用来模仿 CEO 的声音。
数字操纵往往导致对图形媒体完整性和假新闻传播的质疑。使用Photoshop等容易获得的工具滥用图像处理技术导致创建歪曲事实的照片。
一张图片胜过千言万语，在一个追求即时满足的视觉化越来越强烈的世界中，假图像比证词更有效。元数据可以操作或擦除社交媒体页面上使用的相机过滤器以及内置应用程序可以修改图像以增强面部特征。
深度伪造视频是通过与另一个人以数字方式改变一个人的脸来创建的。它们也可以是计算机生成的，被恶意创造，看起来像第二个人。
深度伪造是如何产生的？
深度伪造需要 GAN和自动编码器，数据是使用图形数据（如图像和音乐）从头开始生成的。
GAN 用于创建动漫、面部表情符号，甚至 TikTok 视频。社交媒体过滤器可以改变发型、眼睛颜色、面部毛发，甚至改变受试者的年龄。
麻省理工学院媒体实验室的研究助理Matt Groh提到了面部识别算法以及称为变分自动编码器（VAE）的深度学习计算机网络的使用。
创作者将训练一个由真实镜头或人物照片组成的神经网络，以真实地了解他们的面部特征。它们从不同角度看如何？照明条件如何？
面部识别算法为视频帧捕获不同的姿势和自然光。深度学习训练VAE对需要交换的图像进行编码，并对要交换的图像进行解码。可以是计算机生成的图像（GAN）或属于另一个真实的人。然后，通过将编码器与解码器相结合，GAN生成的图形将叠加到真实媒体上。
在Thispersondoesnotexist.com 呈现了人造的逼真图像（图1）。这些图像是使用 GAN 创建的，包含来自不同种族和年龄的头像。
一个名为My Heritage的网站和应用程序使用AI从照片中创建移动视频（图2）。它的功能基于Deep Nostalgia的概念，该概念使静止图像动画化并创建高质量的视频。它已被用于以数字方式使死者复活。
图 1：这些图片都不属于真实的个人。
图 2：使用“我的遗产”应用程序的静止图像中的动画视频。
此外，像ReFace这样的AI集成平台允许用户将面部转换为依赖GAN技术的视频和GIF。为了演示，两张图片取自电视节目《老友记》。
这些图像已上传到ReFace应用程序。从样本中选择一个带有嵌入音频的随机视频来创建深度假视频。
图 ：用于创建用于演示目的的深度虚假视频的开源图像。
电影特效中的绿幕抠图视频合成
蓝幕和绿幕都是拍摄特技镜头的背景幕布，演员在蓝幕、绿幕前表演，由摄影机拍摄下来，画面在电脑中处理，处理掉背景的蓝色或绿色，换上其他背景。
在亚洲，一般使用蓝幕，而在欧洲，一般使用绿幕。主要是因为欧洲人蓝眼睛的较多，使用蓝幕的话，后期处理容易把演员的眼珠处理掉。
近年来特技拍摄更多采用绿幕，绿幕使用的荧光绿色在电脑系统中更容易与前景分离，同时这种颜色较为明亮，不易产生黑边。
下面这个视频讲述了在电影中运用绿幕特效的场景。
用于创建深度伪造品的其他工具包括：
-
Zao
-
Deepfakes web
-
Deep Face Lab
-
Face App
有几起网络犯罪案件，其中虚构的在线个人资料与弱势女性（称为网络钓鱼）建立欺诈性浪漫关系以勒索钱财。后来据报告说还发生了诽谤案件，妇女受到此类指控的骚扰。人们越来越容易制作他们从未说过或做过的事情的视频。
调查深度伪造
深度伪造品可以骗过肉眼。但只要经过仔细观察，还是可以通过分析不一致之处来发现捏造的假视频。
识别深度伪造图片或视频音频的一些提示和技巧如下：
-
视频中的内容有意义吗？它所传递的意图和信息是什么？调查人员经常可以找到这些引发危险信号的视频背后的动机。
-
观察每个面部特征——从更广泛的方法开始，同时观察整个面部。在此类视频中，面部转换始终存在。面部可能看起来更光滑，细纹和皱纹可能会减少。眼睛、下巴和嘴唇等特征可能会拉伸、扭曲或异常松弛。
-
观察眼睛——识别视频中的自然阴影和光线。眼睛和眉毛的动作是否与嘴巴同步？嘴唇的大小不寻常吗？
-
眨眼——皮肤是否显得太光滑或过滤？
-
注意配件——如眼镜和面部毛发。对于由于眩光而包含眼镜的图像，创建深度虚假视频可能具有挑战性。面部毛发处理具有挑战性，通常会导致图像感觉不对劲或奇怪。
-
监控肢体语言——脖子与面部表情同步吗？这个人的手势是否与他们的嘴巴动作相协调？身体运动是否看起来像机器人和人造的？
使用OSINT工具来检测深度伪造
OSINT调查程序通常涉及：
-
视频来源：社交媒体分析和数字取证发挥着重要作用。专注于显示或恢复EXIF数据的工具特别有用。
-
反向图像搜索工具，如谷歌图像搜索，Yandex和TinEye反向图像搜索会提供有关图像帧的一些见解。
-
可以利用 Audacity 或 Deep Fake Audio Detection 等音频分析工具 https://github.com/dessa-oss/fake-voice-detection。
Sensity.ai
Sensity 允许用户分析文件以检测有关图像或视频操纵的威胁。
图 ：使用 Sensity.ai 检测深度虚假视频。
但是，如果图像已进行战略性修改，则该工具无法检测到面部交换。包括从图像中删除背景的过程，将库存图像与GAN图像交换，甚至交换EXIF数据都可以减少其检测的机会。
图 ：使用 Sensity.ai 未检测到的面部交换。
Deepware.ai
布法罗大学的研究人员创造了一种深度假发现工具，成功率约为94%。适用于眼睛中光反射的物理学。该工具检查眼睛中不匹配的反射差异。两只眼睛的反射应具有相同的形状和大小。
Deepware.ai工具
与 Sensity.ai 类似，Deepware是一个Deep Fake scanner。然而，结果并不令人满意。图 7 显示了扫描结果，该工具设法从 1 个视频中发现了 2 个假视频，而 Sensity.ai 可以同时发现这两个视频。Deepware的一个有趣的功能是它标记了威胁区域（“pred”）。
图 ：使用 Deepware.ai 进行深度假扫描。
通过 OSINT 弥合差距
技术发展创造了接近逼真的图像、音频和视频，损害了个人的隐私和安全。虽然人工智能技术和GAN在营销，服装，戏剧和电影领域有几个好处，但网络犯罪的行为却没有幸免。
声誉破坏与深度伪造的创建和分发并行不悖，特别是对于那些生活在公共领域的人，例如政治人物、名人和运动员。将来，很可能是你的朋友，你的邻居，你的同事，甚至你的家人。因此，深度伪造不亚于伪装成合法的特洛伊木马。
当涉及到识别深度伪造品的创造者时，他们常常保持匿名，从上面的例子中可以明显看出，与深度伪造检测工具的可能性相关的差距很明显。有可能将此类扫描仪集成到社交媒体平台上，这些平台可以自动检测假视频、假图像和假新闻。
调查人员必须接受培训，以监控和识别深层伪造品。今天所看到的威胁性现实只是冰山一角。如果不加以控制，可能会威胁到我们所有人。
2023年4月向美国国会发布的报告有关深度造假与国家安全
报告中指出深度伪造，报告中指出了深度伪造技术目前已经严重的影响到了国家安全。这是一个在2017年首次出现的术语，用来描述利用人工智能（AI）技术生成的逼真照片、音频、视频和其他伪造品，在未来几年可能会带来各种国家安全挑战。随着这些技术的不断成熟，可能对美国国会的监督产生重大影响、美国国防授权和拨款，以及对社交媒体平台的监管。
识别下方二维码加入情报学院知识星球下载更多深度伪造相关资料，社群内有5000+专业情报资料可供下载并每日持续更新中。加入后可与众多业内人士互动交流学习，优先获得全球各类情报信息相关资料。
往期推荐
原文始发于微信公众号（情报分析师）：深入了解深度伪造Deep Fake
- 左青龙
- 微信扫一扫
-
- 右白虎
- 微信扫一扫
-
评论