战胜 Deepfake 的危险

Deepfakes 越来越受到网络犯罪分子的欢迎，随着这些技术变得更加易于使用，组织必须更加警惕。

正如我们在一些示例中看到的那样，随着深度造假在复杂性方面迅速进步，它们可能非常具有说服力。而且，随着这些技术变得更加易于使用，它们越来越受到网络犯罪分子的欢迎。例如，VALL-E 的推出引发了人们对快速、轻松地制作深度伪造声音的能力的新担忧——换句话说，就是快速伪造。

AI合成的金凯瑞

随着这些技术变得更容易获得和使用，它可能会为资源和技术能力有限的不良行为者提供新的机会，将它们用于新形式的网络攻击和欺诈。

AI合成的摩根弗里曼

下一代攻击——人工智能武器化

Deepfakes是武器化 AI 持续趋势的一部分。它们在社会工程学的背景下非常有效，因为它们使用人工智能来很好地模仿人类交流。借助这些工具，恶意行为者可以轻松地蒙骗人们向他们提供凭据或其他敏感信息，甚至转账以获取即时经济利益。

Deepfakes 代表了下一代欺诈，它使不良行为者能够更准确地冒充他人，从而诱骗员工、朋友、客户等做出诸如交出敏感凭证或汇款等事情。

这是一个真实世界的例子：不法分子利用深度伪造语音技术通过人工智能模仿 CEO 的声音说服一名员工向一家匈牙利供应商转账近 25 万美元来诈骗一家公司。今年早些时候，FBI 还警告称，使用深度造假和窃取 PII 来申请远程工作的情况有所增加——尤其是那些可以访问大量敏感客户数据的职位。

降低进入门槛

尖端工具和人工智能的商品化降低了生产这些深度假货的门槛。除了技术进步之外，交钥匙、基于订阅的“深度伪造即服务”即将出现，使各种技能水平的网络犯罪分子能够发起更复杂的攻击，而无需首先投入时间和资源来创建自定义攻击策略。然后，网络犯罪分子可以通过无数种方式使用深度造假，随着这些技术在未来变得更加广泛，威胁只会增加。

在 Deepfakes 时代保护您的环境

为了对抗深度造假的冲击并防止这些视频和图像在网上共享，许多方面都采取了措施。在社交媒体领域，Facebook 正在与大学研究人员合作创建一个 deepfake 检测器，以帮助执行其禁令。Twitter 也有类似的禁令，而 YouTube 正在努力阻止它发现的与政治有关的任何 deepfakes。

研究人员一直在开发用于检测 deepfakes 的数据科学解决方案，但随着攻击者技术的进步并产生更有说服力的结果，许多解决方案已经变得毫无用处。来自 AI 公司的过滤程序就像垃圾邮件过滤器一样，在 deepfakes 造成伤害之前对其进行标记。在立法方面，多个州已通过法律，将深度伪造色情定为犯罪，并防止在选举周期中使用深度伪造。

防病毒软件、Web 过滤和端点检测与响应 (EDR) 技术都可以帮助保护企业免受 AI 武器化的影响。然而，通过教育提高网络安全意识是阻止人工智能相关攻击的最佳防御策略之一。虽然许多企业为员工提供基本的安全培训，但企业应该考虑引入额外的模块来教员工如何识别以 AI 为中心的风险。

例如，deepfakes 模块可以提供识别 deepfake 视频的技巧。小费包括笨拙的头部和身体姿势、不眨眼的眼睛、不自然的面部表情和面部变形。其他迹象包括不自然的体型、不真实的头发（太完美或不符合正常的发际线）、异常的肤色、不一致或看起来笨拙的头部和身体姿势、奇怪的光线或变色以及糟糕的口型同步。

打败深度造假

Deepfakes 越来越受到网络犯罪分子的欢迎，随着这些技术变得更加易于使用，组织必须更加警惕。这就是我们所看到的武器化 AI 持续趋势的一部分。深度造假在社交工程方面非常有效，这已经是一种有效的攻击手段。

立法者、社交媒体巨头和研究人员都在努力寻找战胜这一阴险的新威胁的方法。组织可以部署一些安全技术，它们会在一定程度上有所帮助。但与大多数安全问题一样，人类通常是第一道也是最好的防线。冒着听起来像破纪录的风险，它总是归结为网络安全和培训。员工必须接受培训，这样他们才能发现这些危险的深度造假，并避免他们的组织蒙受金钱和声誉的损失。此外，请记住身份验证仍然很重要。就像网络钓鱼电子邮件一样，在指示做一些可能有问题的事情后拿起电话打电话给某人会有很长的路要走。

编译自：安全周刊

原文始发于微信公众号（河南等级保护测评）：战胜 Deepfake 的危险