深度伪造将造成400亿美元损失

根据德勤的最新报告，与深度伪造（Deepfake）相关的网络攻击损失预计将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率达到惊人的32%，银行和金融服务业将成为主要目标。

报告显示，作为对抗性AI攻击的典型代表，深度伪造攻击仅去年一年就暴增了3000%。预计2024年深度伪造事件将增加50%至60%，今年全球将发生14-15万起深度伪造案件。

最新一代的生成式AI应用程序、工具和平台为攻击者提供了极大丰富的功能，可以极低的成本快速创建深度伪造视频、语音克隆和欺诈性文档。Pindrops发布的《2024年语音智能和安全报告》估计，针对联络中心的深度伪造欺诈每年造成的损失估计为50亿美元。报告强调，深度伪造技术对银行和金融服务的威胁最为严重。

Sumsub发布的《2023年身份欺诈报告》中的信息图为我们提供了人工智能欺诈快速增长的全球视图：

2022-2023年深度伪造欺诈案件的增幅（%） 来源：Statista

对抗性AI产生了全新的攻击媒介，以及更为复杂的威胁环境，尤其是身份驱动的攻击，企业对此并未做好准备。根据Ivanti的最新研究，30%的企业没有识别和防御对抗性AI攻击的安全措施和计划。

《Ivanti2024年网络安全状况报告》发现，74%的受访企业已经看到了AI威胁的迹象，且绝大多数受访者（89%）认为人工智能驱动的威胁才刚刚开始。Ivanti采访的CISO、CIO和IT领导者中，60%的人担心他们的企业没有准备好抵御AI驱动的威胁和攻击。

调查显示，网络钓鱼、勒索软件攻击、软件漏洞和API相关漏洞攻击是从生成式AI技术中“受益”最多的网络攻击类型：

来源：Ivanti 2024年网络安全状况报告

企业高管面临的网络安全风险正在快速增长。根据Ponemon 2023年的一项调查，在接受调查的553名IT专业人员中，有42%的受访者报告称公司高管或其家人曾遭到网络犯罪分子的攻击。这些攻击导致了知识产权的丧失（被攻击者中有78%）、客户和业务伙伴的流失（66%）以及客户或员工数据的丢失（27%）。

毫不意外，深度伪造攻击的主要目标也是企业高管。今天，随着国家黑客、APT组织和大型网络犯罪组织快马加鞭地开发、雇用和开发生成对抗网络（GAN）技术，深度伪造攻击对企业高管的攻击成功率大增，仅在今年就发生了数千起针对CEO深度伪造攻击尝试，其中针对全球最大广告公司首席执行官的攻击尝试展示了深度伪造攻击技术的高度复杂和难以防御。

值得注意的是，与企业高管深度伪造攻击相关的网络钓鱼和电汇欺诈也正快速增长，今年2月份黑客利用复杂深度伪造技术从一家跨国公司的香港办事处骗走了高达2亿港元（2560万美元）。黑客事先为某公司的首席财务官和其他相关员工的数字重建“数字克隆”版本，并在视频电话会议中指示香港办事处员工进行转账操作。

参考链接：

• https://www2.deloitte.com/us/en/insights/industry/financial-services/financial-services-industry-predictions/2024/deepfake-banking-fraud-risk-on-the-rise.html
• https://www.pindrop.com/resources/reports/2024-voice-intelligence-and-security-report