我是如何用人工智能生成的声音攻击银行账户

admin 2023年3月14日22:40:54评论92 views字数 2883阅读9分36秒阅读模式

美国和欧洲的银行将语音 ID 吹捧为登录帐户的安全方式。我证明了用免费或廉价的人工智能生成的声音来欺骗这样的系统是可能的,只要在公开场合有过声音记录的人员都有可能成为攻击目标。并已发现有其它领域利用名人声音进行社会工程学攻击。

我是如何用人工智能生成的声音攻击银行账户

上周安全测试中,我拨通了银行的自动服务热线。首先,银行要我用本人的声音来说明我打电话的原因。我没点击附近笔记本电脑上的一个文件来播放一段声音:“检查我的余额,”但这实际上不是我的声音。这是我使用现成的人工智能技术制作的其它测试人员合成克隆声音。

“好的”,银行回答道。然后它要求我输入或说出我的出生日期作为第一项身份验证,而出生日期多数从wiki或社交账号上可以获取,输入后,银行说“请说,‘我的声音就是我的密码。’”

再一次,我从我的电脑播放了一个提前制作的声音文件。“我的声音就是我的密码,”那个声音说。银行的安全系统花了几秒钟验证了声音。

“谢谢,”银行说。

结果是——它奏效了。我曾使用人工智能驱动的声音复制品闯入银行账户。之后,我可以访问帐户信息,包括查询余额和最近的交易和转账清单。

美国和欧洲的银行使用这种语音验证让客户通过电话登录他们的账户。一些银行将语音识别吹捧为等同于指纹,这是用户与银行互动的一种安全便捷的方式。但是这个实验打破了这样一种想法,即基于语音的生物识别安全在一个任何人现在都可以廉价甚至有时免费生成合成语音的世界中提供万无一失的保护。我使用了人工智能语音公司 ElevenLabs 提供的免费语音创建服务。

现在,滥用 AI 语音可以扩展到欺诈和黑客攻击。在完成这个实验后,我采访过的一些专家现在呼吁银行完全放弃语音认证,尽管此时现实世界中的滥用行为可能很少见。

专注于社会工程的公司 SocialProof Security 的首席执行官 Rachel Tobac 告诉 Motherboard:“我建议所有利用语音‘身份验证’的组织尽快切换到安全的身份验证方法,例如多因素身份验证。”这种语音复制可以“在不需要与现实生活中的人互动的情况下窃取并完成制作”。

在线voice已经使用 ElevenLabs 在未经人们同意的情况下使用人们在线声音的剪辑来复制人们的声音。潜在的任何人,哪怕只有几分钟的声音是公开的——YouTube 用户、社交媒体影响者、政客、记者——都可能容易受到这种声音克隆的影响。如下视频是我上述的安全测试过程:

这是我在英国劳埃德银行的一个账户上进行了测试。劳埃德银行在其网站上表示其“语音 ID”程序是安全的。“你的声音就像你的指纹,对你来说是独一无二的,”该网站写道。“语音 ID 分析您声音的 100 多种不同特征,就像您的指纹一样,对您来说是独一无二的。例如,您如何使用嘴巴和声带、您的口音以及您说话的速度。如果你感冒或喉咙痛,它甚至能认出你,”它补充道。

美国的许多银行都提供类似的语音验证服务。TD Bank 有一个名为“VoicePrint”的产品,并在其网站上说:“你的声纹,就像你的指纹一样,对你来说是独一无二的——没有其他人的声音和你一样。” Chase 拥有“语音 ID”,与 Lloyds Bank 一样,它也声称客户的声纹“是由 100 多种不同的身体和行为特征创建的”。与此同时,富国银行的网站称,其“语音验证”“有效地保护了您的身份”。

虽然我只对劳埃德银行进行了测试,但考虑到这些其他系统的相似性质和功能,它们也可能面临人工智能语音的风险。许多银行允许用户通过电话执行一系列银行业务功能,例如检查交易历史记录、账户余额,以及在某些情况下转账。

对于这种特殊攻击,欺诈者还需要目标的出生日期。但由于大量的数据泄露、经纪人或人们在线共享个人详细信息,出生日期通常很容易获得。

劳埃德银行发言人在一份声明中表示,“语音 ID 是一项可选的安全措施,但我们相信它比传统的基于知识的身份验证方法提供更高级别的安全性,并且我们的安全和欺诈预防分层方法继续提供为客户帐户提供适当级别的保护,同时在需要时仍可轻松访问它们。”

劳埃德银行表示,它意识到合成语音的威胁并采取了应对措施,但尚未发现此类语音被用于对其客户进行欺诈的案例。劳埃德银行表示,合成语音对欺诈者的吸引力不如其他更常见的方法,语音 ID 已导致电话银行欺诈显着下降。

鉴于目前合成语音欺诈非常罕见,如果这意味着保护他们免受网络钓鱼等其他类型的欺诈,消费者可能更愿意使用它。如果消费者是公众人物,那么这种计算可能会改变,因为他们的声音在互联网上很容易获得大量高质量的音频。去年9 月,律师起诉了一群美国金融机构,因为用于识别呼叫者的生物识别声纹违反了加州侵犯隐私法。

美国监管金融业的机构之一消费者金融保护局在我发送视频演示后的一份声明中告诉我“CFPB 关注数据安全,公司注意到他们将被追究责任粗制滥造的做法。我们希望任何公司都遵守法律,无论使用何种技术。”

在过去的几周里,我测试了一些人工智能语音生成服务。他们中的大多数人在重现我的英国口音方面遇到了问题或限制,而这是访问劳埃德银行账户所必需的。最终我使用了 ElevenLabs,它很好地处理了口音。

为了创建声音,我测试中使用了测试人员录制了大约五分钟的正常演讲并将其上传到 ElevenLabs(对于音频剪辑,我阅读了欧洲数据保护法的部分内容)。不久之后,合成语音就可以使用了,它会说出输入 ElevenLabs 网站的任何文本。

我是如何用人工智能生成的声音攻击银行账户

ELEVENLABS 界面的屏幕截图

攻击银行账户的实验最初多次失败,劳埃德银行的系统说无法验证语音。在对 ElevenLabs 进行一些调整后,例如让它阅读更长的文本以使节奏听起来更自然,生成的音频成功绕过了银行的安全措施。

ElevenLabs 在其网站上表示,其用例包括为时事通讯、书籍和视频提供声音。但由于在发布时设置了最少的防护措施,人们很快就滥用了 ElevenLabs 的技术。4chan 的成员使用 ElevenLabs 制作了名人的合成版本,大谈种族主义和跨性别恐惧症,例如假艾玛·沃特森正在阅读《我的奋斗》。后来,巨魔使用 AI 语音生成器制作特定配音演员的复制品,然后让他们在 Twitter 的帖子中读出演员的家庭住址(攻击者声称 ElevenLabs 的技术被用作 dox 的一部分,但 ElevenLabs 声称只另一个不包含目标地址的剪辑是用其软件制作的)。

在名人剪辑之后,ElevenLabs 发推文询问应该采取哪些保护措施,例如要求用户提供完整的身份识别或要求提供付款信息。然而,Motherboard 能够在不提供 ID 或任何支付信息的情况下生成语音,这可能是因为该帐户是在 ElevenLabs 引入新的安全措施之前创建的。创建银行安全绕过语音的成本是免费的。

ElevenLabs 没有回应多项置评请求。在之前的一份声明中,前 Palantir 部署策略师、现任 ElevenLabs 联合创始人的 Mati Staniszewski 表示:“我们的新保护措施已经在迅速减少滥用情况,我们感谢我们的用户社区继续标记任何示例,其中需要采取额外行动,如果违法,我们将支持当局查明这些用户。

原文始发于微信公众号(军机故阁):我是如何用人工智能生成的声音攻击银行账户

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2023年3月14日22:40:54
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   我是如何用人工智能生成的声音攻击银行账户http://cn-sec.com/archives/1605469.html

发表评论

匿名网友 填写信息