摘要:生成式人工智能算法的发展使得生成式伪造语音更加自然流畅,人类听力难以分辨真伪.本文首先分析了生成式伪造语音不当滥用对社会造成的一系列威胁,如电信诈骗更加泛滥、语音应用程序安全性下降、司法鉴定公正性受到影响、综合多领域的伪造信息欺骗社会大众等.然后从技术发展角度,对生成式伪造语音的生成算法和检测算法分别进行总结与分类,阐述算法流程步骤及其中的关键点,并分析了技术应用的挑战点.最后从技术应用、制度规范、公众教育、国际合作4方面阐述了如何预防以及解决生成式伪造语音带来的安全问题.
冯畅(1,2)吴晓龙(2,3)赵熠扬(1,2)徐明星(1,2)郑方(1,2)
1.清华大学计算机科学与技术系
2.清华大学北京信息科学与技术国家研究中心
3.新疆大学计算机科学与技术学院
冯畅,博士研究生.主要研究方向为伪造语音检测.
吴晓龙,博士研究生.主要研究方向为语音情感识别.
赵熠扬,硕士研究生.主要研究方向为说话人识别.
徐明星,博士,副研究员.主要研究方向为语音情感识别、声纹识别.
郑方,博士,教授.主要研究方向为说话人识别、语音识别、自然语言处理.
(本文刊载在《信息安全研究》2024年第10卷第2期)
原文始发于微信公众号(信息安全研究):【好文推荐】生成式伪造语音安全问题与解决方案
- 左青龙
- 微信扫一扫
- 右白虎
- 微信扫一扫
评论