Theintercept网站10月17日消息，美国特种作战司令部（SOC）正在研制难以预测的互联网用户，以支持秘密军事任务。根据《拦截者》获得的文件，五角大楼要求创建可信的虚拟人物，配备真实相似的独特照片、情感和背景资料，甚至包括动态视频内容，便于社交媒体算法无法识别。该计划旨在利用深度原创技术，生成“自拍视频”，帮助收集信息并参与信息影响活动。五角大楼的技术包括Nvidia的StyleGAN等深度学习工具，这种工具曾是“此人不存在”网站虽然美国试图误导数据的海外传播，但对开发此类技术的兴趣引发了广泛的担忧。美国国家安全局、联邦调查局和中央信息安全局曾警告媒体的威胁，将其视为2023年的首要挑战。专家担心，美国废弃使用先进的伪造技术可能会引发其他国家的效仿，从而增强信息战，威胁国际信任和国内稳定。
根据TheIntercept审查的一份采购文件，美国秘密特种作战司令部正在寻找公司来帮助创建深度伪造的互联网用户，以使人类和计算机都无法检测到他们是假的。
该计划是美国国防部联合特种作战司令部（JSOC）在一份长达76页的新愿望清单中提到的，其中概述了美国最精锐的秘密军事行动所需的先进技术。清单中写道：“特种作战部队(SOF)对能够生成令人信服的在线角色的技术很感兴趣，这些角色可用于社交媒体平台、社交网站和其他在线内容。”
![美国隐形军队：虚拟士兵已准备好接管社交网络]( "美国隐形军队：虚拟士兵已准备好接管社交网络")
![美国隐形军队：虚拟士兵已准备好接管社交网络]( "美国隐形军队：虚拟士兵已准备好接管社交网络")
该文件明确指出，联合特种作战司令部希望能够创建在线用户档案，这些档案“看起来像是可识别为人类但在现实世界中并不存在的独特个体”，每个档案都具有“多种表情”和“政府身份识别质量的照片”。
除了伪造人物的静态图像外，该文件还指出，“解决方案应包括面部和背景图像、面部和背景视频以及音频层”，JSOC希望能够从这些伪造的人物中生成“自拍视频”。这些视频将包含更多内容：每个深度伪造自拍照都将配有匹配的伪造背景，“以创建一个社交媒体算法无法检测到的虚拟环境”。
近年来，五角大楼已经被发现使用虚假社交媒体用户来谋取其利益。2022年，Meta和Twitter删除了一个使用美国中央司令部运营的虚假账户的宣传网络，其中一些账户的个人资料图片采用与JSOC概述的方法类似的方法生成。2024年路透社的一项调查揭露了特种作战司令部利用虚假社交媒体用户开展的一项活动，旨在破坏外国对中国新冠疫苗的信心。
![美国隐形军队：虚拟士兵已准备好接管社交网络]( "美国隐形军队：虚拟士兵已准备好接管社交网络")
去年，美国特种作战司令部(SOCOM)表示有兴趣将视频“深度伪造”用于“影响力行动、数字欺骗、通信中断和虚假宣传活动”。深度伪造是指合成的视听数据，其目的是使之与真实录音无法区分。此类图像是使用各种机器学习技术生成的，通常使用经过“训练”的软件，通过分析海量面部和身体数据库来识别和重现人类特征。今年的SOCOM愿望清单指定了对类似StyleGAN的软件的兴趣，StyleGAN是Nvidia于2019年发布的一款工具，为全球热门网站“此人不存在”提供支持。在StyleGAN推出不到一年时间里，Facebook表示已关闭了一个使用该技术制作虚假头像的账户网络。自那以后，学术界和私营部门的研究人员一直在竞相寻找制作无法检测的深度伪造的新方法和检测它们的新方法。现在，许多政府服务都需要所谓的活体检测来阻止深度伪造的身份照片，要求人类申请人上传自拍视频来证明他们是真人——美国特种作战司令部可能有兴趣阻止这一障碍。
清单指出，特种作战部队“将使用此功能从公共在线论坛收集信息”，但未进一步解释如何使用这些人工互联网用户。
这份更详细的采购清单表明，美国正在寻求与地缘政治对手手中相同的技术和技巧。国家安全官员长期以来一直将国家支持的深度伪造技术视为一种紧急威胁——也就是说，如果其他国家正在使用这种技术的话。
2023年9月，美国国家安全局、美国联邦调查局和CISA发表联合声明警告称，“深度伪造等合成媒体对所有现代技术和通信用户都构成了日益严峻的挑战”。该声明将深度伪造技术的全球扩散描述为2023年的“最大风险”。今年，在向记者进行的背景简报中，美国情报官员警告称，外国对手能够在不被发现的情况下传播“人工智能生成的内容”——这正是五角大楼现在寻求的能力——代表了俄罗斯和伊朗等国的“恶意影响加速器”。今年早些时候，五角大楼的国防创新部门带着警惕的口气寻求私营部门帮助打击深度伪造：“这项技术越来越普遍和可信，对国防部构成了重大威胁，尤其是当美国对手利用深度伪造进行欺骗、欺诈、造假和其他恶意活动时。”美国陆军战略研究所4月份的一份报告也表达了类似的担忧：“专家预计，未来十年，人工智能的恶意使用将会增加，包括制作深度伪造视频来散布虚假信息，导致社会两极分化并加深不满。”
美国将这项技术用于攻击目的，自然会刺激其扩散，并使之成为各国政府常用的工具。AI Now Institute首席人工智能科学家Heidy Khlaaf表示：“这项技术值得注意的是，它纯粹具有欺骗性。除了欺骗之外，没有其他合法用途，令人担忧的是，美国军方竟然倾向于使用他们自己曾警告过不要使用的技术。这只会鼓励其他军队或对手效仿，导致社会越来越难以分辨真相和虚构，地缘政治领域也变得混乱。”
俄罗斯被发现在网络宣传中使用深度伪造视频和用户头像，这促使美国国务院于2024年1月宣布了一项国际“打击外国信息操纵框架”。美国国务院的一份新闻稿称：“外国信息操纵和干涉对美国及其盟友和伙伴构成了国家安全威胁。”“专制政府利用信息操纵来破坏自由民主社会的结构。”
乔治城大学安全研究教授、美国国务院国际安全顾问委员会成员丹尼尔·拜曼表示，美国特种作战司令部对深度伪造的兴趣是美国政府内部根本矛盾的一部分。他解释说：“美国政府的大部分部门都希望公众相信政府始终如一地发布真实（尽其所知）信息，而不是故意欺骗民众。”而其他部门则负责欺骗。拜曼补充道：“因此，人们有理由担心美国会被视为虚伪。我还担心这会对国内对政府的信任产生影响——美国部分民众是否会普遍对来自政府的信息更加怀疑？”
1、https://theintercept.com/2024/10/17/pentagon-ai-deepfake-internet-users/
2、https://www.documentcloud.org/documents/25224425-jsoc-stylegan-personas
原文始发于微信公众号（网空闲话plus）：美国隐形军队：虚拟士兵已准备好接管社交网络
评论