科技公司签署协议打击人工智能产生的选举骗局

来自 Adobe、亚马逊、谷歌、IBM、Meta、微软、OpenAI 和 TikTok 的高管聚集在慕尼黑安全会议上，宣布了一个框架，用于应对人工智能生成的故意欺骗选民的深度伪造品。

主要科技公司周五签署了一项协议，自愿采取“合理的预防措施”，以防止人工智能工具被用来扰乱世界各地的民主选举。

来自 Adobe、亚马逊、谷歌、IBM、Meta、微软、OpenAI 和 TikTok 的高管聚集在慕尼黑安全会议上，宣布了一个新框架，用于应对人工智能生成的故意欺骗选民的深度伪造品。其他 12 家公司——包括埃隆·马斯克的 X——也签署了该协议。

Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 表示：“每个人都认识到，没有一家科技公司、没有一个政府、没有一个民间社会组织能够独自应对这项技术的出现及其可能的恶意使用。” Facebook 和 Instagram 的母公司在峰会前接受采访。

该协议在很大程度上是象征性的，但针对的是日益真实的人工智能生成的图像、音频和视频，“这些图像、音频和视频欺骗性地伪造或改变政治候选人、选举官员和民主选举中其他关键利益相关者的外表、声音或行为，或者提供向选民提供有关何时、何地以及如何合法投票的虚假信息。”

两家公司并未承诺禁止或删除深度造假产品。相反，该协议概述了他们将用来尝试检测和标记在其平台上创建或分发的欺骗性人工智能内容的方法。它指出，这些公司将相互分享最佳实践，并在内容开始传播时提供“迅速和适当的响应”。

承诺的模糊性和缺乏任何约束性要求可能有助于赢得众多公司的支持，但失望的支持者正在寻求更有力的保证。

“措辞并不像人们想象的那么强烈，”两党政策中心选举项目高级副主任雷切尔·奥雷 (Rachel Orey) 说。“我认为我们应该给予应有的信任，并承认这些公司确实拥有既得利益，因为他们的工具不被用来破坏自由和公平的选举。也就是说，这是自愿的，我们将密切关注他们是否遵守。”

克莱格表示，每家公司“都有自己的一套内容政策，这是非常正确的”。

“这并不是试图给每个人强加紧身衣，”他说。“无论如何，业内没有人认为你可以通过把事情隐藏起来并试图玩打地鼠游戏并找到你认为可能误导某人的一切来应对全新的技术范式。”

来自欧洲和美国的几位政治领导人也加入了周五的声明。欧盟委员会副主席维拉·朱罗娃表示，虽然这样的协议并不全面，但“它包含非常有影响力和积极的元素。”她还敦促政界人士承担起责任，不要以欺骗性方式使用人工智能工具，并警告说，人工智能推动的虚假信息可能会导致“民主的终结，而不仅仅是在欧盟成员国”。

在德国城市年度安全会议上达成这一协议之际，50 多个国家将于 2024 年举行全国选举。孟加拉国、台湾、巴基斯坦以及最近的印度尼西亚都已经这样做了。

人工智能干预选举的尝试已经开始，例如模仿美国总统乔·拜登声音的人工智能机器人电话试图阻止人们在上个月的新罕布什尔州初选中投票。

就在 11 月斯洛伐克大选前几天，人工智能生成的录音冒充了一名候选人，讨论提高啤酒价格和操纵选举的计划。当它们在社交媒体上传播时，事实核查人员争先恐后地认定它们是虚假的。

政客们也尝试了这项技术，从使用人工智能聊天机器人与选民沟通，到将人工智能生成的图像添加到广告中。

该协议呼吁平台“关注背景，特别是保护教育、纪实、艺术、讽刺和政治表达。”

该公司表示，这些公司将重点关注用户政策的透明度，并努力教育公众如何避免陷入人工智能假货的陷阱。

大多数公司此前曾表示，他们正在为自己的生成人工智能工具设置保护措施，这些工具可以操纵图像和声音，同时还致力于识别和标记人工智能生成的内容，以便社交媒体用户知道他们所看到的内容是否真实。但大多数提出的解决方案尚未推出，公司面临着采取更多措施的压力。

在美国，这种压力更大，国会尚未通过政治领域监管人工智能的法律，企业基本上只能自我管理。

美国联邦通信委员会最近确认，自动通话中人工智能生成的音频片段是违法的，但这并不包括在社交媒体或竞选广告中传播的深度伪造音频。

许多社交媒体公司已经制定了政策来阻止有关选举过程的欺骗性帖子——无论是否由人工智能生成。Meta 表示，它删除了有关“投票、选民登记或人口普查参与的日期、地点、时间和方法”的错误信息，以及其他旨在干扰某人公民参与的虚假帖子。

诚信研究所联合创始人、前 Facebook 数据科学家 Jeff Allen 表示，该协议似乎是“积极的一步”，但他仍然希望看到社交媒体公司采取其他行动来打击错误信息，例如建立内容推荐不将参与放在首位的系统。

倡导组织“公共公民”的执行副总裁丽莎·吉尔伯特周五表示，该协议“还不够”，人工智能公司应该“抑制超现实文本到视频生成器等技术”，“直到有大量且足够的技术”。保障措施到位可以帮助我们避免许多潜在的问题。”

除了帮助促成周五协议的公司外，其他签署方还包括聊天机器人开发商 Anthropic 和 Inflection AI；语音克隆初创公司 ElevenLabs；芯片设计公司 Arm Holdings；安全公司 McAfee 和 TrendMicro；Stability AI，以图像生成器稳定扩散而闻名。

值得注意的是，另一个流行的人工智能图像生成器 Midjourney 却缺席了。这家总部位于旧金山的初创公司周五没有立即回应置评请求。

X 的加入——在先前关于待定协议的公告中没有提及——是周五协议的惊喜之一。马斯克在接管前推特后大幅削减了内容审核团队，并将自己描述为“言论自由绝对主义者”。

X 首席执行官 Linda Yaccarino 在周五的一份声明中表示，“每个公民和公司都有责任维护自由和公平的选举。”

“X 致力于发挥自己的作用，与同行合作对抗人工智能威胁，同时保护言论自由并最大限度地提高透明度，”她说。

原文始发于微信公众号（河南等级保护测评）：科技公司签署协议打击人工智能产生的选举骗局