微软将OPENAI的DALL-E作为美国军方的战场工具

根据THE INTERCEPT审查的内部演示材料，微软去年提议使用OpenAI非常流行的图像生成工具DALL-E来帮助国防部构建执行军事行动的软件。这一消息是在OpenAI悄然结束对军事工作的禁令几个月后发布的。该软件在任何战场上的使用都将给OpenAI带来巨大的转变，该公司将其使命描述为开发能够造福全人类的人工智能。

微软的演示文稿标题为“ Generative AI with DoD Data ”，提供了五角大楼如何利用OpenAI机器学习工具的总体细分，包括非常流行的ChatGPT文本生成器和DALL-E图像创建器，用于处理从文档到分析机器维护等各种任务。（微软去年向这家方兴未艾的机器学习初创公司投资了100亿美元，这两项业务已经紧密地交织在一起。2月份，The Intercept和其他数字新闻媒体起诉微软和OpenAI在未经许可或未经授权的情况下使用其新闻报道。）

Microsoft文档取自2023年10月美国太空军在洛杉矶主办的国防部“AI素养”培训研讨会上提供的大量材料。此次活动包括来自微软和OpenAI机器学习公司的各种演讲，介绍他们为五角大楼提供的服务。

这些可公开访问的文件是在Alethia Labs的网站上找到的，Alethia Labs是一家帮助联邦政府获取技术的非营利咨询公司，由记者Jack Poulson发现。周三（4月10日），波尔森发表了对演示材料的更广泛的调查。Alethia Labs与五角大楼密切合作，帮助其快速将人工智能工具集成到其武器库中，并自去年以来与五角大楼的主要人工智能办公室签订了合同。该公司没有回应置评请求。

微软演示文稿的一页重点介绍了OpenAI的各种“常见”联邦用途，包括国防用途。“高级计算机视觉训练”下的一个要点是：“战斗管理系统：使用DALL-E模型创建图像来训练战斗管理系统。”顾名思义，战斗管理系统是一种指挥和控制软件套件，为军事领导人提供战斗场景的态势概览，使他们能够协调炮火、空袭目标识别和部队调动等工作。计算机视觉训练的提及表明，DALL-E产生的人造图像可以帮助五角大楼的计算机更好地“看到”战场上的情况，这对于寻找和消灭目标尤其有利。

微软在一份电子邮件声明中告诉The Intercept，虽然它已向五角大楼建议使用DALL-E来训练其战场软件，但它尚未开始这样做。“这是一个潜在用例的例子，是通过与客户就生成人工智能的可能性艺术进行对话而得知的。”微软拒绝透露该言论出自该公司任何人之手，也没有解释为什么在其演示中“潜在”用例被标记为“常见”用途。

OpenAI发言人Liz Bourgeous表示，OpenAI没有参与微软的宣传活动，也没有向国防部出售任何工具。“OpenAI的政策禁止使用我们的工具来开发或使用武器、伤害他人或破坏财产，”她写道。“我们没有参与这次演示，也没有与美国国防机构就其描述的假设用例进行对话。”

Bourgeous补充道：“我们没有证据表明OpenAI模型已被用于此用途。OpenAI没有与国防机构合作来利用我们的API或ChatGPT来实现此类目的。”

在演示时，OpenAI的政策似乎禁止DALL-E的军事用途。微软告诉The Intercept，如果五角大楼通过与微软签订的合同使用DALL-E或任何其他OpenAI工具，则将受到后者公司的使用政策的约束。尽管如此，任何使用 OpenAI技术来帮助五角大楼更有效地杀戮和摧毁的行为都将对该公司来说是一个巨大的转变，该公司将其使命描述为开发能够造福全人类的以安全为重点的人工智能。

“不可能以一种不会（至少不会间接）造成平民伤害的方式构建战斗管理系统。”

牛津大学布拉瓦尼克政府学院的客座研究员、专注于技术伦理的布莱恩娜·罗森（Brianna Rosen）表示：“建立一个战斗管理系统，至少不会间接地造成平民伤害，这是不可能的。”

曾在奥巴马政府期间供职于国家安全委员会的罗森解释说，OpenAI的技术可以很容易地用来帮助人们，也可以很容易地用来伤害人们，任何政府将其用于后者都是一种政治选择。“除非像 OpenAI 这样的公司得到政府的书面保证，否则他们不会使用该技术来伤害平民——这可能仍然不具有法律约束力——我看不出公司可以以任何方式充满信心地声明该技术不会被滥用。”以具有动力效应的方式使用（或滥用）。”

该演示文档没有提供有关战场管理系统如何使用DALL-E的更多详细信息。然而，训练这些系统的参考表明，DALL-E可以用来为五角大楼提供所谓的合成训练数据：人工创建的场景，与现实世界的图像非常相似。例如，旨在检测地面敌方目标的军事软件可以显示DALL-E生成的大量着陆跑道或坦克纵队的虚假航拍图像，以便更好地识别现实世界中的此类目标。

即使抛开道德上的反对意见，这种方法的有效性也是值得商榷的。“众所周知，每次对人工智能生成的内容进行进一步训练时，模型的准确性和准确处理数据的能力都会下降，”之前与OpenAI签约的机器学习安全工程师Heidy Khlaaf说。“Dall-E图像远不准确，即使根据战场管理系统的输入进行微调，也无法生成接近我们物理现实的图像。这些生成图像模型甚至无法准确生成正确数量的肢体或手指，我们如何才能依赖它们准确地反映现实的现场存在？”

在上个月接受战略与国际研究中心采访时，美国海军上尉M. Xavier Lugo设想了合成数据的军事应用，就像 DALL-E可以生成的那样，这表明伪造的图像可用于训练无人机更好地观察和识别其下方的世界。

Lugo是五角大楼生成式人工智能工作组的任务指挥官，也是国防部首席数字和人工智能办公室的成员，他被列为微软演示文档末尾的联系人。演讲由微软员工尼希米·库恩斯（Nehemiah Kuhns）主讲，他是一位在太空军和空军工作的“技术专家”。

空军目前正在建设先进战斗管理系统，这是五角大楼耗资数十亿美元的联合全域指挥与控制项目的一部分，该项目旨在将整个美国军队联网，以扩大各部门之间的通信，以人工智能为动力数据分析，并最终提高杀伤能力。通过该项目的JADC2，五角大楼设想在不久的将来，空军无人机摄像头、海军军舰雷达、陆军坦克和地面海军陆战队都可以无缝交换有关敌人的数据，以便更好地摧毁敌人。

4月3日，美国中央司令部透露，它已经开始在中东使用JADC2的要素。

国防部没有回答有关微软演示的具体问题，但发言人Tim Gorman告诉The Intercept，“[首席数字和人工智能办公室]的使命是加速整个国防部采用数据、分析和人工智能。作为该使命的一部分，我们领导开展活动，对员工进行数据和人工智能素养教育，以及如何将现有和新兴商业技术应用于国防部任务领域。”

尽管微软长期以来从国防合同中获得了数十亿美元的收益，但OpenAI最近才承认将开始与国防部合作。针对The Intercept一月份关于OpenAI军工大转变的报道，该公司发言人Niko Felix表示，即使在宽松的语言下，“我们的政策也不允许我们的工具被用来伤害人民、开发武器、进行通信监视、或伤害他人或毁坏财产。”

“重点是你正在为战争准备做出贡献。”

五角大楼使用OpenAI软件是否会造成伤害可能取决于这些技术如何工作的字面意思，类似于帮助制造枪支或训练射手的公司不负责瞄准或扣动扳机的论点。

兰卡斯特大学科学与技术人类学名誉教授露西·苏克曼 (Lucy Suchman) 表示：“他们可能正在使用[生成式人工智能]创建合成训练数据与实际战争中的使用之间进行协调。” “但在我看来，这是一个虚假的区别，因为关键是你正在为战争准备做出贡献。”

与OpenAI不同的是，微软在其“负责任的人工智能”文件中几乎没有假装放弃伤害，并公开提倡其机器学习工具的军事用途。

在政策转变后，OpenAI也很快向公众和商业媒体强调，其与军方的合作是防御性、和平性质的。在1月份达沃斯接受The Intercept报道采访时，OpenAI全球事务副总裁Anna Makanju向小组与会者保证，该公司的军事工作重点是网络安全计划和退伍军人自杀预防等应用，并且该公司的开创性机器学习工具仍然是禁止造成伤害或破坏。

然而，为战斗管理系统的开发做出贡献将使OpenAI的军事工作更加接近战争本身。机器学习安全工程师Khlaaf 表示，虽然OpenAI声称如果其软件不直接操作武器系统，那么避免直接伤害在技术上可能是正确的，但它“在其他系统中的使用，例如军事行动规划或战场评估”最终将影响“部署武器或执行任务的地方。”

事实上，很难想象一场战斗的主要目的不是造成人身伤害和财产损失。例如，三月份的一份空军新闻稿将最近的一次战斗管理系统演习描述为“以数据速度提供杀伤力”。

人工智能素养研讨会系列的其他材料明确表明，“伤害”才是最终的重点。微软前一天的欢迎演讲中的一张幻灯片提出了这样一个问题：“我们为什么要关心？”答案是：“我们必须杀死坏人。”为了认可研讨会的“素养”方面，幻灯片补充道，“我们需要知道我们在谈论什么……但我们现在还不知道。”

参考资源：

1.https://theintercept.com/2024/04/10/microsoft-openai-dalle-ai-military-use/

2.https://jackpoulson.substack.com/p/your-ai-is-your-rifle

3.https://www.documentcloud.org/documents/24538175-generative-ai-with-dod-data_microsoft

原文来源：网空闲话plus

“

原文始发于微信公众号（关键基础设施安全应急响应中心）：微软将OPENAI的DALL-E作为美国军方的战场工具