大型语言模型会彻底改变国家安全吗？

如今，像 ChatGPT 这样的大型语言模型（LLM）的横空出世，让众多观察家惊叹不已。难道主算法，或至少它的原始形态，已经被发现了吗？ChatGPT以及它的兄弟姐妹们，展现出了在各类应用场景中的巨大潜力。只要有数据存在，且知识能用标记化语言表述，那么它们就能大展拳脚。这无疑为各个领域带来了前所未有的机遇和挑战。

这一愿景的力量和表面上的简单性是诱人的，尤其是在公共部门。联邦领域的领先科技公司已经在探索 LLM 改变政府官僚机构、流程和数据管理的潜力。对 OpenAI 和其他 LLM 研发团队的大量资金是基于数字助理、客户服务聊天机器人、互联网或数据库搜索、内容生成、内容监控等的商业案例。可能性是巨大的。其中一些在公共和私营部门中很常见，法学硕士在解决这些问题方面将非常有用。但并非每个问题或解决方案都可以或应该具有双重用途。

尽管目前LLM是解决政府面临的重大问题的关键部分，比如灾难应对、打击贩毒和军事行动等，但它仍然只是答案的一半。在这些复杂的任务中，数据往往稀缺、不纯净且不连续，超出了商业预期的范围。

这些任务要求在高度风险的环境中进行决策和行动，任何基于LLM的假阳性或假阴性的判断都可能导致灾难性的后果。随着未来传感器技术的不断发展，生活的方方面面都将被转化为数据，而高度复杂的LLM可能会让世界陷入算法的深渊。然而，真正的智能算法时代仍需时日。

在每一种情况下，RL算法都掌握了一个复杂的战略游戏，并在该游戏中击败了人类世界冠军。OpenAI Five在全球流行的视频游戏Dota II中的成就特别有趣，因为它的研究团队使用了一种称为“自我游戏”的方法来训练模型。

与AlphaGo和AlphaStar不同，AlphaGo和AlphaStar受益于人类历史游戏数据的训练，OpenAI Five完全通过与自己对弈来学习。通过扩展和并行化自玩实例，OpenAI Five 团队能够在 10 个月的实时过程中在 45,000 年的 Dota 游戏玩法上训练模型。

在后来涉及虚拟环境中多智能体强化学习 （MARL） 的项目中，OpenAI 研究人员发现，在团队中相互对抗的个体强化学习“智能体”能够合作实现目标，并完全通过自我游戏发现新颖和不可预见的行为，没有来自人类的外部指导。

借助 MARL，可以快速模拟给定场景的数千个替代版本，然后分析这些场景迭代并从中学习。通过识别这些迭代中的模式并了解代理决策和环境特征等变量如何改变结果，MARL 可以帮助规划和理解未来的行动。

奇异博士在电影《无限战争》中的角色为此提供了一个类比：他“及时前进”，研究了复仇者联盟和灭霸之间战争的 1400 多万种可能的未来。最终，他找到了复仇者联盟能够击败他们的克星的途径，而这种远见卓识帮助好人最终获胜。

如果创建一个现实世界的相关抽象——一个具有代表性物理学的虚拟环境，并专注于智能代理之间的行为、交互和决策，会怎么样？如果我们在物理学和智能之间取得正确的平衡，这种MARL环境将使我们能够展望未来，并以新的和强大的方式优化我们的决策。

考虑打击贩毒行动的具体问题。每年，数以千计的毒品运输船通过加勒比海和东太平洋，向北部港口运送大量非法毒品。美国南方联合跨机构特遣部队（JIATF-S）利用其掌握的一切资源——海军和海岸警卫队的舰艇、海上巡逻机等，尽可能多地探测和拦截这些货物。这是一个非常困难的广域搜索问题，JIATF-S根本无法一直覆盖整个海洋。平均而言，JIATF-S只侦破了大约10%的估计海上走私事件。

MARL可以通过数千次模拟JIATF-S的行动来帮助解决这个问题，通过代理人的行为和决策揭示稀缺巡逻舰、飞机和其他资源的最佳部署和使用，以发现和拦截更多的非法船只。MARL还可以帮助JIATF-S的规划人员试验战术和长期战略，模拟使用新技术或方法帮助搜索的场景，或者新的海外基地可用于运营。这些模拟还可用于了解环境变化或贩毒集团的贩运活动如何影响联合特遣队的任务。

这种类型的MARL实验可以极大地有利于其他国家安全用例，如军事兵棋推演、系统工程、任务规划以及指挥和控制。它还可以在这些领域中的每一个领域实现类似的用例，在采购和采购界与作战界之间创建一个通用工具和一条共同的线索。

例如，如果MARL模拟平台可以帮助战争玩家快速创建一个实验来测试一个新的想法或假设的能力，那么作战指挥官的工作人员可以很容易地使用相同的工具来比较和对比不同的友好行动方案。 

如果把这个想法从查曼德发展到喷火龙，我们可以设想一种接近千里眼的能力。未来，MARL工具可以根据关键的真实数据注入自动运行模拟：检测到新的对手部队移动，部署新的武器系统，关键基础设施突然损坏，或者作战环境中出现新的天气模式。

原文始发于微信公众号（情报分析师）：大型语言模型会彻底改变国家安全吗？