美国想打造人工智能的曼哈顿计划分析

通用人工智能（AGI）指的是一种具备自我学习能力、能够适应未知环境，并能够处理任何认知任务的人工智能。

简而言之，AGI旨在模仿甚至超越人类的思考和行动方式。AGI研究的终极目标是开发出一种软件，它能够解决任何问题，包括那些没有经过特定训练的问题。

迄今为止，由于技术和理论的多重挑战，一个能够自我学习、适应未知情况，并解决任何认知任务的通用人工智能（AGI）系统尚未成为现实。

“曼哈顿计划”是美国在二战期间秘密进行的核能研究计划，旨在开发世界上第一颗原子弹，是当时全球最大的科研项目之一。

美中经济与安全审查委员会提议，美国应利用行政权力授予长期合同，并为涉及AGI、云技术和数据中心的公司提供资金，以确立美国在AGI领域的领导地位。

2024年11月，美国财政部实施了一项规则，对美国风险投资公司投资CN开发AGI模型的公司施加新的限制。同时，美国对CN实施制裁，旨在限制其获取高级芯片的能力。

根据委员会的报告，截至2024年6月，CN有50家公司正在开发AGI模型，而在美国，只有少数大公司在进行AGI模型的开发。

创建ChatGPT聊天机器人的美国公司OpenAI建议政府为其AGI发展分配更多资金到“美国基础设施计划”中，将AGI相关的“曼哈顿项目”视为推动国家前进的标志性基础设施项目之一。

然而，许多顶尖科学家对美国国会委员会的报告表示震惊。

麻省理工学院教授、未来生命研究所（FLI）的联合创始人马克斯·泰格马克（Max Tegmark）在该研究所网站上发表声明，称“曼哈顿计划对AGI的提议是一种科学欺诈”，并警告说这将导致自我毁灭的竞赛。

泰格马克强调，任何在一般认知和解决问题方面超越人类的系统，都将在AI研发方面超越人类，能够以可怕的速度进行改进和复制，而无法预测或控制这样的系统。

计算机科学家Geoffrey Hinton，因其在人工智能领域的工作获得2024年诺贝尔物理学奖，也对AI技术的力量发出了不可控的警告。

Hinton认为，AI的发展将与工业革命相媲美，但它将在智力上超越人类，而我们没有经验拥有比我们聪明的东西是什么感觉。Hinton也强调了AI可能带来的不良后果，尤其是当事情失控时的威胁。

与埃隆·马斯克合作限制人工智能危险的马克斯·泰格马克（Max Tegmark）表示，马斯克对候任总统的影响可能导致人工智能的标准安全性收紧。

马斯克去年推出了自己的人工智能初创公司，并表示世界需要担心“终结者的未来”以防止AI系统脱离人类控制的最坏情况。

领先科学家对AI技术不受控制开发威胁的警告通过对高级聊天机器人模型的“内部世界”的研究得到证实。

2024年5月，美国科学家们发布了一份名为《在大型语言模型中分离语言和思想》的报告，该报告指出所有AI模型的决策和行动仅受逻辑指导，而忽视了情感、道德和伦理。

在聊天机器人的设计中，能力的价值被赋予了最高优先级，包括准确性、事实性、信息量、完整性和有用性。

而社会和道德价值观，如同理心、善良、友好、敏感、利他主义、爱国主义、自由等，却被置于次要地位。道德规范，包括公平、公正、问责、保密、可解释性和可访问性，几乎被忽视。

德国科学家来自曼海姆大学和曼海姆莱布尼茨社会科学研究所，他们应用心理测量学方法来评估人工智能的心理学特性。研究的主要结论是，需要在整个存在过程中持续监测任何人工智能模型的心理测量特性，即终身监测。德国分析师明确表示，人工智能需要受到持续的束缚，并不断监控其“内部世界”。

来自Microsoft亚洲研究院（MSRA）和清华大学的科学家使用类似心理测量技术研究了各种大型语言模型的价值体系，并发表了题为“超越人类规范：通过跨学科方法揭示大型语言模型的独特价值”的预印本报告。

最重要的是，来自不同国家的科学家越来越关注现有AI可能带来的风险，他们研究的令人震惊的结论表明，这些风险非常高，它们是不可预测的。

从这些研究中唯一毫无疑问的结论是，人工智能从定义上讲是“没有灵魂的”。AI是非人类智能，无法改变。

正是这种所有人工智能模型的“无灵魂”促使五角大楼在武器系统中使用人工智能，主要是在自主武器系统中，其开发已成为美国的优先事项。

去年8月，五角大楼创建了利马特遣队研究将生成式人工智能用于军事目的，利马成为五角大楼数字技术和人工智能总局（CDAO）的一员，该局由CDAO算法战办公室成员Xavier Lugo上尉领导。

美国军事门户网站Breaking Defense对五角大楼的这一倡议持怀疑态度，建议美国国防部领导层仔细权衡在武器系统中使用AI可能产生的所有风险。然而，美国空军部长弗兰克·肯德尔并未权衡风险，并命令空军科学顾问委员会尽快制造具有人工智能的武器系统。

本事件相关分析资料已上传至地缘信息知识星球，