五角大楼的人工智能计划加速了致命武器决策

admin 2023年11月28日13:10:47评论8 views字数 5634阅读18分46秒阅读模式

美国军方正在越来越多地使用人工智能技术,这将从根本上改变战争的性质。

五角大楼的人工智能计划加速了致命武器决策

美国军方使用的人工智能在特种作战部队的任务中驾驶小型无人侦察机,并帮助乌克兰对抗俄罗斯。它跟踪士兵的健康状况,预测空军飞机何时需要维护,并帮助密切关注太空中的竞争对手。

现在,五角大楼打算到 2026 年部署数千辆相对便宜、可消耗的人工智能自动驾驶汽车。美国国防部副部长凯瑟琳·希克斯 (Kathleen Hicks) 在 8 月表示,这一雄心勃勃的计划被称为 Replicator,旨在“推动美国军事创新向利用小型、智能、廉价和多平台的转变进程缓慢”。

尽管其资金不确定且细节模糊,但 Replicator 预计将加速做出艰难决策,决定哪些人工智能技术足够成熟且值得信赖,可以部署——包括武器化系统。

科学家、行业专家和五角大楼官员一致认为,美国将在未来几年内拥有完全自主的致命武器。尽管官员坚称人类将永远处于控制之中,但专家表示,数据处理速度和机器对机器通信的进步将不可避免地使人类承担监督角色。

如果正如预期的那样,致命武器在无人机群中大规模部署,情况尤其如此。许多国家都在致力于解决这些问题,但多个国家都没有签署美国发起的负责任地使用军事人工智能的承诺。

目前尚不清楚五角大楼目前是否按照 2012 年指令的要求,正式评估任何完全自主的致命武器系统的部署。五角大楼发言人没有透露。

范式转变

Replicator 强调了五角大楼采购和开发面临的巨大技术和人员挑战,因为人工智能革命有望改变战争的方式。

前五角大楼人工智能高级官员、现供职于战略与国际研究中心智库的格雷戈里·艾伦 (Gregory Allen) 表示:“国防部正在努力采用上次机器学习突破带来的人工智能发展成果。”

五角大楼的投资组合拥有 800 多个与人工智能相关的非机密项目,其中大部分仍在测试中。通常,机器学习和神经网络正在帮助人类获得洞察力并提高效率。

乔治梅森大学机器人中心主任、前海军战斗机飞行员米西·卡明斯 (Missy Cummings) 表示:“我们国防部目前拥有的人工智能已得到充分利用,可以增强人们的能力。没有人工智能可以自行运行。人们正在利用它来试图更好地理解战争迷雾。”

太空,战争的新领域

人工智能辅助工具跟踪潜在威胁的一个领域是太空,这是军事竞争的最新前沿。

美国太空部队首席技术和创新官丽莎·科斯塔在本月的一次在线会议上表示,利用人工智能(包括卫星人工智能)来“决定谁是对手、不是对手”。美国的目标是跟上步伐。

太空部队使用的名为 Machina 的操作原型可以自主监视太空中 40,000 多个物体,每晚通过全球望远镜网络协调数千个数据收集。

Machina 的算法调度望远镜传感器。计算机视觉和大型语言模型告诉他们要跟踪哪些对象。太空系统司令部的华莱士“瑞特”特恩布尔上校在八月份的一次会议上表示,人工智能可以立即根据天体动力学和物理数据集进行编排。

他说,太空部队的另一个人工智能项目分析雷达数据,以检测对手即将发射的导弹。

维护飞机和士兵

在其他地方,人工智能的预测能力帮助空军保持其机队在空中飞行,预测包括 B-1 轰炸机和黑鹰直升机在内的 2,600 多架飞机的维护需求。

拥有该合同的硅谷 C3 AI 首席执行官汤姆·西贝尔 (Tom Siebel) 表示,机器学习模型可以在可能发生的故障发生前数十小时识别出可能发生的故障。C3 的技术还为美国导弹防御局建立导弹弹道模型,并为国防反情报和安全局识别联邦工作人员中的内部威胁。

与健康相关的努力之一是一个试点项目,该项目跟踪整个陆军第三步兵师(超过 13,000 名士兵)的健康状况。马特·维瑟少校表示,预测建模和人工智能有助于减少伤害并提高绩效。

援助乌克兰

在乌克兰,五角大楼及其北约盟国提供的人工智能有助于挫败俄罗斯的侵略。

北约盟国共享卫星、无人机和人类收集的数据情报,其中一些数据是通过美国承包商 Palantir 的软件汇总的。一些数据来自 Maven,五角大楼的寻路人工智能项目现在主要由国家地理空间情报局管理,包括退休空军上将、首任五角大楼人工智能主任杰克·沙纳汉在内的官员表示,

Maven 于 2017 年开始,旨在处理来自中东无人机的视频(在美国特种作战部队打击 ISIS 和基地组织的推动下),现在正在汇总和分析各种传感器和人类数据。

五角大楼官员表示,人工智能还帮助美国创建的乌克兰安全援助组织帮助组织 40 个国家联盟的军事援助后勤工作。

全域指挥与控制

时任参谋长联席会议主席马克·米利将军在一份报告中指出,为了在当今的战场上生存,军事单位必须规模较小,大部分是隐形的,并且行动迅速,因为呈指数级增长的传感器网络可以让任何人“随时看到全球的任何地方”。六月演讲。“你能看到什么,你就可以拍摄什么。”

为了更快地连接战斗人员,五角大楼优先发展相互交织的作战网络(称为联合全域指挥与控制),以自动处理整个武装部队的光学、红外、雷达和其他数据。但挑战是巨大的,而且充满官僚主义。

克里斯蒂安·布罗斯(Christian Brose)曾任参议院军事委员会参谋长,现供职于国防科技公司安杜里尔(Anduril),他是军事改革的倡导者之一,但他们相信自己“可能在某种程度上赢得了胜利”。

“争论可能不再是关于这是否是正确的事情,而是越来越多地关于我们如何实际做到这一点以及所需的快速时间表,”他说。博泽在 2020 年出版的新书《杀伤链》主张,在开发更智能、更便宜的网络武器系统的竞赛中。

为此,美军正在努力开展“人机协作”。目前,数十架无人驾驶空中和海上飞行器正在监视伊朗的活动。美国海军陆战队和特种部队还使用 Anduril 的自主 Ghost 迷你直升机、传感器塔和反无人机技术来保护美军。

计算机视觉的行业进步至关重要。Shield AI 让无人机在没有 GPS、通信甚至远程飞行员的情况下运行。它是四轴飞行器 Nova 的关键,美国特种作战部队曾在冲突地区使用它来侦察建筑物。

即将到来:空军的“忠诚僚机”计划旨在将有人驾驶飞机与自主飞机配对。例如,F-16 飞行员可能会派出无人机进行侦察、吸引敌人火力或攻击目标。空军领导人的目标是在本十年晚些时候首次亮相。

争取完全自治的竞赛

“忠诚僚机”的时间线与 Replicator 的时间线不太吻合,许多人认为 Replicator 过于雄心勃勃。与此同时,五角大楼对 Replicator 的含糊其辞可能部分是为了让竞争对手猜测,尽管规划者可能仍在摸索功能和任务目标,军事人工智能专家、《四个战场》一书的作者保罗·沙尔 (Paul Scharre) 表示。

Anduril 和 Shield AI 均获得数亿风险投资资金支持,是争夺合同的公司之一。

Shield AI 首席技术官内森·迈克尔 (Nathan Michael) 估计,他们将使用其 V-BAT 无人机在一年内准备好由至少三架无人驾驶飞机组成的自主集群。该公司表示,美国军方目前在海军舰艇、缉毒任务和支持海军陆战队远征部队中使用 V-BAT(没有人工智能思维)。

迈克尔说,需要一段时间才能可靠地部署更大的蜂群。“一切都是爬、走、跑——除非你让自己陷入失败。”

首任五角大楼人工智能负责人沙纳汉目前认为唯一能够自主运行的武器系统是完全防御性的,比如舰艇上的密集阵反导系统。他不太担心自主武器自行做出决定,而是担心系统无法像宣传的那样工作或杀死非战斗人员或友军。

该部门现任首席数字和人工智能官克雷格·马泰尔决心不让这种情况发生。

“无论系统的自主性如何,总会有一个负责任的特工,了解系统的局限性,接受过良好的系统培训,对系统的部署时间和地点有充分的信心,并且始终承担责任,”说Martell 曾在 LinkedIn 和 Lyft 担任机器学习主管。“情况永远不会不是这样。”

至于人工智能何时足够可靠以实现致命的自主性,马泰尔表示,一概而论是没有意义的。例如,马爹利相信他的汽车的自适应巡航控制系统,但不相信阻止其改变车道的技术。“作为负责任的特工,除非在非常有限的情况下,我不会部署这一点,”他说。“现在将其推断给军队。”

马爹利办公室正在评估潜在的生成式人工智能用例——为此成立了一个特别工作组——但更注重测试和评估开发中的人工智能。

约翰·霍普金斯大学应用物理实验室首席人工智能工程师、马爹利办公室前人工智能保障主管Jane Pinelis表示,一项紧迫的挑战是招募和留住测试人工智能技术所需的人才。五角大楼无法在薪资方面进行竞争。具有人工智能相关技能的计算机科学博士的收入比军队的高级将军和海军上将还要多。

美国国家科学院最近一份关于空军人工智能的报告强调,测试和评估标准也不成熟。

这是否意味着美国有一天会在胁迫下部署未完全通过测试的自主武器?

皮内利斯说:“我们仍然假设我们有时间尽可能严格和勤奋地开展这项工作。我认为,如果我们还没有做好准备,而到了采取行动的时候,有人将被迫做出决定。”

后记:美国在人工智能领域,再次以我为假想敌,为其发展致命性武器找借口、寻托词。我们应该明白,唯有持续发展,才能在攻防两端较量中保持优势。

>>>错与罚<<<

公安部督办非法机顶盒大案告破:涉案2亿元!

家长必读:这些方法可以有效保护孩子上网安全

“内鬼”盗卖数据,某大药房被罚!

被遗忘的网站,潜藏着网络安全隐患

紧急提示!“京东白条”诈骗又双叒来了

网络安全保护不是儿戏,违法违规必被查处

北京市网信办对三家企业未履行数据安全保护义务作出行政处罚

网安局@各学校,赶快检查一下你们的路由器安全吗?

倒闭跑路还主动退费?这套路真是防不胜防

背调时需要的无犯罪记录证明怎么开?

湖南网安适用《数据安全法》对多个单位作出行政处罚

由上海政务系统数据泄露引发的一点点感慨
个人信息保护不当,宁夏6家物业公司被处罚
网络安全保护不是儿戏,违法违规必被查处
罚款8万!某科技公司因数据泄漏被依法处罚
近2万条学员信息泄露!该抓的抓,该罚的罚!
信息系统被入侵,单位主体也得担责!
警方打掉通过木马控制超1400万部“老年机”自动扣费的犯罪团伙
张家界警方全链条团灭非法侵入1600余台计算机系统终端案!
警方提醒!多名百万网红被抓,54人落网!
不履行数据安全保护义务,这些公司企业被罚!
“一案双查”!网络设备产品服务商这项义务要履行!

>>>等级保护<<<
开启等级保护之路:GB 17859网络安全等级保护上位标准
网络安全等级保护:什么是等级保护?
网络安全等级保护:等级保护工作从定级到备案
网络安全等级保护:等级测评中的渗透测试应该如何做
网络安全等级保护:等级保护测评过程及各方责任
网络安全等级保护:政务计算机终端核心配置规范思维导图
网络安全等级保护:信息技术服务过程一般要求
网络安全等级保护:浅谈物理位置选择测评项
闲话等级保护:网络安全等级保护基础标准(等保十大标准)下载
闲话等级保护:什么是网络安全等级保护工作的内涵?
闲话等级保护:网络产品和服务安全通用要求之基本级安全通用要求
闲话等级保护:测评师能力要求思维导图
闲话等级保护:应急响应计划规范思维导图
闲话等级保护:浅谈应急响应与保障
闲话等级保护:如何做好网络总体安全规划
闲话等级保护:如何做好网络安全设计与实施
闲话等级保护:要做好网络安全运行与维护
闲话等级保护:人员离岗管理的参考实践
信息安全服务与信息系统生命周期的对应关系
>>>工控安全<<<
工业控制系统安全:信息安全防护指南
工业控制系统安全:工控系统信息安全分级规范思维导图
工业控制系统安全:DCS防护要求思维导图
工业控制系统安全:DCS管理要求思维导图
工业控制系统安全:DCS评估指南思维导图
工业控制安全:工业控制系统风险评估实施指南思维导图
工业控制系统安全:安全检查指南思维导图(内附下载链接)
业控制系统安全:DCS风险与脆弱性检测要求思维导图
>>>数据安全<<<
数据治理和数据安全
数据安全风险评估清单
成功执行数据安全风险评估的3个步骤
美国关键信息基础设施数据泄露的成本
备份:网络和数据安全的最后一道防线
数据安全:数据安全能力成熟度模型
数据安全知识:什么是数据保护以及数据保护为何重要?
信息安全技术:健康医疗数据安全指南思维导图
金融数据安全:数据安全分级指南思维导图
金融数据安全:数据生命周期安全规范思维导图
什么是数据安全态势管理 (DSPM)?
>>>供应链安全<<<
美国政府为客户发布软件供应链安全指南
OpenSSF 采用微软内置的供应链安全框架
供应链安全指南:了解组织为何应关注供应链网络安全
供应链安全指南:确定组织中的关键参与者和评估风险
供应链安全指南:了解关心的内容并确定其优先级
供应链安全指南:为方法创建关键组件
供应链安全指南:将方法整合到现有供应商合同中
供应链安全指南:将方法应用于新的供应商关系
供应链安全指南:建立基础,持续改进。
思维导图:ICT供应链安全风险管理指南思维导图
英国的供应链网络安全评估
>>>其他<<<
网络安全十大安全漏洞
网络安全等级保护:做等级保护不知道咋定级?来一份定级指南思维导图
网络安全等级保护:应急响应计划规范思维导图
安全从组织内部人员开始
VMware 发布9.8分高危漏洞补丁
影响2022 年网络安全的五个故事
2023年的4大网络风险以及如何应对
网络安全知识:物流业的网络安全
网络安全知识:什么是AAA(认证、授权和记账)?
美国白宫发布国家网络安全战略
开源代码带来的 10 大安全和运营风险
不能放松警惕的勒索软件攻击
10种防网络钓鱼攻击的方法
5年后的IT职业可能会是什么样子?
累不死的IT加班人:网络安全倦怠可以预防吗?
网络风险评估是什么以及为什么需要
美国关于乌克兰战争计划的秘密文件泄露
五角大楼调查乌克兰绝密文件泄露事件
如何减少制造攻击面的暴露
来自不安全的经济、网络犯罪和内部威胁三重威胁
2023 年OWASP Top 10 API 安全风险
什么是渗透测试,能防止数据泄露吗?
SSH 与 Telnet 有何不同?
管理组织内使用的“未知资产”:影子IT
最新更新:全国网络安全等级测评与检测评估机构目录(9月15日更新)

原文始发于微信公众号(祺印说信安):五角大楼的人工智能计划加速了致命武器决策

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2023年11月28日13:10:47
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   五角大楼的人工智能计划加速了致命武器决策https://cn-sec.com/archives/2246493.html

发表评论

匿名网友 填写信息