美国在网络空间中对人工智能的军事应用

目前，许多外国正在实施国家军事计划，规定在指挥和控制系统（部队）和武器（包括网络空间）以及某些类型的武器和军事装备中使用基于人工智能 （AI） 的技术。

美国国防战略明确指出，人工智能的使用“不仅会改变社会，还会改变战争的性质”。

人工智能被理解为计算机的一组特征，例如存储在其中的信息量，通过训练补充信息的能力，对高级编程语言的“理解”程度以及信息处理方法的结构体现以及整个计算过程的组织。

我们不难发现，这些特征都在模仿人类智能的多个品质。比如，面部识别能力，就像人们能够轻松地辨认认识的人一样。而计划和组织能力，则是类似于人们思考未来并按照自己的目标进行行动的能力。数据挖掘则类似于我们利用信息和知识来做出更明智的决策。而获得经验的敏感性，则是类似于我们能够从过去的经历中吸取教训，进而做出更明智的选择。这些的结合，就使得智能机器变得更加出色和高效。

在美国武装部队中，人工智能主要用于创建侦察设备、部队和武器的自动指挥和控制系统、军用机器人系统（RTK VN）等领域。

同时，优先考虑用于网络空间进攻和防御信息作战（网络作战）的人工智能系统。它们用于自动识别威胁，评估其危险并制定在尽可能短的时间内应对它们的方法。

美国国防部高级研究办公室正在实施Gard计划（GARD - 保证AI稳健性免受欺骗），以开发硬件和软件，以确保系统对黑客的抵抗力。为了解决这个问题，它旨在准备适当的科学和技术基础，并评估其实际实施的可能性和可行性。

在实施该计划的过程中，开发了用于实施保护方法的算法，并创建了一组硬件和软件工具（CAPS），这使得在考虑到可用资源的情况下评估它们在各种情况下的有效性成为可能。

目前，人工智能系统被积极用于形成误导视听材料，将环境和真实人物的真实元素嵌入其中。此类系统用于在社交网络上自动创建虚假配置文件。

同时，形成了对他们的家庭关系、教育、职业、人脉、信用记录等信息的回顾。这些技术不仅可以制造不真实的新闻，而且可以为特定的利益服务。

搜索恶意软件（软件）的标准方法基于代码与已知签名数据库的正式比较。因此，未包含在“样本”数据库中的恶意软件代码的微小更改可以防止其更新。

反过来，使用人工智能方法实施的软件工具不仅能够检测已知的签名，还能够检测与其部分不同的部分代码，或者通常记录受保护网络空间的异常功能。

检测网络威胁的原则是陈述这样一个事实，即网络系统安全的估计参数（指标）集已经超出了由外部影响引起的系统正常和异常功能的一定边界。在这种情况下，度量是指硬件和软件的某些属性的数值。

换句话说，在CAPS中引入了一些功能，该函数在网络空间中具有“距离”的度量，即赋予其度量空间的属性。

此边界由一系列指标的值确定，通常考虑通过整个外围网络、单个地址、单个应用程序或通过特定端口的传入和传出数据包或字节数，以及一组基本统计信息，这些统计信息确定指标的平均值和在一定时间段内的偏差。

外部影响的检测基于披露一个或多个指标超出统计上允许的值范围的边界这一事实。通常假设它们的值是根据正常定律分布的，这反过来又允许应用相应的发达的统计分析数学设备。

但是，所考虑的撞击检测方法并不是最佳的。实际上，并非所有度量值都根据正常规律分布。此外，各种因素（例如，更新硬件和软件、更换人员、将人员转移到远程工作等）的不断影响导致网络系统统计参数的相应变化。

考虑到平均值的变化趋势、周期性、随机性和持续时间，获得在正确选择的时间间隔内计算的参数的更准确估计，需要一种不同的方法来计算指标和确定网络系统“正确”功能的边界。

也就是说，需要从现有的一维指标模型转向其多维表示形式。对于每个时间点，要评估的数据集将包括对应于某些通信协议的传入和传出数据包数的瞬时值，包含某些标志或信息位序列的数据包数等。

最终，确定有害影响事实的可靠性取决于考虑的此类数据集的数量、算法及其中间处理的结果，以及基于先前处理结果的某些组合的分析。

开发用于网络攻击的人工智能系统的下一个方向是创建经过优化的特殊硬件，以配合人工智能。

目前，尚不清楚它的有效性甚至根本可行。例如，据美国国防部国家安全局的专家称，这些技术的逐步改进不会从它们的使用中获得预期的效率提高。

人工智能在各种军事和民用系统、现有和发达的网络系统和计算机技术中的传播，导致了基于人工智能算法的新型恶意影响的出现，这对人工智能的使用的有效性构成了真正的威胁。

与需要硬件和软件漏洞才能成功的传统网络攻击不同，对人工智能系统的攻击主要利用大多数此类系统固有的局限性，并且在设计阶段很难消除。这里的先天限制被理解为人工智能系统基本上不可能为特定类型的攻击做好准备，无法将真实输入数据与伪造数据分开。

目前，人工神经网络用于创建具有AI的系统。此类系统工作的本质意味着“定性”数据的可用性，也就是说，这些系统的有效性主要取决于收到的用于处理的数据与系统经过训练和测试的参考数据集的合规性程度。

即使对于在正常条件下几乎完美工作的现代、数学上复杂的人工智能实现算法，输入数据中的微小但深思熟虑的更改（例如，图像校正）也可能导致错误的处理结果。

旨在解决网络空间问题的人工智能系统的普及取决于处理大量异构数据的高速要求。使用此类系统可以显着缩短在网络空间进行各种规模军事行动的决策周期的持续时间。

减少决策时间的缺点可能是在初始数据不完整、不正确甚至伪造的情况下，管理层的错误信息。

攻击人工智能系统有三个主要原因。首先，处理结果完全取决于输入数据的数量和质量，其次，难以确定替换或编辑此类数据的事实，第三，在基于分析错误信息做出决策时获得优于敌人的可能性。

在后一种情况下，由于在每个处理阶段使用对用户隐藏的规则，验证人工智能系统所做决策的正确性非常复杂，使情况更加复杂。

这种隐身性是复杂的多层人工神经网络的特别特征，目前广泛用于各种军事应用。对人工智能系统的攻击可以使用各种数据修改方法和用于训练、验证和直接操作此类系统的算法进行。

大量可能使用人工智能的系统和工具的领域在军事事务中创造了更多的选择，用于对此类系统和手段实施专门攻击。

攻击主要有两种类型——操作阶段和训练阶段的影响。同时，在操作阶段，可以应用用包含虚假（错误信息）数据的来源替换来源的方法。

此外，可以对这些来源进行有害的信息影响，以便在不替换来源本身的情况下使用信息。

在AI系统的训练阶段进行的影响是为了更改用于训练AI系统的数据或其处理算法，以便随后在其不需要重新训练的整个操作周期内控制此类系统。控制包括在受控系统的输入端接收到某些数据时，控制方在正确的时刻形成所需的决策。

例如，如果训练用于识别某些类型的恶意软件的系统被训练为将这些类型之一指定为“有效”，那么如果此类系统在实际条件下检测到此类软件，则永远不会识别此类软件。

利用人工智能提高军事网络系统的安全性取决于：利用人工智能不断扩大军事装备的系统和手段的数量和范围;通过硬件和软件影响破坏此类系统和手段的功能的可能性;如果软件更改人工智能系统及其处理算法中使用的数据，则会造成重大的潜在损害。

在行动中，使用专门的手段对具有人工智能的军事网络系统进行攻击是不可避免的。为了防止成功使用它们可能造成的损害，有必要制定和应用保护网络系统的措施并培训适当的网络防御单位。

因此，所有配备人工智能的新军事系统的一般强制性要求将是确保部队和武器的指挥和控制周期的持续时间比敌人短。网络空间防御和进攻行动的强度和复杂性只会逐年增长，其中人工智能的使用旨在在这些行动中发挥决定性作用。

原文始发于微信公众号（情报分析师Pro）：美国在网络空间中对人工智能的军事应用