《人工智能与英国国家安全》｜共57页

一、背景

虽然人工智能可以增进现有安全机制的效率和有效性，但同时也会带来新的问题，这些问题需要在现有法律和监管框架内进行评估。最近，一些分析人士称，人工智能和高级分析技术在监管方面有潜在的风险，可能会产生隐私或人权问题。科技发展带来的安全挑战是英国的高度优先事项之一。根据英国政府通信总部(GCHQ)的说法，有必要开展有关国家安全与人工智能的辩论，这样有利于更快地获得应对方案，也能给公众一个交代。

GCHQ进一步指出，“人工智能的应用必须符合伦理规范，并接受有效的监管”。英国军情五处总干事安德鲁·帕克(Andrew Parker)表示，虽然人工智能能够让我们实时地了解成千上万人的生活细节，但是我们仍无法通过数据了解人类的思想。

令人担忧的是，许多不成熟的人工智能技术在商业界开始流行。英国安全机关在数据的获取和使用方面需要接受额外的审查，而私营部门却并非如此。

因此，人工智能的国家安全应用需要比商业应用有更高程度的鲁棒性、弹性和独立性。此外，英国安全机关需要在不损害社会和伦理价值观，以及公众信任的前提下，充分利用人工智能带来的机遇，制定明确、科学的决策。

二、何为人工智能?

人工智能现在仍没有广泛接受的定义。人工智能大致可分为两大类：强人工智能(General AI)和弱人工智能(Narrow AI)。强人工智能具备与人类同等智慧或超越人类的人工智能，能表现正常人类所具有的所有智能行为。弱人工智能不具备人类完整的认知能力，只处理特定的问题，例如语音识别、图像识别和翻译。几乎目前所有的人工智能都属于弱人工智能的范畴。科学界普遍认为，强人工智能的普及还需要几十年的时间才能实现。

弱人工智能可以理解为“使机器能够有效地执行高度复杂任务的通用数字技术”。人工智能通常定义为“执行通常需要人类智能的任务”，主要由六个关键要素组成，即自动推理、自然语言处理、知识表示、计算机视觉、机器人学以及机器学习。

弱人工智能的发展与机器学习的发展息息相关。机器学习能通过经验自动改进计算机算法，其特点是使用统计算法进行建模、理解和预测。算法可以定义为“为解决一个特定的问题而精心设计的一组数学指令或规则”，而机器学习是一种特殊算法，使用新数据可以优化计算机程序的性能标准。机器学习可以大致分为四种类别：监督学习、半监督学习、无监督学习和增强学习。

• 监督学习：从给定的训练数据集中学习出一个函数，当新的数据到来时，可以根据这个函数预测结果。监督学习的训练集要求包括输入和输出，也可以说是特征和目标。训练集中的目标是由人标注的。例如，在物体识别方面，机器可以根据训练数据中有关水果的照片和描述正确识别不同类型的水果。

• 无监督学习：与监督学习相比，训练集没有人为标注的结果。例如，在图像识别方面，机器可以根据训练数据中有关动物的照片，但在缺乏相关描述的情况下，对不同类型的动物进行正确分类。

• 半监督学习：介于监督学习与无监督学习之间。训练集一半为人为标注，另一半则为无人为标注。机器可以根据这种训练集进行预训练，然后通过人为标注集进行调整。

• 增强学习：机器为了达成目标，随着环境的变动，而逐步调整其行为，并评估每一个行动之后所得到的回馈是正向的还是负向的。例如，使用者可以对机器推荐的音乐进行反馈，以便让机器学习使用者的音乐喜好。随着反馈的增多，推荐结果将越来越贴合使用者的音乐喜好。

近年来，大型数据集的普及使机器学习的应用日益广泛。在医疗领域，机器学习的图像识别技术可用于预测婴儿患自闭症的风险和检测皮肤癌。地方议会目前正在大力推广机器学习在社区事务中的应用。在治安管理方面，机器学习可用于预测在押案犯再次犯罪的可能性，根据“破案成功率”对案件进行优先排序。随着“智慧城市”概念的不断深入，机器学习越多越多地被用于垃圾处理、交通管理、污水处理等民政工作。根据英国政府人工智能办公室的预测，人工智能可在2030年为英国经济创造约2320亿英镑的价值。

然而，值得注意的是，英国大多数人工智能的发展成就都是由私营部门和学术机构创造的。英国公共生活标准委员会(Committee on Standards in Public Life)的调查显示，尽管人工智能引起了不少官员的重视，但人工智能在英国政府的普及程度并不高，而且英国政府的人工智能项目仍处于计划阶段。因此，如何在未来充分利用人工智能带来的机遇，应当成为英国政府的高度优先事项。

三、AI在国家安全中的应用

“信息过载”给英国安全机关带来了严峻挑战，正如美国贝尔弗科学与国际事务中心(BCSIA)格雷格·艾伦(Greg Allen)和塔尼尔·陈(Taniel Chan)所说：“随着数据量的激增，情报工作的难度也随之加大，想要找出有价值的信息犹如大海捞针。”

“信息过载”只是一方面。英国上议院议员大卫•安德森(David Anderson)在2015年的政府工作报告中指出，通信方式的变革、电信供应商的分散化、通信权归属的争议，加密技术的升级和新数据源的出现加大了英国安全机关的工作难度。为了应对这些挑战，英国政府需要开发更高级的数据分析工具，而人工智能将是实现这一目的重要途径之一。

英国政府通信总部(GCHQ)曾公开表示：“许多类似GCHQ的机构将考虑使用机器学习和人工智能，这有利于提高英国安全机关的工作效率和有效性，英国的国家安全也将得到更有效的保障。”

为此，本报告提出了英国安全机关的改革方案，并进行了分类，如下图所示：

完整报告原文及译文共57页已上传至情报学院知识星球

识别下方二维码加入星球

往期推荐

深度报告《人工智能系统在情报分析中的有效性评估》（共81页）

人工智能对情报分析的影响

人工智能融入开源情报现状

人工智能将彻底改变网络安全的 5 种方式

人工智能 (AI) 如何阻止网络犯罪分子

人工智能与犯罪：犯罪学家入门读物

原文始发于微信公众号（情报分析师）：《人工智能与英国国家安全》｜共57页