概述

本文是一项新的调查结果，揭示了以色列军队开发了一套基于人工智能的程序“薰衣草”（Lavender），该程序在对加沙地带的空袭中起到了核心作用。这个系统被设计用来标记所有怀疑的哈马斯和巴勒斯坦伊斯兰圣战运动（PIJ）的军事人员作为潜在轰炸目标，包括低级别的成员。在战争的最初几周，军队几乎完全依赖于“薰衣草”系统，将多达37,000名巴勒斯坦人及其住所标记为可疑的激进分子和可能的空袭目标。据报道，这种系统的使用导致了成千上万的巴勒斯坦平民死亡，尤其是在战争的最初几周，其中大多数是妇女和儿童或未参与战斗的人。这种空袭策略主要针对那些在家中的目标人物，通常是在夜间进行，当时他们的家庭成员也在场。报道还揭露了另一个自动化系统名为“Where’s Daddy?”，它专门用来跟踪这些目标个体并在他们进入家庭住所时执行轰炸。调查还指出，军方在轰炸时常采用未引导的导弹，即所谓的“哑弹”，这些导弹会对居民楼造成重大伤害，由此引发大量的平民伤亡。此外，报道透露军方在战争的前几周决定，对于每一个被“薰衣草”系统标记的初级哈马斯激进分子，允许杀害高达15至20名平民。本文介绍了战争早期以色列军方高度自动化目标生成的六个阶段，并详细讨论了这一系统的具体运作方式及其对平民的影响。

背景

2021年发布的书籍《人机团队：如何在人类和人工智能之间创造协同，将彻底改变我们的世界》由以色列情报部队8200部队现任指挥官撰写，提出设计一种能快速处理大量数据以在战时生成数千个潜在“目标”的特殊机器的设想，该技术可解决他所描述的“人类在定位新目标和决策批准目标方面的瓶颈”问题。于是，以色列军队开发了基于人工智能的“Lavender”程序，根据六名以色列情报官员的说法，此程序已在近期对加沙地带的轰炸中发挥核心作用，尤其是在战争的早期阶段。它在军事行动中的影响力之大，以至于他们基本上将AI机器的输出视为“人类决策”。在“铁剑行动”行动期间，以色列军队决定将哈马斯的所有人员视为目标，无论其军衔或军事重要性如何。新的政策还对以色列情报部门提出了技术问题。以前战争中，单一人类目标的暗杀需经过复杂而漫长的“指控”过程，而一旦目标名单扩大到包括数万名低级别人员，以色列军队不得不依赖自动化软件和人工智能。结果是，人类在将巴勒斯坦人归类为军事行动者的角色被边缘化，而AI完成了大部分工作。

“薰衣草”系统的设计初衷是标记所有怀疑为哈马斯和巴勒斯坦伊斯兰圣战组织（PIJ）军事分支的行动人员，包括低级别的成员，作为潜在的轰炸目标。在战争的最初几周，军队几乎完全依赖“薰衣草”，将多达37,000名巴勒斯坦人标记为疑似激进分子——以及他们的家园——作为可能的空袭目标。

“薰衣草”系统的介绍和工作原理

系统的核心是利用人工智能对加沙地带230万居民进行大规模监控，然后评估和排名每个人参与哈马斯或PIJ军事分支的可能性。据报道，该机器几乎为加沙地带的每个人打分，从1到100，表示他们成为激进分子的可能性。

“薰衣草”系统的目标生成过程高度自动化，减少了人工参与。据报道，军队在战争初期放宽了对目标轰炸中可接受的平民伤亡数量的限制。此外，自动化软件在计算每个家庭中非战斗人员数量时存在不准确性。在某些情况下，由于军官没有实时验证信息，导致目标个体实际上并不在被轰炸的家中。

“薰衣草”系统的使用导致了大量平民伤亡，尤其是在战争的最初几周。据报道，由于人工智能程序的决策，数千名巴勒斯坦人——大多数是妇女和儿童或未参与战斗的人——在以色列的空袭中丧生。

尽管“薰衣草”系统在某些情况下被认为存在大约10%的错误率，但军队几乎没有对机器的选择进行彻底检查，人员通常只是对机器决策进行“橡皮图章”式的批准。这种做法导致了对平民的大规模伤亡。

结论

• “薰衣草”系统简介：以色列军队开发了一种基于人工智能的程序“薰衣草”，用于标记哈马斯和巴勒斯坦伊斯兰圣战组织(PIJ)的所有疑似成员作为潜在轰炸目标，几乎无需人工审核。该系统在战争初期发挥了关键作用，标记了多达37,000名巴勒斯坦人作为潜在目标。

• 执行过程：最初几周，军队几乎完全依赖“薰衣草”提供的杀伤名单，无需检查机器如何做出选择或检查所基于的原始情报数据。通常，每个目标的审批时间仅约20秒，且该系统约有10%的错误率。

• 轰炸策略：该系统主要在夜间对目标个人位于家中时发起轰炸，导致包括妇女和儿童在内的成千上万巴勔斯坦人死亡，因为他们不参与战斗或只是间接与军事组织有关联。

• “Dumb”炸弹的使用：针对通过“薰衣草”标记为潜在目标的下级武装分子，军方倾向于使用非制导型炸弹，因其能够摧毁整栋建筑并造成大量伤亡。

• “平民损失”政策：军队规定，对于每一个由“薰衣草”标记的哈马斯低级别成员，可以接受杀死15到20名平民；对于高级别的哈马斯官员，则有时允许在刺杀单一指挥官的过程中杀死超过100名平民。

• 结论：“薰衣草”系统通过大规模自动化生成目标，在低至无人审查的情况下，大幅提高了轰炸效率。其导致的直接后果是造成大量非战斗人员的死亡，这种做法在国际法和人道主义视角下是高度有问题的，暴露出军事行动中对人工智能决策依赖所带来的道德和法律风险。

《人机团队：如何在人类和人工智能之间创造协同，将彻底改变我们的世界》

人机协同：未来智能的新篇章

概述

这篇文章探讨了人工智能(AI)的快速发展背景下，人机团队合作的重要性及其对未来社会的影响。作者认为，历史上人类认知的发展推动了人类社会的进步，而AI的发展使得机器能够完成人类认知任务。论文提出，未来几十年，人机团队（“超认知”）将通过人类智能与人工智能的结合，处理国家安全挑战、赢得战争并作为人类发展的驱动力。该书提出了“FAST”（基础、加速和奇点时间）的新概念，指导如何领导国家和组织成功融合人工智能和人类智能。

文章概述了人工智能的历史背景，从农业革命、工业革命到数字革命，指出我们目前正处于数字时代革命的开始阶段。每一次革命都加速了社会的变革，而当前的数字革命正将世界推向一个全新水平，其中数据的无限性和云存储的可能性导致了深度学习和AI革命。

文章讨论了AI与数据科学、机器学习、深度学习以及数字技术的关系，强调了它们对当今社会合合作的重要性。作者强调，我们正处于一个处于多个内部革命中的时代，包括从数据匮乏到数据无限的信息革命，以及高性能计算和人工智能革命。

文章强调了我们这一代人在不同范式之间的责任，探索了如何利用人工智能的潜力来应对挑战和利用机遇，使我们的国家和组织走向未来。作者认为，战略行动的趋势应当被制定出来，以减少风险并实现隐藏在未来的机会。

在数字时代的加速发展中，人工智能（AI）的进步正在深刻改变我们的世界。本书《The Human-Machine Team Brigadier General Y.S》探讨了如何在AI日益重要的今天，引领国家和组织走向成功。本导读将深入探讨书中的核心观点，特别是人机协同团队（“超认知”）的概念，以及如何利用AI应对国家安全挑战。

人机协同：超越人类与机器的界限

人工智能的发展不仅仅是技术的进步，它正在改变人类的认知方式和社会结构。作者提出，人类智能与人工智能的结合将开创一个新世界。在这个世界中，人机协同团队将共同学习、思考，并解决以往无法想象的问题。

FAST：引领未来的新概念

书中提出了“FAST”（Foundations, Acceleration, and Singularity Time）这一新概念，作为引导国家和组织成功融合人类智能和人工智能的指导思想。FAST强调建立数据基础、加速特定能力的发展，并梦想远未来（奇点时代），从而发现能够加速当前AI发展的未来理念。

实际案例：匹兹堡犹太教堂枪击案

2018年10月27日，罗伯特·鲍尔斯闯入匹兹堡的生命之树犹太教堂，造成11人死亡，6人受伤。这一事件凸显了人机协同团队在预防此类威胁方面的潜力。如果能够结合人类智能和AI，就可能在事件发生前识别出潜在的威胁。

数据科学的第一步：建立数据基础

为了实现人机协同学习，我们必须以新的方式构建我们的数据基础。这包括选择特定的小能力并加速它们的发展，例如建立一个AI机器来发现特定地点的异常情况，并判断是否有新情况需要检查。

数字时代革命的责任

作者认为，我们正处于数字时代革命的加速阶段，AI正在改变基本规则。本书的观点和例子主要来自国家安全的经验和视角，但也适用于经济、医疗保健和个人安全等其他领域。每个国家、国家机构和学科都可以考虑本书的观点，并将其应用到自己的领域。

未来简史

历史上的重大革命包括农业革命、工业革命和数字革命。作者认为我们目前正处于数字时代革命的开始阶段。从历史的角度来看，每一次革命都比前一次更大、更快，并改变了更多的问题。

数字革命的主要特征

数字革命的特征包括通信的即时性、数据的无限性、云存储的能力、大数据的深度学习、高性能计算以及人工智能革命。这些特征共同定义了我们所处的时代，并为未来的发展奠定了基础。

梦想家的视角

在数字时代，人类与机器之间的关系发生了根本变化。AI的潜力可能会改变我们对健康、国家安全、个人安全等生命至关重要的方面的理解和处理方式。AI有可能解决过去人类无法解决的问题，挑战过去人类甚至无法处理的问题。

报告原文及机器翻译已上传知识星球

长按识别下面的二维码可加入星球

里面已有万余篇资料可供下载

越早加入越便宜

续费五折优惠

原文始发于微信公众号（丁爸 情报分析师的工具箱）：【AI速读】“薰衣草”：以色列在加沙的轰炸背后的人工智能机器