杀伤链|人工智能已经嵌入美空军“杀伤链”，滥杀平民恶行就能终结？

美国《福布斯》网站10月28日报道，人工智能现在已经是美国空军“杀伤链”的一部分。

文章插图

【美国空军的一个分布式地面站】
美国空军最近透露，它首次使用了人工智能来帮助确定目标。事实证明，这不仅仅是一个测试：人工智能已经嵌入了美国空军的目标定位操作中，引发人们严肃的提问。
美国空军部长弗兰克·肯德尔在马里兰州国家港举行的空军协会航空、航天和网络会议上表示，美国空军已经“首次将人工智能算法部署到实战杀伤链中”。他没有透露此次打击的细节，是由无人机还是由有人驾驶飞机实施的，是否有平民伤亡。
“杀伤链”是指对各个传感器收集的数据进行分析、选择目标、计划和实施打击以及评估结果的整个过程。人工智能减轻了人类分析师的一些负担，他们曾经需要花费数千小时搜索视频片段，试图找到、定位并确定目标。这项技术现在已经投入使用。
“这些初始目标识别算法可被用于分布式地面站，以增强情报行动，”一位美国空军发言人告诉本文作者。“分布式地面站”是美国空军的“分布式通用地面系统”的27个地理分散单元，是其情报收集行动的大脑，处理从规划和指导、收集，到处理和利用，再到分析和传播的情报工作的所有阶段。

文章插图

【美国空军的分布式地面站DCGS概念】
这项工作涉及到筛选大量的数据：每天平均50架次无人机产生超过1200小时的视频，加上数千幅静止图像和信号情报。一架U-2或RQ-4“全球鹰”的飞行任务所产生的信息需要45名情报人员来处理；MQ-9“死神”需要8名情报人员。由于更先进的传感器比以往任何时候都产生了更多的数据，美国空军希望借助人工智能来承担部分工作负担。虽然人工智能现在已经参与工作，但人类仍然在很大程度上控制着局面。“人类情报专业人员是决策者，”美国空军发言人说。
长期以来，人们一直担心将人工智能用于此类目的。与常见的“将军们释放自动杀戮机器”的噩梦场景不同，人们担心的是机器会找到目标并将杀戮任务委托给人类。2018年，谷歌公司的员工迫使该公司放弃参与五角大楼的Maven项目，该项目致力于计算机视觉算法的研究，帮助分析师进行反叛乱和反恐行动。这些项目的存在意味着美国空军的行动并不令人惊讶。
联合国裁军研究所的Arthur Holland告诉本文作者：“近年来，人们在开发基于人工智能的寻找目标的支持系统方面做了大量工作。”Holland说，虽然有人可能负责，但使用人工智能向情报专业人员提供数据引发了许多问题。人工智能是如何测试和验证的？操作员如何知道何时信任AI的判断？而当由于人工智能的错误而发动了致命的打击时，谁来承担责任？
即使是人工操作，也会发生可怕的错误，比如最近在喀布尔发生的无人机袭击，造成10名无辜者死亡，其中包括7名儿童。分析师认为他们看到爆炸物被放置在汽车的后部，而实际上车上装的是水。如果AI做出判断，责任可能会变得模糊。问题出在设计人工智能的人，还是信任人工智能的分析师，还是发射导弹的飞行员？
Holland担心，美国对超视距打击的关注将意味着美军更加重视远程情报收集，AI将发挥更大的作用。Holland说：“由于‘超视距’作战可能缺乏地面人员和地面基础设施，无法在打击前帮助确认目标的身份或位置，因此有可能使用瞄准软件来填补这一空白。”
有一种风险是，这将开始减少人类参与杀伤链。