美军事专家呼吁消除误解：无人武器可以自主攻击，无需人在环路中做决定

美国军事战略讨论网站《岩石上的战争》近日发表美国军事学者的文章，呼吁开发自主武器系统，无需人类参与，消除对其的误解。

文章认为，五角大楼官员、智库界和世界各国领导人对自主武器系统的提及往往引用一项甚至不存在的美国军事政策要求：2012年发布并于2023年更新的美国国防部指令3000.09《武器系统自主性》，规定了五角大楼部署和使用半自主和自主武器系统。自主武器系统一旦被激活，就可以选择和攻击目标，而无需操作员的进一步干预。半自主武器系统类似于今天的精确制导武器。最突出的是，该政策要求，对于某些类型的自主武器系统，美国国防部高级领导人要求，除了对所有武器系统进行常规检查外，还必须进行两轮额外的审查。这在系统被批准进入采购管道之前发生一次，在现场使用之前再次发生。审查使用了一个基于现有规则的简单清单，以确保任何自主武器系统都能正常工作并遵守美国法律。

不幸的是，关于美国目前在武器系统自主性方面的政策存在误解，这些误解正在为美国军队发展和部署更广泛的自主性制造想象中的障碍，然后是现实中的障碍。

美国国防部最初在2012年发布的指令是世界上第一个关于自主武器系统的政策，但十年后，是时候更新了。最初的指令在多个方面被广泛误解。在五角大楼之外，倡导团体似乎认为国防部正在地下室储存杀手机器人，而在内部，许多人认为自主武器系统是被禁止的。仅仅是理解上的差距就值得一提。此外，俄罗斯和乌克兰之间的战争证明了人工智能武器的实用性，以及电子战破坏遥控系统的必要性。

此外，人工智能和自主系统的进步意味着，在某些情况下，十年前的科幻小说现在处于技术可能的领域，而国防部本身也发生了变化。自2012年以来，美国国防部通过了使用人工智能的原则，创建了一个新的组织来加速人工智能的采用（首席数字和人工智能办公室），并进行了一系列其他改革。此外，美国国防部的指令必须每10年审查一次，进行取消、延长或修订。因此，我们在2023年更新了该指令。

然而，正如经常发生的那样，更新的政策并没有完全解决随着时间的推移而形成的三个神话和误解：首先，有一个神话认为该指令禁止部分或全部自主武器系统，但事实并非如此。其次，有一种说法是，该指令要求在战术层面使用武力时必须有人参与，但事实并非如此。第三，有一种说法是，该指令规定了自主武器系统的研发、实验和原型制造，这是不真实的。随着技术的进步，这些神话阻碍了美国国防部以负责任的速度扩大武器系统自主性的能力，因为官僚限制而不是技术状态而造成障碍。

我们正在努力纠正这些误解，但显然在这方面还有更多工作要做。尤其是当谈到第二个神话时，这可能是最有害的，也许是时候放弃关于人类“介入”、“开启”或“脱离”自主武器系统的语言了。“人在环路中”错误地暗示了即使是现有的常规武器系统也没有的战术层面的持续人为监督，从而造成了不必要的混乱。相反，我们应该强调人类的判断，明确反映人类在部署武器之前授权武力方面所发挥的关键和负责任的作用。

随着美国军方为印度太平洋地区没有可靠通信的潜在战斗做准备，自主武器系统变得越来越重要。消除关于自主性的神话对于迅速建立一支由人工智能驱动的力量，保持人类的问责制和责任感至关重要。

现实情况是，国防部指令3000.09没有禁止任何类型的自主武器系统。这并不意味着没有关于自主武器系统的规则。该指令包含几项要求，明确了武器开发人员应该已经满足的标准。例如，所有半自主和自主武器系统都必须经过该指令第3节所述的评估过程，该过程符合国防部为确保武器系统按预期运行并尽量减少故障（一定程度的事故是不可避免的）而已经提出的严格要求。一些自主武器系统在进入正式开发阶段之前（在实验和原型制作之后以及在采购之前）以及在投入使用之前，都需要高级官员进行额外的审查。

误解二是，人类必须参与战术环路。该指令中没有要求有人在环路中。这些词没有出现在文档中。这一遗漏是故意的。所需要的是对使用武力有适当程度的人类判断（第1.2节），这与环路中的人类不同。虽然这两个短语听起来很相似，但它们的意思却截然不同。适当的人类判断是指在使用武力之前，有必要做出明智的人类决定，确保问责制和遵守法律。

该指令也在国际上发出了一个强烈的信号。该指令与《关于负责任地使用人工智能和自主性的政治宣言》相一致，为各国在从俄乌战争或其他地方吸取经验教训的基础上，就将自主性纳入武器系统做出自己的政策决定时，提供了能力建设的榜样。

（原文标题：Autonomous Weapon Systems: No Human-in-the-Loop Required, and Other Myths Dispelled）