自主无人机的自治系统技术介绍

系统技术交流 2024-09-13 14:17:26

图片来源:DALLE-3,通过 ChatGPT

假设今年是 2035 年,美国正在中东进行平叛行动:自主无人机会有利于叛乱分子还是反叛乱分子?T.X. Hammes、Paul Scharre 和 Sarah Kreps 等学者认为,自主军事系统 (AMS) 将倾向于有利于传统上“较弱”或较贫穷的行为者,包括叛乱分子或恐怖分子。这些学者不是纯粹地用“进攻与防御”来界定这个问题——当领土控制模糊且战斗人员采用不规则的战术(例如伏击)时,这可能很难界定——这些学者指出了目标识别挑战和道德约束的不对称性,群体有可能用数量压倒质量,以及更便宜的破坏能力对较贫穷行为者的好处。这些论点在表面上似乎很有说服力,并且可能确实有一些优点。然而,我们也可以提出令人信服的论点,说明为什么 AMS 可以使平叛分子或更富有的军队受益:它们可能允许富有的、不愿造成伤亡的政府减少在海外部署的军队,对冲突地区进行广泛的监视,减少平民的附带损害,或以其他方式更好地利用他们的经济优势。此外,技术发展的速度和影响通常很难以高可信度进行预测,过去 150 年中关于鱼雷艇、机枪、骑兵、战略轰炸、核武器等的大量不准确预测或意外就说明了这一点。

人工智能 (AI) 对战争的潜在影响最近受到了更多关注。例如,美国国防部的 Replicator 计划寻求部署自主、可消耗的无人机,作为对“中国的大规模优势”的回应。然而,鉴于过去十年人工智能的发展出现了许多意外(以及一些过度乐观的情况),分析师应该更清楚地承认并解决技术不确定性/争议的关键点,然后再得出结论,即 AMS 将偏袒一方或另一方(而不是依赖“更便宜的技术偏袒较穷的行为者”之类的启发式方法)。尽管本文的分析无法对 AMS 的影响提供可靠的预测,但它确实提出了分析师在断言 AMS 将产生不对称影响之前应该解决的一系列关键问题:

该技术是否具有递减的边际回报或某种形式的不对称有用性?

系统的自主移动性和目标定位的可靠性如何(尤其是在一方高度依赖“开源”模型的情况下)?

这些系统将对后勤和监视等非致命性军事活动产生什么影响?

无人机部件的可及性如何(例如,叛乱分子能否轻松制造或大规模走私它们)?

对策的有效性和可及性如何?

归根结底,准确预测影响在短期内将非常重要,因为美国和其他国家政府将决定如何监管人工智能开发以及在哪里投资 AMS——或针对此类系统的对策——如果该技术扩散到其他国家或非国家行为体,这可能会削弱他们自己的军事优势。

为什么预期差异?边际效应和不对称值

如果双方都可以获得或使用一项新技术,那么既然较强或较富的一方“应该”(天真地说)能够更大规模地使用该技术或负担得起更高质量的技术版本,为什么它会不成比例地使较弱或较贫穷的力量受益?为什么它不简单地维持甚至放大现有的差距呢?

有多种解释模式。例如,该技术可能只对“对抗”仅由一方拥有的能力有用(例如,毒刺与直升机)。与此相关的是,一些技术可能会提高战术的有效性,从而减轻传统差异(例如伏击)的重要性。预期新技术将有利于较弱参与者的另一个原因是,如果它的边际回报递减(尤其是当原始技术具有更大的“进入壁垒”或固定成本时),因此在该技术上花费的 10 倍于对手不会产生 10 倍的好处。小型核武库的威慑作用部分说明了这一点。AMS 的边际价值似乎不太可能像核武器那样迅速下降,但目前尚不清楚它们的价值曲线是什么样的:20 架致命的自主无人机的价值是否至少是交火中一架此类无人机的 10 倍?

可靠性和自主性:移动性、目标定位等

很容易想象像活动家视频“Slaughterbots”中描绘的场景,成群的小型无人机可以在城市环境中导航,同时通过面部识别跟踪和杀死目标。但是,此方案假设各种 AI 功能可能比某些人预期的更难实现。即使个人身份识别系统被证明能够在复杂/对抗环境中发挥作用(或者战斗人员对目标的歧视较少),这并不能解决其他挑战,例如在城市或有争议的环境中快速导航,同时规划与目标交战的行动。必要的模型(算法)可能是双重目的和公开可用的,以便非国家行为体可以访问它们。然而,在战斗条件下的表现可能需要专门的、非公开的训练数据进行微调——如果只是考虑到对策的潜力,正如后面讨论的那样。

尽管如此,只要这项技术使叛乱分子能够对他们的目标造成更多的伤亡,他们就可能愿意接受错误率的附带损害,这些错误率对于正常的商业任务(例如自动驾驶)来说是不可接受的,并且可能会减缓自由民主国家的采用(尽管一些国家表现出愿意通过无人机袭击造成平民伤亡)。此外,有利于叛乱分子的是,目标可能存在明显的不对称性:各州拥有更多的基础设施、公职人员和昂贵的军事平台,而许多设施或平台(例如坦克)应该更容易被证明是目标识别的。尽管如此,分析师需要仔细考虑未来的 AI 模型是否真的能够在现实(对抗)环境中完成设想的图像识别和规划任务,以及双方是否可以使用这些模型。

对情报、监视和侦察的潜在影响

即使自主系统在未来十年内无法实现致命行动的高可靠性,但情报、监视和侦察 (ISR) 活动也更容易容忍错误(尤其是在替代方案为零的情况下),而且美国已经至少在使用 ISR 的弱自主系统。如果自主平台的生产成本变得非常低,并且自动视频分析能力得到提高,AMS 就可以对违禁品走私和军事装备移动进行广泛监控,观察 IED/AMS 的放置或伏击准备,定位和跟踪感兴趣的人员,引火以揭示敌人的位置等。叛乱分子也可能能够访问和利用此类技术,但考虑到行动开放性的不对称性(例如,政府建筑与山洞或城市隧道),以及可能还需要大型数据存储和分析基础设施,AMS 似乎更有可能使常规部队受益。此外,外国占领军通常更厌恶伤亡,因此不太可能派兵进入危险地区。自由民主国家可能会因采用广泛的监控而面临一些政治阻力,但如果 AMS 明显挽救了士兵的生命,这似乎不太可能占上风。总而言之,如果评论员假设自主武器是可能的,他们就需要努力解决也可能可能的非致命应用——而且这些应用似乎可能有利于对当地了解较少并希望扼杀叛乱分子生产/进口无人机的反叛乱分子。

访问(高质量)无人机组件

即使存在业余爱好者制造的廉价商用无人机,这也不能保证在竞争环境中资源匮乏的叛乱分子能够获得大量或高质量的无人机,尤其是在不危及他们的运营的情况下(通过暴露)。哈姆斯一再坚持认为,叛乱分子可以利用 3D 打印等新兴技术来满足他们的需求。尽管缺乏明确的证据证明其能力,但过去使用简易爆炸装置的经验表明,坚定的叛乱分子可以生产或进口一些无人机(除非 AMS 或其他创新从根本上改善拦截和相关工作)。然而,如果没有更深入的技术分析,就说叛乱分子每天可以生产数千个“屠宰机器人”似乎还为时过早,尤其是使用能够抵抗对策的高质量组件。

对策的有效性和可及性

历史上充满了被吹捧为革命性的军事技术,这些技术面临着对策的阻碍。由于哈姆斯和其他学者强调了蜂群战术的影响,一个特别相关的例子是 19 世纪末和 20 世纪初小型、快速且相对便宜的鱼雷艇的发展。一些学者(尤其是法国的 Jeune École)声称,这种发展将破坏海军超级大国(尤其是英国)的大型船只的生存能力。实际上,在大多数情况下,鱼雷艇的威胁通过鱼雷网和凸起、快速射击的近距离火炮,甚至采用“小而快”原则来应对新威胁的新型船只——驱逐舰——来减轻。大约在这个时期,潜艇也开始对大型船只构成类似的威胁(基于隐身而不是数量和速度),但即使是它们最终也面临着一些对策,这些措施在二战期间保持了盟军水面舰队的生存能力。在 20 世纪初,朱利奥·杜赫特 (Giulio Douhet) 宣称战略轰炸将是毁灭性的,并迅速具有决定性意义,但这些预期未能考虑到雷达和更好的防空武器的可能性(以及关于轰炸对防御者士气影响的错误信念)。

当然,也有一些技术已经超越了对策,例如先进的弹道导弹和美国核导弹潜艇 (SSBN)。前面的例子并不是要声称对策总是占上风,而是要强调任何对片面利益的自信预测,如果不认真讨论对策,似乎就接近于疏忽。

关于对自主无人机采取对策的可能性,人们一直在争论不休。摧毁/瘫痪无人机的一些主要潜在对策包括定向能、电子干扰、障碍物或缠结以及动能弹丸。人们还可以对无人机上的 AI 模型或传感器采取欺骗或其他对策,包括目标诱饵、遮蔽物(例如烟雾)、伪装和潜在的数据中毒。

归根结底,AMS 对策有几个关键问题:谁可以使用哪些对策,以及每种对策的效果如何?例如,针对大型群体的唯一高效对策可能是叛乱分子通常无法部署的复杂而显眼的平台(例如,固定或车载定向能源系统)。或者,可能没有完全有效的对策,这些措施可以阻止外国军队的显著存在,但允许广泛的无人机行动。

自主性、不对称性和不确定性

AMS 会成为均衡器还是分隔符?鉴于 AI 能力的最新进展以及美国推动 Replicator 计划以对抗中国的大规模,这个问题尤为重要。尽管一些读者可能会对本文没有提供对影响的预测感到失望,但它确实强调了分析师在自信地断言这些影响将不成比例地使一方受益之前应该解决的关键问题。多位学者认为该技术将使弱者受益,但这些评估并未伴随着解决上述不确定性关键点的严格分析。

简易爆炸装置和 AK-47 等历史技术确实支持“更便宜的能力将使较贫穷的行为者受益”的论点,我之前的研究表明,机枪可能比反叛乱者更有利于叛乱分子;计算军事技术不对称影响频率的研究项目可能非常有用。然而,上述各节中的因素可以在很大程度上抵消甚至逆转 AMS 的影响,例如,如果较贫穷/非正规的部队无法可靠地部署AMS或对策,或者如果AMS允许厌恶伤亡的反叛乱分子在支持政府职能、提供援助、拦截走私或消灭敌方战斗人员/设备时,将明显较少的部队置于危险之中。归根结底,关于无法克服的技术障碍或对策的争论可能表明 AMS 不会对任何一方产生重大影响,但诉诸于过去技术的个别例子或 AMS 对一方潜在用途的戏剧性叙述是得出该技术将具有不对称利益的结论的脆弱基础。

0 阅读:1