自主系统有意义人类控制的操作化原则与框架

自主系统正在各个领域加速落地，随之而来的问题是：当人不再直接操作机器时，人还剩下什么控制权，责任又落在谁身上。作者的判断是，把自主系统维持在「有意义的人类控制」（Meaningful Human Control，MHC）之下，是保证其安全、可问责与合乎伦理运行的前提。困难在于，MHC 长期是一个哲学概念，缺少足够明确的实践指引，实践中出现的各种衍生解释反而彼此发散，而不是收敛为可操作的共识。这份资料要回答的正是：MHC 究竟怎样才能在自主系统中被有效操作化。

覆盖范围上，作者 Simeon C. Calvert（Delft University of Technology 交通与规划系）没有把讨论限定在某一类系统，而是跨领域梳理现有文献与相关概念，并用常被称为概念综合（conceptual synthesis）的方法做整合，整个研究分四步推进。这类方法关注的不是新增实验数据，而是概念如何被生成、提炼与综合。作者也交代了起点：此前确实存在可用的框架，但主要来自自主武器系统（AWS）与自动驾驶系统（ADS）两个领域，领域特征太强，难以直接迁移到其他场景；不过其中包含的相关要素可以当作形成通用方法的基座。因此思路是先提炼操作化原则，再据此搭建通用框架。

关键发现之一是问题诊断本身。MHC 概念起源于关于自主武器系统的政治辩论，其经典表述包含两个条件：追踪（tracing），即存在能够对自主系统施加控制、并对系统行为承担道德责任的一个或多个人；以及跟踪（tracking），即系统能够负责任地行动、遵循人的理由与意图。但作者引用既有研究指出，政策制定者与技术设计者缺少一套关于「有意义的人类控制」到底指什么的细化理论；也有学者直言，抽象概念如果无视其所面对的操作情境，用处有限。另有批评认为，在共识与清晰可落地的路径缺位时，继续沿用 MHC 这一概念本身值得质疑；也有学者把「将 MHC 具体化为一个可操作的框架」称为至关重要的第一步。

关键发现之二，是作者给出的框架结构。该框架把系统的通用组件及其子系统拆解开来，与不同的行动者、利益相关方和流程相对应，并区分它们与自主技术的「接近程度」层次。作者强调这个框架是领域无关的（domain-agnostic），即 MHC 原则的适用性不依赖具体技术情境。框架的目标，是让产业界与学术界的使用者据此进一步细化各自系统应用所需的条件，从而守住问责、责任与透明这三根支柱。

这意味着什么。这份资料的价值不在于给出一个可以直接套用的检查清单，而在于把散落在不同领域的 MHC 讨论拉到同一套原则语言上，为设计与评估提供共同参照。对实践者而言，它把「必须保留人的控制」这种原则性要求，转换成可以逐层追问的结构：哪些组件、在哪一层接近度上、由谁承担什么。作者也明确，框架是通用的，具体条件仍需使用者结合自身应用情境补充。

做自主系统设计、安全论证、伦理与治理研究的人，可以从里面拿到一套梳理 MHC 的术语与分层思路，以及把原则落到系统组件上的路径。需要留意的是，可获得的版本是作者稿，论文仍在期刊评审与出版流程之中；方法上它以概念综合为主，产出的是原则与通用框架，而不是某个领域的量化指标或验证结果。换句话说，从原则到具体系统的落地参数之间，还有一段需要使用者自己走的路，作者本人也把原则的推导定位为走向正式框架的第一步。

Principles and Framework for the Operationalisation of Meaningful Human Control over Autonomous Systems Simeon C. Calvert* * [email protected]; Dept. of Transport & Planning; Delft University of Technology, The Netherlands Stevinweg 1, 2628CN, Delft, The Netherlands. ORCID: 0000-0002-1173-0071 This Author’s version of the paper has been made available with the permission of journal with which it is currently going through the review and publication process. Abstract – With a plethora of different seemingly diverging expansions for use of Meaningful Human Control (MHC) in practice, this paper proposes an alignment for the operationalisation of MHC for autonomous systems by proposing operational principles for MHC and introducing a generic framework for its application. The increasing integration of autonomous systems in various