国际人道法直接因果关系与AI介导平民网络行动挑战
OriginalDirect Causation in International Humanitarian Law and the Challenge of AI-Mediated Civilian Cyber Operations
This paper argues that AI-mediated civilian cyber operations challenge the direct causation element of this test in a structurally specific way: when a civilian deploys an autonomous multi-agent cyber system of the kind recently demonstrated in offensive AI research, the "one causal step" standard f
- 发布时间
- 2026-06
内容介绍
国际人道法的一条基础规则是:平民受保护、不被直接攻击,除非并且在其直接参加敌对行动的期间。ICRC 2009 年的解释性指南把这条规则操作化为一个三要件累积测试——伤害门槛、直接因果关系、交战关联。这份资料集中追问其中一项:当平民部署由 AI 介导的网络行动时,"直接因果关系"还能不能成立。它现在值得看,是因为这类行动已不是假设:俄罗斯—乌克兰冲突中出现了平民网络参与,近期的进攻性 AI 研究也演示了自主多智能体网络系统,两者叠加正好落在规则的缝隙上。
论证范围刻意收窄。资料明确只处理直接因果关系,把伤害门槛、交战关联以及可能的治理方案都排除在外,留作后续工作。方法上做的是教义分析,用三个递进场景承载论证:一个行为体用语言模型起草攻击工具;一名黑客行动主义者在一个 agentic 利用框架下逐次获得人工批准;以及一名黑客行动主义者在完成配置后即放手,让自主多智能体利用系统自行运行。前两个场景能被框架的既有逻辑吸收,第三个不能——整篇论证的关键分歧就在这里。此外它还提出 goal-specification granularity 这一属性、沿一条五级光谱对 AI 介导行动分类,并对照评估现有的技术性 AI 治理工具。
第三个场景的失败是结构性的,不是程度问题。在人类脱离之后,损害由系统自己生成的决策产生,所谓"一个因果步骤"的标准因此失效;integral-part 要件也无法延伸过去,因为它预设平民行为的下游存在可识别的行为人,而这些人的行为能被独立归类。结果是框架默认把这类部署归入间接参与,与它原本要捕捉"亲自参加敌对行动"的平民这一目的相抵触。连带的影响是,"for such time as"(在此期间)这条时间边界失去了可以锚定的参与行为,随之崩解。
资料的第二项工作是把断裂点落到一个可测量的系统属性上。它提出 goal-specification granularity,即有多少操作性决策在人类配置并启动系统的那一刻就被固定下来,并论证 integral-part 测试中的 concreteness 组件其实隐含地依赖这一属性。沿五级光谱的分类则给出了一条从"人在环中"到"配置后放手"的连续刻度。第三项工作是对照现有技术性 AI 治理工具,结论是没有任何一个工具记录或报告这一属性。换句话说,下游的法律归类需要这个量,而上游的技术治理并不产出它。
这些结论的实践含义有两层。对法律一侧,按现行框架,配置后即自主运行的部署会被归到与科学研究、武器生产并列的位置,这与规则想管住亲自参与者的意图不符;要更新教义,需要动的正是 concreteness 组件,因为它离开"人类在配置时固定了多少操作内容"就无法运作。对技术治理一侧,日志与报告实践若不含 goal-specification granularity,法律分类就缺少可用的输入,两套体系之间因此存在一个具体的缺口。换个说法,这份资料的价值不在于宣布 AI 让规则失效,而在于把失效点定位到一个可以被度量的属性上。
关心国际人道法、网络行动与 AI 治理交叉问题的人可以从中拿走三样东西:一个三场景的论证骨架、一个可操作的概念(goal-specification granularity)、以及一份关于现有治理工具缺口的判断。边界也要说清楚:伤害门槛与交战关联不在讨论范围内,治理方案也没有提出,作者把它们明确留给后续工作,所以读者拿到的是"在哪里断"而不是"怎么补"。另外,场景建立在俄乌冲突的观察与进攻性 AI 研究的演示之上,属于教义推演,不是实证测量。
原文摘录
自动提取自 PDFDIRECTCAUSATION ININTERNATIONALHUMANITARIANLAW AND THECHALLENGE OFAI-MEDIATEDCIVILIANCYBER OPERATIONS Alice Saito Faculty of Arts and Sciences The University of Tokyo Tokyo, Japan [email protected] Harold Godsoe Kojima Law Offices Tokyo, Japan [email protected] Phan Xuan Tan College of Engineering Shibaura Institute of Technology Tokyo, Japan [email protected] June 30, 2026 ABSTRACT International humanitarian law protects civilians from direct attack unless and for such time as they take direct part in hostilities, with the ICRC’s 2009 Interpretive Guidance operationalising this rule through a three-criterion cumulative test. This paper argues that AI-mediated civilian cyber operations challenge the direct causation element of this test in a structurally specific way: when