作为 AI 赋能数字危害的自主网络武器：平台问责框架

各国已经用 EU DSA、AI Act、UK Online Safety Act 这类工具来治理商业平台产生的 AI 在线危害，但这些框架共享同一个前提：造成危害的 AI 系统由受国内或超国家监管的商业主体运营。材料指出，这个前提恰好在危害最严重之处失效——国家行为体把自主网络武器（autonomous cyber weapons，ACW）投向医院、电网、金融系统与选举等民用基础设施，造成的危害与平台中介的危害在结构上相同，却落在所有现行框架之外。国际人道法（IHL）早于自主 AI 出现，平台治理又把国家行为体排除在外，两者交界处于是形成一个治理真空。这份资料要回答的正是这个缺口怎么补、补的时候责任该落在哪一层，以及为什么现在值得看：两套已经生效的治理体制，同时把「国家部署自主系统攻击民用基础设施」这一情形排除在外。

资料给出三项贡献：一张把六种 ACW 作战模式映射到五类民用危害的分类法；一个 Meaningful Human Control（MHC）模型，它是带闭式 IHL 阈值和已证明权重敏感性界的治理合规函数；以及一套平台问责架构，其条约语言建立在 ARSIWA 国家责任学说上，而非 Rome Statute 的个人责任。验证方式是拿十一起有记载的国家归因行动、一个假想的防御性 AI 系统，外加三起边界事件做判别效度检查。背景部分还梳理了既有数字危害治理收敛出的四条原则：部署主体不论 AI 自主程度都担责、高风险决策需要有意义的人类监督、透明度是问责前提、执法机构必须拥有管辖权，并逐条指出它们在 ACW 情形下的不适用之处。

关键发现是：那十一起有记载的案例，每一例都落在问责真空里。材料给出的例子很具体：NotPetya（2017）在 65 个国家造成约 100 亿美元损失，没有任何国家被追责；Volt Typhoon（2024）在美国关键基础设施中保持持久访问至少五年，没有触发任何国际机制。Tallinn Manual 2.0 早于大规模 AI，并且假定每一次瞄准决策都由人类操作员作出，这与 ACW 的运作方式不符。换句话说，按作者的判断，现行 IHL 与平台治理在结构上都不足以处理 AI 发起的、造成民用数字危害的网络行动。

阈值的性质值得单独说明：它是目标依赖的。面对纯民用目标时，材料中研究的所有系统都过不了这条线，包括那个假想的防御性 AI 系统——这意味着即便一个被设定为防御用途的设计，也补不上合规缺口。另有三起事件因自主性或归因理由被正确排除在这套框架之外，作者把这当作一次判别效度检验。需要点明的是，归因是这套架构唯一没有提供的一环，作者把它明确列为待解决的开放需求，而不是已经解决的问题。

这些结论的实践含义有两层。一是责任必须拆开：资料的核心主张是，补缺口需要区分部署者责任、归因和指挥层授权，三者不能混为一谈，这也是它区别于单纯呼吁「加强监管」的地方。二是 MHC 的五个维度可以直接对上 DSA 的具体义务——Understand 与 Predict 对应第 34 条的系统性风险评估，Override 对应第 35 条的缓解义务，Audit 对应第 37、40 条。材料用一个大型推荐系统做了演示：Understand 通常居中（运营方能刻画总体互动效果，但刻画不了持续重训练的排序器的涌现行为），Predict 偏低，Override 偏高，Time 偏低，而 Audit 正是 DSA 直接立法干预的维度——没有研究者数据访问权的平台在这一项接近零分，接受独立审计与经审查研究者访问的平台得分很高。这意味着同一件工具既可给国家网络系统打分，也能给商业推荐系统打出可比分数。

关心国际人道法、AI 治理与平台合规、网络行动研究的人，能从这里拿走三样东西：一个可复用的危害分类法，一套能落成条约语言的责任架构，以及一个把 DSA 义务换算成分数的合规工具。边界同样要说清楚：权重和阈值参数是示例性的，并没有做拟合，所以那些分数是结构性演示，不是测量结果；归因环节空缺，整套架构在真实事件上的落地仍依赖外部提供归因能力；而「纯民用目标下无人过关」这一结论，也建立在这组尚未拟合的参数之上，读数时应按作者自己的限定来理解。

Autonomous Cyber Weapons as AI-Enabled Digital Harms: A Platform Accountability Framework Mansi Ganga Nayak1, Samarjeet Malik2,3∗†, Shaurya Pratap Singh4‡, Vaibhav Sharma5, and Hritika Adhikary1 1 Arizona State University, Tempe, AZ, USA 2 Ashoka University, Sonipat, Haryana, India 3 Indian Institute of Technology Jodhpur, Rajasthan, India (Predoctoral Fellow) 4 Indian Institute of Science (IISc), India (Predoctoral Fellow) 5 Cruxway, New York, NY, USA ∗Corresponding author: Samarjeet Malik ([email protected]). †‡Samarjeet Malik and Shaurya Pratap Singh contributed equally to this work. Abstract. Governments govern AI-generated online harms from com- mercial platforms (EU DSA, AI Act, UK Online Safety Act), yet the most severe class remains ungoverned: autonomous cyber weapons (ACWs) deployed by nation-states against civilian infrastructure. We address this