SIPRI背景文件：军事人工智能中的偏见（2024）

一套军事人工智能系统给出的判断，如果带着系统性偏差，责任该落在哪里？偏差是从数据里来的，还是从模型设计、乃至更上游的社会结构里来的？SIPRI 于 2024 年底发布的这份背景文件，处理的就是这一串问题：偏见如何进入军事 AI 系统，进入之后可能造成什么影响。它值得现在读，是因为它把这件常被当成技术细节的事，摆到了军事 AI 伦理与安全讨论的前排位置：换句话说，在讨论一套军事 AI 系统是否可用之前，先得问它是否公平。

从覆盖范围看，这份文件走的是概念梳理的路子，并非案例汇编或定量评估。它沿着「偏见怎么进来、进来以后怎样」这条线，把来源分成社会、数据与模型几个类别分别讨论，最后落到一个供政策制定者使用的概念框架上。所谓「背景文件」的体裁也说明了它的定位：它不负责给出结论性的合规判断，而是为后续关于国际人道法合规的讨论铺一层共同语言。材料没有提到它使用了哪些具体案例或统计口径，这一点在阅读时需要留意；这意味着它更接近一张问题地图，并非一份证据清单。这个判断是依据摘要与要点作出的解读，并非文件本身的自我描述。

文件给出的核心定义是：军事 AI 中的偏见，指的是一种系统性、不公平的倾向。这两个限定词都不是随手加的：「系统性」意味着偏差会沿着某种稳定的规律反复出现，并非常见的单次错误；「不公平」则把它和单纯的精度问题区分开来，指向对特定对象的不成比例的对待。按文件的分类，来源之一是社会的层面；AI 系统是在既有的社会条件里被训练和使用的，社会中的差异会随之渗入。另一类是数据；训练所用的材料本身若带有偏向，模型学到的东西也会跟着偏。这是我对「社会、数据与模型」三类分法的展开，文件本身只给出了类别名称。

第三类来源是模型；即便数据相对干净，模型的设计与训练选择同样可能把偏差固化进系统的输出逻辑。把这三类放在一起看，会发现一个共同的指向：偏见很少是某一个环节的孤立故障，而更像是链条上多个环节共同作用的结果；这意味着单点修补往往不足以解决问题。至于影响，文件把它放在「可能造成何种影响」的位置上讨论，并且将这一讨论与后续的国际人道法合规议题相接。换句话说，偏见的后果不止于「结果不准」，它还可能牵动更广的合规与责任问题。

这些结论对实践的意义，我理解为两层。第一层是评估的标准：如果偏见被定义为系统性、不公平的倾向，那么衡量一套军事 AI 系统时，只看准确率一类的指标就不够了，还要看它在不同对象上的表现是否成比例。第二层是讨论顺序：SIPRI 把偏见安排在合规讨论之前作为概念基础，等于主张先弄清「偏在哪里」，再谈「合不合规」。这也解释了文件为什么把最终重点放在政策制定者的概念框架上：框架的功能是让不同背景的参与者用同一套词说话，而不是替他们作出判断。

这份材料适合两类读者：一是刚开始接触军事 AI 伦理与安全议题、需要一个可靠起点的人；二是需要在政策或合规讨论中引用一个清晰定义与分类的人。读完能拿走的，主要是一个定义（系统性、不公平的倾向）、一组来源类别（社会、数据与模型），以及一个把偏见问题接到国际人道法讨论上的衔接点。它的边界也要说清楚：作为一份背景文件，它提供的是概念框架，并非实证结论，也不替代具体的合规分析；如果读者期待的是案例细节、量化结果或法律意见，这份文件不会给出。把它当作进入该议题的第一块基石，是更合适的用法。