被牵连的科学家：论AI研究者在武器系统开发中的角色

这份资料要回答的问题是：当 AI 技术越来越多地进入现代武器系统，AI 研究者到底处在什么位置。材料给出的判断很直接：这类系统近期已卷入大规模杀戮和破坏；与此同时，强大行为体之间正竞相加速带自动化或 AI 组件的武器扩散，也就是所谓的“AI arms race”。作者认为，这种竞争可能在未来造成更多死亡和破坏，并进一步加剧权力与财富不平等。值得现在看的地方在于，科技公司过去尽量保密其军事应用，如今领先公司却在打破这一禁忌，公开宣布与军事机构和武器制造商合作，尽管员工对此有抗议。

这份资料覆盖的范围，从 AI 研究在军事中的历史根源，一直延伸到当代科技公司与军方关系的变化，以及研究者个人的伦理处境。它采用的主要不是实验、数据集或量化调查，而是概念分析：借用 Rothberg（2019）提出的“implicated subject”（牵连主体）和“implication”概念，审视 AI 研究者在制造 AI 武器系统及其伤害的结构中，个人与集体分别贡献了什么、又从中受益了什么。作为背景，材料还引用了 Kalluri 等关于“surveillance AI pipeline”的讨论、Marijan & Muñoz 对自主武器和 deepfakes 的警告，以及 Simmons-Edler 等关于地缘政治不稳定及其对 AI 研究本身影响的分析。

第一个关键发现是，AI 研究者的“牵连”不是直接作恶，而是一种位置性的关系。材料转述 Rothberg 的定义：牵连主体占据与权力和特权一致的位置，本身不是直接伤害的施动者，但他们贡献于、居住于、继承或受益于支配体制，却不发起也不控制这些体制；他们的行动和不行动，帮助生产和再生产受害者与加害者的位置。作者把这套词汇用于 AI 界，指出学术界和私营部门的研究者都处在一个深度交织的网络中，这个网络推动技术主导权竞争，并让研究者处于相对有权的位置。这种权力带来资金机会、高薪、旅行机会和社会地位，也正因如此，伦理问题不能只落在“有没有直接参与武器项目”这一条线上。

第二个关键发现是，牵连不等于责备或罪恶感，而是一种可以转化的位置。Rothberg 认为，牵连主体可以通过团结工作改变自己的位置，也就是做出切实努力抵抗压迫、支持受害者；作者进一步强调“有区分的、远距离的团结”，即承认不同主体之间的差异和距离，同时认识到彼此的社会联系，并尝试从自己的位置引发改变。材料还提到“complex implication”：多重压迫系统同时存在，大多数人会同时牵连于不同的系统，位置有时更接近受害者，有时更接近加害者；牵连位置也不是永久的，会随生活事件和转变而动态变化。把这些放在军事支出增加、对 AI 赋能战争技术大量投资的背景下，研究者面对的不是一个抽象的道德标签，而是一个由合作网络、资金流向和职业路径共同维持的结构。

这意味着，对 AI 研究者来说，伦理讨论的范围需要从“是否直接参与”扩展到“职业选择、资金来源、合作网络和公共叙事如何共同维持武器系统得以发展的条件”。把“牵连”当作分析框架，作用在于把道德指责转换为对位置和杠杆的反思：哪些收益来自这个结构，哪些行动可以在自己的位置上削弱它。作者的目标不是停留在个体内疚，而是把牵连位置转化为对技术强化不公受害者的团结；换句话说，这是一种试图把批评变成集体行动可能性的写法。对机构而言，材料也暗示，员工抗议与公司军事合同之间的张力不会很快消失。

这份资料适合关心 AI 伦理、研究社会责任、科技与军事关系以及和平与安全议题的读者。读完能拿走的是一个不太常见但有用的概念工具，用来讨论“间接参与”和“结构性受益”，以及如何把对自己位置的反思转化为有区分的团结实践。需要说明边界：材料没有提供量化证据、案例调查或政策评估，也没有给出可操作的行动清单；对 AI 军事应用的历史追溯只到“可追溯到 AI 作为研究领域的根源”，没有展开细节；对“如何转化”的讨论也停留在概念层面。因此，它更适合作为问题框架和讨论起点，而不是经验研究结论或实践指南。

THE IMPLICATED SCIENTIST:ON THE ROLE OFAIRE- SEARCHERS IN THE DEVELOPMENT OF WEAPONS SYSTEMS ∗ Alexandra V olokhova, Alex Hernandez-Garcia Universit´e de Montr´eal, Mila – Quebec AI Institute Montreal, QC, Canada {alexandra.volokhova, hernanga}@mila.quebec ABSTRACT Artificial intelligence (AI) technologies are increasingly used in modern weapons systems. Notably, these systems have recently been involved in mass killings and destruction at scale. Furthermore, there is currently a strong interest and competition among powerful players to accelerate the proliferation of weapons with automated or AI-based components, a phenomenon known as “AI arms race”. This competition poses a risk of causing even more deaths and devastation in the future, as well as increased power and wealth inequality. In this work, we aim to