science 论文大模型与智能体国防与安全2026-04

ARMOR 2025:面向军事场景的大模型安全基准

军事AI/无人系统方向可免费获取的论文。

发布时间
2026-04
link 原始页面

notes 内容介绍

这份资料要回答的问题,可以从标题里读出来:当大模型被放进军事场景,安全该怎么衡量。「ARMOR 2025」把「军事场景」和「安全基准」两个词并排放,指向的不是模型能力排名,而是一套用来测安全的评测框架;标题里带年份,说明它是带版本号的年度性工作,很可能有后续迭代(这是解读)。值得现在看一眼的理由很直接:军事AI与无人系统是政策讨论最密集、也最容易出现「能力强于评估能力」的方向,而这类基准恰恰是讨论的公共参照物。论文在 arXiv 公开,全文 PDF 可免费获取,不必跨过付费墙就能核对原始表述。

覆盖范围方面,能确认的只有方向定位——军事AI/无人系统。至于基准具体测哪些维度(是拒答边界、指令遵循、可两用的敏感知识,还是多模态输入)、题目规模多大、由谁标注、答案如何裁定,材料里都没有,只能在原文里找。方法上同样如此:它是纯人工构造的题库,还是从既有安全基准迁移改造,抑或引入红队流程,现有信息无法判断。换句话说,这份介绍能帮你判断值不值得读原文,但不能替代原文。

关于关键发现与数字,需要说明白:这份材料没有给出任何具体结论,也没有给出任何可引用的数字。因此这里不转述、不推测、不补全。任何以「ARMOR 2025 发现……」开头的具体说法,如果不出现在原文里,就只能算二手概括。这一条对做政策解读尤其重要——基准类论文的价值往往集中在失败率、分维度差距以及与通用基准的对照上,而这些恰恰是最容易被转述走样的部分。

可以作为阅读线索的,是一些一般性判断(解读):评估军事场景下的模型安全,与评估通用对话场景,差别通常不在题目难度,而在风险口径——同一段回答在民用语境里是正常科普,在军事语境里可能构成可操作信息。因此读这类基准时,值得优先确认三件事:风险边界是怎么定义的、评测对象是基座模型还是经过对齐的成品、结论是否区分了「模型不愿说」与「模型不知道」。这三点决定了那些数字能不能被拿去做政策论证。

这些结论意味着什么。就现有信息而言,最稳妥的用法是把它当作入口而不是结论:它可用于论文解读与政策解读类内容,但引用时必须回到原文取数。若要横向比较不同模型或不同治理取向,单一基准的分数只说明在该基准所定义的风险口径下的表现,不能直接外推为「更安全」。这层限定在军事议题上尤其不能省,因为政策讨论中一个被放大的百分比,往往比一个被忽略的限定条件传播得更远。

适合读的人,是做AI治理与军事AI政策研究、无人系统技术评估,以及需要为模型选型撰写安全说明的工程与合规人员。读完能拿走的,是一次对「军事场景的安全如何被量化」的具体参照,以及一套核对原始数字的习惯。边界也要说清楚:材料只提供了标题、方向与获取方式,没有摘要之外的实质内容,所以这里没有、也不应有对该基准结论的任何断言;真正的判断请以 arXiv 上的原文为准。