AI安全研究所在前沿AI安全国际标准制定中的作用

国际标准对前沿 AI 系统的安全开发和部署至关重要，但「标准」一词究竟指什么、当前最缺哪一类标准、又由谁来推动，往往说不清楚。这份资料要回答的正是其中一环：AI Safety Institutes（AISIs，AI 安全研究所）这类政府机构，能在国际 AI 安全标准制定中扮演什么角色，以及可以怎样参与。它的判断建立在 AISIs 的三项特征上——拥有内部技术专长、负有国际交往的职责、在本国 AI 生态中具备召集能力，同时又是政府机构。作者据此主张，AISIs 特别适合为 AI 安全的国际标准制定过程作出贡献。在各国 AI 安全机构陆续成立、而国际标准制定渠道仍然分散的当下，这个问题的现实意义在于：机构已经存在，缺的是把它们嵌入标准制定流程的具体方案。

资料覆盖的范围从国际标准化的基本概念开始，先梳理国际标准及其分类，再概览面向 AI 的国际标准制定组织，然后描述当前的标准化进展。在此基础上，作者提出评估标准制定模式的几项判据，并用这些判据逐一讨论三种 AISI 参与模式。方法上属于政策分析与制度设计，不是实证测量：材料没有给出访谈样本、问卷数据或统计模型，而是以既有标准化组织和既有国家组合为参照，比较不同模式下标准的响应性、合法性与专业程度。作者还沿用了 Anderljung 等人对前沿 AI 系统的定义，即可能表现出足够危险能力的高能力基础模型，并引用 UNESCO 相关文章对标准的界定——「日常使用中的各类规则与规范」。

三种模式的具体构成是这份资料最实在的部分。Model 1 是 Seoul Declaration Signatories，即首尔宣言原签署方：澳大利亚、加拿大、欧盟、法国、德国、意大利、日本、韩国、新加坡、英国和美国。Model 2 是 US（加上其他首尔宣言签署方）与中国，目标是促成美中之间的共识，也可能把原签署方一并纳入。Model 3 是 Globally Inclusive，参照的是 ISO/IEC 人工智能分委员会（JTC 1/SC 42）的现有成员构成，涵盖德国、埃及、巴西、加拿大、印度等范围广泛的国家。换句话说，三种模式的差别首先不在技术内容，而在把哪些国家放进同一张桌子。

作者的评估结论集中在三个维度上。Model 1 的响应性高、合法性低、专业程度高，适合反映志同道合参与者风险偏好与价值的标准，例如流程与管理标准、产品测试与性能测量标准，材料给出的例子是前沿 AI 模型的安全阈值。Model 2 三项均为中等，适合促进互信、建立安全底线的标准，例如事件响应与恢复计划。Model 3 响应性低、合法性高、专业程度低，适合那些参与面越广越有利的标准，例如接口与网络标准，例子是可解释性的共享方法。这里值得注意的是三方权衡的方向：参与国越少、立场越接近，标准出得越快越专门，但代表性和被接受的程度就越弱；参与面越广则相反。

关键的一点是，三种模式并不互斥。作者明确把它们定位为一种多轨并行（multi-track）的解决方案，由 AISIs 在其中承担中心角色，以保证不同轨道之间彼此协调、并始终把注意力放在 AI 安全上。这意味着实践上的含义不是三选一，而是按标准类型分派到合适的轨道：安全阈值一类可以走小范围高专业度的路径，事件响应一类可以走美中加签署方的中间路径，可解释性方法一类则放到全球包容的平台上推进。对政策制定者和标准参与者来说，这提供的是一个分工框架，而非一张路线图。

阅读这份资料可以拿走的，是一套区分标准类型、并把机构能力与标准类型对应起来的分析语言，以及三个模式各自的成员构成与强弱项。它的边界也需要说明：三种模式的评估是定性的，材料没有给出量化的评分方法或验证数据；模式名称中的国家组合来自首尔宣言签署方和 JTC 1/SC 42 的现有成员，属于对既有安排的借用而非新设计；至于 AISIs 能否真的在多轨之间起到协调作用，材料给出的是主张而非经验证据。作者在致谢中提到，本研究受益于 Oliver Guest 的指导，以及 Belinda Cleeland、Hadrien Pouget 和 Peter Cihon 的见解，并声明错误由作者自负。

The Role of AI Safety Institutes in Contributing to Interna- tional Standards for Frontier AI Safety Kristina F ort Pivotal Research [email protected] Abstract International standards are crucial for ensuring that frontier AI systems are developed and deployed safely around the world. Since the AI Safety Institutes (AISIs) possess in-house technical expertise, mandate for international engagement, and convening power in the na- tionalAIecosystemwhilebeingagovernmentinstitution, wearguethattheyareparticularly well-positioned to contribute to the international standard-setting processes for AI safety. In this paper, we propose and evaluate three models for AISIs’ involvement: Model 1 – Seoul Declaration Signatories, Model 2 – US (+ other Seoul Declaration Signatories) and China, and Model 3 – Globally Inclusive. Leveraging their diverse strengths, these models are not