WEF：人工智能与网络安全——风险与收益平衡

这份白皮书要回答的是一个很实际的问题：组织如何在享受 AI 采用带来的收益的同时，把随之而来的网络安全风险控制在可接受范围内。世界经济论坛在 Foreword 中直接写道，历史上人们对 AI 采用与使用可能带来的网络安全风险关注不足。眼下 AI 正在全经济范围内加速落地，企业一边追求负责任创新，一边要抓住增长机会，这个缺口因此更突出。报告主张把网络安全完整嵌入 AI 采用的生命周期，而不是等系统上线后再补。换句话说，它关心的不是 AI 能不能用，而是用的时候风险由谁看、在哪一步看。

从范围看，它属于世界经济论坛“Transformation of Industries in the Age of AI”白皮书系列，由论坛于 2023 年 6 月启动的 AI Governance Alliance 推出，并与牛津大学 Global Cyber Security Capacity Centre（GCSCC）合作完成。方法上并非问卷统计或基准排名，而是依托协作工作坊与访谈：参与者来自企业、政府、学术界和民间社会，身份是网络安全与 AI 的负责人，他们一起梳理 AI 相关网络风险的关键驱动因素，并点出为安全采用 AI 必须补上的能力缺口。这意味着它的分量在于把一线实践者的共识整理成可操作的框架，而不是给出量化结论。

报告第二章描述 AI 网络安全实践正在怎么演进，用了几层递进的提法：先有“shift left”，把安全考量前移到 AI 系统开发阶段；然后“shift left and expand right”，在左移之外扩展到运行与使用环节；接着“shift left, expand right and repeat”，强调这不是一次性动作而要反复进行；最后落到“taking an enterprise view”，从企业整体而非单个项目来看这件事。把这四步连起来看，作者们实际上是在说，AI 安全的抓手要同时向开发端和运行端延伸，并由企业层面的治理来兜住。这也是“跨职能治理”在实践层面最具体的落点。

第四章给出的则是面向高级风险责任人的分步方法：先理解组织自身的情境如何影响 AI 网络风险，再理解想要获得的收益，接着识别潜在的风险与脆弱性与对业务的潜在负面影响，找出可用的风险缓解选项，然后把剩余风险与预期收益放在一起权衡，并在 AI 生命周期中重复整个过程，对应报告 4.1 至 4.7 节。报告还单独用一章给高级管理层列出行动与引导性问题，目的是让 AI 举措与整体业务目标对齐，并留在组织风险容忍度之内。值得注意的是，这套流程虽以 AI 为对象，作者明确说可以改编后用于其他新兴技术的安全采用。

这些内容合起来，指向一种风险为本的 AI 采用方式：先看清情境与收益，再谈风险与控制，最后做显式的权衡，而不是笼统地说“重视安全”。另一处容易被忽略的是“重复”——AI 系统会持续变化，风险评估若只在上线前做一次，很快就会失效，这大概也是为什么报告把“平衡剩余风险与潜在收益”写成流程里的一步，而不是一句口号。对实践的直接含义是，AI 安全不是一个可以交给单一团队签字的环节，它需要业务、风险与技术在同一张桌子上做取舍。

对正在把 AI 从试点推向业务系统的团队，这份材料最直接的用处是拿到一套可以照着问的问题：情境是什么、收益在哪、风险有哪些、影响多大、有哪些缓解手段、剩下多少风险可以接受。做 AI 安全选题或内部培训的人，也可以借它的章节骨架组织内容，从实践演进到领导层行动，再到七步流程。需要说明它的边界：这是给高管的执行视角，承担的是搭框架、提问题的角色，具体控制措施仍需回到原文相应章节核对；文前的免责声明也写明，报告中的发现、解释与结论来自协作过程，不必然代表世界经济论坛或全体成员、伙伴与其他利益相关方的观点。

In collaboration with the Global Cyber Security Capacity Centre, University of Oxford Artificial Intelligence and Cybersecurity: Balancing Risks and Rewards WHITE PAPER JANUARY 2025 Transformation of Industries in the Age of AI AI Governance Alliance Images: Getty Images Disclaimer This document is published by the World Economic Forum as a contribution to a project, insight area or interaction. The findings, interpretations and conclusions expressed herein are a result of a collaborative process facilitated and endorsed by the World Economic Forum but whose results do not necessarily represent the views of the World Economic Forum, nor the entirety of its Members, Partners or other stakeholders. © 2024 World Economic Forum. All rights reserved. No part of this publication may be reproduced or transmitted in any form or by any means, including photocopying