大语言模型在网络安全中的应用、漏洞与防御技术综述
OriginalLarge Language Models in Cybersecurity: A Survey of Applications, Vulnerabilities, and Defense Techniques
With their advanced language understanding and contextual reasoning, LLMs surpass traditional methods in tackling challenges across domains such as the Internet of Things (IoT), blockchain, and hardware security.
- 发布时间
- 2025-09
内容介绍
大模型能不能用来做网络安全,以及大模型自己会不会成为网络安全的软肋,这两个问题被这份综述放在一起回答。它的出发点是一句判断:LLM 正在改变网络安全,使威胁检测、漏洞评估这类环节可以走向智能化、自适应和自动化。换句话说,在讨论「用 LLM 防守」的时候,已经没法把「LLM 本身被攻击」撇到一边。被引 96 次这个数字,说明这种把攻防两侧合起来看的视角,正好踩在社区当下的关注点上。
覆盖面按作者自己的划分是两块:LLM 在关键网络安全领域中的整合应用,以及 LLM 自身的脆弱性与缓解策略。应用侧举到的方向包括物联网(IoT)、区块链和硬件安全,这几个领域的共同点,是传统方法在语义理解和上下文推理上比较吃力。方法上它做的是综合近期进展,在此基础上识别关键局限,再给出实践洞察与战略建议。作者是 Niveen O. Jaffal、Mohammad AlKhanafseh 与 Aziz Mohaisen,分别来自 Birzeit University 与 University of Central Florida。
第一条值得记住的判断在能力层面:凭借先进的语言理解与上下文推理,LLM 在处理 IoT、区块链、硬件安全等领域的挑战时超过了传统方法。这里的「超过」是对既有工作的归纳,落点明确压在语言理解和上下文推理这两项能力上,而不是笼统地说模型更聪明。这意味着评估 LLM 的安全价值时,该问的是它在哪个需要读懂语义、需要串联上下文的环节补上了传统工具的短板。反过来说,如果某项任务并不依赖这两项能力,这份材料并没有给出 LLM 占优的理由。
第二条是结构层面的:LLM 在网络安全里既是工具,也是攻击面。综述把「LLM 自身脆弱性及缓解策略」与「应用整合」并列为两大核心,等于要求读者在同一个框架里同时算收益和风险。它随后指出这类工作现存的若干关键局限;材料没有展开具体条目,但位置很清楚——局限是在综合近期进展之后被识别出来的,不是附带一提。在此之上给出的战略建议,指向的是用 LLM 构建安全、可扩展、面向未来的网络防御体系。
对实践来说,最直接的推论是:把 LLM 接进安全流程时,威胁模型要同步扩容。换句话说,LLM 带来的检测与评估能力提升,和它自己可能被诱导、被绕过的风险,是同一份方案里的两件事,不适合一份文档讲能力、另一份文档讲风险。作者把「实践洞察」和「战略建议」并列,也暗示这不只是工具选型,还牵涉体系层面的规划。至于安全、可扩展、面向未来这三个词,本质上是给防御体系建设提的目标,而不是已经完成的结论。
关心 LLM 落地安全场景的工程师、做安全架构的读者,以及需要为「用不用大模型」拍板的人,都能从这两个板块的划分里拿到一份可用的检查清单:一边盘应用点,一边盘脆弱面和缓解手段。读完大致能带走三样东西——LLM 在 IoT、区块链、硬件安全等方向的应用图景,它自身脆弱性的问题清单,以及一组面向体系建设的建议。边界也要说清楚:它的定位是综述,价值在综合与归类,而不在提出新方法或给出新的实验数字。96 次被引说明关注度高,但不等于其中每条判断都已被独立验证;真要落地,还得回到它引用的具体工作上去核对细节。