大语言模型在网络安全中的前沿应用

这份资料要回答的是一个双重问题：大语言模型在网络安全领域到底能做什么防守，又会被怎样用于攻击，现有研究把这些用法讲到了什么程度、还缺什么。之所以现在值得看，是因为 LLM 已经进入教育、娱乐、商业和医疗等大量场景，而网络安全一向对数据驱动方案有抵触、拥抱机器学习偏慢，偏偏又是最需要判断新工具利弊的领域。材料里提到，攻击者已经在用 WormGPT 自动生成个性化钓鱼邮件，用 FraudGPT 制作诱导点击的内容，这说明问题不是假设。换句话说，讨论 LLM 与安全，已经不能只停留在「能不能用」，而要看「谁在用、怎么用」。

覆盖范围上，这份综述同时处理防御与对抗两侧，而不是只谈防守。它检视既有文献，对 LLM 在网络安全中的防御应用和对抗应用做系统刻画与分类，并在此基础上指出关键研究空白。方法上是文献综述，不是跑实验或做基准测评；组织材料时借了两个现成框架：攻击维度对齐 MITRE ATT&CK，防御策略对齐 NIST 网络安全框架。这样做的结果是，讨论不悬空，能落到安全从业者熟悉的分类体系里。关键词里除了 LLM、AI、cybersecurity，还包括 advanced threats、cyberattacks、cyberdefense 以及 privacy and security。

要理解后面的攻防讨论，得先看材料给出的 LLM 技术脉络。LLM 被定义为从文本数据中学习、处理各类语言任务的神经网络；从 1960 年代 ELIZA 这样的模式识别聊天机器人开始，NLP 经历了长短期记忆网络、提供多种算法的 Stanford CoreNLP 套件，再到 Transformer 架构。T5 把语言建模用于预训练 LLM，用单一 mask 替换 span；GPT-3 通过把参数扩大到 175B 提升性能；PaLM-2 用高质量数据集训练，目标是压低训练与推理成本；Llama 是一组 decoder-only 模型，着眼于减少反向步骤中的激活量。这些节点说明，能力提升与成本下降是并行的，也解释了为什么安全领域会在这个时间点集中讨论 LLM。

具体到网络安全，防御侧的价值主要体现在处理文本上。材料说，LLM 能分析安全日志等大量文本数据，识别新兴漏洞；异常检测是识别潜在威胁的关键应用；它还能提供自动化漏洞修复，帮助组织改善安全态势。另一条线是，LLM 擅长拆解复杂的自然语言模式，安全专家因此可以探索更多与文本数据相关的攻击向量。对抗侧则相反：攻击者可以用 LLM 在目标公司执行恶意软件、做防御规避、获取凭据，也能生成复杂且个性化的钓鱼信息，为接触敏感信息铺路。WormGPT 和 FraudGPT 被点名，前者面向网络犯罪者自动生成个性化钓鱼邮件，后者帮攻击者制作内容说服用户点击某个生成的链接。同一套语言能力，

Large Language Models in Cybersecurity: State-of-the-Art Farzad Nourmohammadzadeh Motlagh Hasso-Plattner-Institute for Digital Engineering, University of Potsdam Germany [email protected] Mehrdad Hajizadeh Technische Universitat Chemnitz Germany [email protected] chemnitz.de Mehryar Majd Hasso-Plattner-Institute for Digital Engineering, University of Potsdam Germany [email protected] Pejman Najafi Hasso-Plattner-Institute for Digital Engineering, University of Potsdam Germany [email protected] Feng Cheng Hasso-Plattner-Institute for Digital Engineering, University of Potsdam Germany [email protected] Christoph Meinel Hasso-Plattner-Institute for Digital Engineering, University of Potsdam Germany [email protected] ABSTRACT The rise of Large Language Models (LLMs) has revolutionized our comprehension of intelligence bringing us closer to Artificial Intel- ligence.