大模型智能体：现状、协作、安全与趋势

这份综述要回答的是：当大模型成为智能体的“大脑”，未来的 LM agents 如何自主通信与协作，支撑协作的关键技术是什么，协作过程中又会暴露哪些安全与隐私问题。材料给出的背景判断很直接：随着 LMs 快速进步，由 LM 驱动的通用智能体已从设想变成现实，并可能在不远的将来成为生产任务中的基础工具，在没有人工干预的情况下自主通信和协作。换句话说，讨论重点已不只是单个智能体能不能完成任务，而是多个智能体连接起来后如何工作、如何被信任。现在值得看，是因为它把“能力”和“协作中的风险”放在同一个框架里讨论，而不是只列应用。

覆盖范围从基础到治理：先梳理 LM agents 的一般架构、关键组件、使能技术和现代应用，再从数据、计算、知识三个视角讨论协作范式，目标是指向 LM agents 之间的 connected intelligence。随后转向安全漏洞和隐私风险，尤其关注多智能体设置，分析背后机制并回顾当前与潜在对策，最后提出构建稳健、安全生态的未来研究方向。分析方式为综述：作者来自西安交通大学网络空间安全学院、广东工业大学自动化学院和南洋理工大学计算与数据科学学院，材料没有给出新的实验或基准结果，主要是对既有研究的归纳。产业背景方面，材料引用 MarketsandMarkets 的市场预测来说明 autonomous AI 与 autonomous agents 的规模预期。

关键发现之一是对 LM agent 的拆解。材料指出，无论软件形态还是具身形态，一个 LM agent 通常由 interaction、planning、action、memory 四个关键组件构成；LM 作为“大脑”提供人机交互、少样本/零样本规划、上下文理解、知识保持和通用任务求解能力。形态上分为 virtual LM agents 和 embodied LM agents：前者如 AutoGPT、AutoGen，可调用搜索引擎和外部 API 完成复杂任务；后者如 FigureAI 的 Figure 02 和 Tesla 的 Optimus，直接感知并与物理世界交互。材料还给出一个家居清洁机器人的例子：它分析房间布局、表面类型和障碍物，制定定制清洁策略，而不是机械执行通用指令。这意味着“智能体”在材料中不是单一软件概念，而是覆盖虚拟与具身两条路径。

第二个发现是协作被明确放到数据、计算、知识三个层面上讨论，材料称之为实现 LM agents 之间 connected intelligence 的实践协作范式。这与只强调多智能体对话的讨论不同：它要求把数据、算力和知识连接起来，才谈得上持续协作。安全部分则指出，LM agents 存在安全漏洞和隐私风险，多智能体环境尤其值得关注；材料既分析机制，也回顾当前和潜在的对策。产业数字方面，材料引用 MarketsandMarkets：2023 年全球 autonomous AI 和 autonomous agents 市场为 48 亿美元，预计以 43% 的 CAGR 增长，到 2028 年达到 285 亿美元。这个数字是市场机构的预测，不是综述作者的实测结果。

这些结论意味着，评估 LM agents 不能只看单点任务表现，而要把交互、规划、行动、记忆四个组件放在协作链条中看；只要其中一个环节缺少约束，多智能体协作就可能把局部问题放大。换句话说，数据、计算、知识层面的连接既是能力来源，也是安全隐私风险的入口，因此安全机制需要在协作范式设计时就纳入，而不是等系统上线后再补。对实践者而言，这份综述提供的是一张问题地图：哪些能力已经具备，哪些协作层次需要打通，哪些风险在多智能体设置下更突出。市场预测则说明产业侧对 autonomous agents 有增长预期，但预期本身不能替代对具体系统安全性的验证。

这份资料适合需要跟踪 LM agents 子领域全景的读者，也适合与课程讲义对照阅读，用来补齐“架构—协作—安全—趋势”之间的连接。读完可以拿走的是一套组织问题的框架：四组件、两类形态、三个协作视角，以及多智能体安全隐私的分析入口。边界也需要说清楚：它是综述，不是原始实验或基准评测；市场数字来自 MarketsandMarkets 的预测，安全对策是当前与潜在方案的回顾，并未在材料中给出统一验证。因而它更适合用来建立全景和提出后续问题，不宜被当作某一具体系统已经安全的证明。

arXiv:2409.14457v3 [cs.AI] 2 Jun 2025 Large Model Based Agents: State-of-the-Art, Cooperation Paradigms, Security and Privacy, and Future Trends Yuntao Wang, Yanghe Pan, Zhou Su, Yi Deng, Quan Zhao, Linkang Du, Tom H. Luan, Jiawen Kang, and Dusit Niyato Abstract—With the rapid advancement of large models (LMs), the development of general-purpose intelligent agents powered by LMs has become a reality. It is foreseeable that in the near future, LM- driven general AI agents will serve as essential tools in production tasks, capable of autonomous communication and collaboration without human intervention. This paper investigates scenarios in- volving the autonomous collaboration of future LM agents. We review the current state of LM agents, the key technologies enabling LM agent collaboration, and the security and privacy challenges they face during cooperative operations.