science 论文大模型与智能体教育与人才2023-09

大模型智能体的崛起与潜力

Rise and Potential of LLM-Based Agents。

发布时间
2023-09
link 原始页面

notes 内容介绍

长期以来,让机器达到甚至超过人类水平是人工智能领域的一贯目标,而 AI agent 被材料视为实现这一追求的有希望的载体。它给出的定义很朴素:智能体是感知环境、做出决策并采取行动的人工实体。问题在于,以往的努力多集中在算法或训练策略上,用于增强特定能力或提升在特定任务上的表现,社区真正缺少的是一个通用而强大的模型,作为设计能适应多样场景的智能体的起点。这份综述的出发点就是:大语言模型展现出的通用能力,使它被看作通向 AGI 的潜在火花,也让「以 LLM 为地基搭建通用智能体」第一次显得可行。换句话说,它想回答的是一串连在一起的问题——为什么是 LLM、智能体应当由哪些部件构成、这些智能体放到单独作业、多方协作和人类社会里又会呈现什么。

这是一份 survey,而不是报告新实验结果的论文,因此它的「方法」是文献梳理加框架归纳,而非数据集与基准测试。它的叙述路径从智能体的哲学起源一路追溯至其在 AI 中的发展,先解释 LLM 为何适合作智能体的大脑,再提出一个可裁剪的通用框架,随后依次展开应用、智能体社会与若干讨论议题。材料末尾给出了一个相关论文仓库(github.com/WooooDyy/LLM-Agent-Paper-List),可以看出作者有意把它做成可持续追踪的索引而非一次性总结。作者署名来自 Fudan NLP Group,多位作者标注为同等贡献。

框架部分是整份资料最可直接借用的内容:基于 LLM 的智能体被拆成 brain、perception、action 三个主要组件,并可针对不同应用做裁剪。brain 一层讨论自然语言交互、知识、记忆、推理与规划、以及迁移性与泛化;perception 一层按文本、视觉、听觉和其他输入四类展开;action 一层则分为文本输出、工具使用与具身行动三种形态。这种切法的含义是清楚的:一个智能体行不行,往往不是「模型够不够大」,而是记忆、规划、输入通道和行动接口这几处是否配齐。解读来说,这三层更像一张检查表,而不是一个必须照搬的架构。

在应用层面,材料把基于 LLM 的智能体分为三种场景:单智能体、多智能体、以及人与智能体的协作。单智能体部分按任务导向、创新导向和生命周期导向三类部署讨论;多智能体部分区分了以互补为目的的合作互动和以促进为目的的对抗互动;人机部分则给出「指导者—执行者」与「平等伙伴」两种范式。再往上,它把视角推到智能体社会:智能体的行为与人格、承载社会的三类环境(文本环境、虚拟沙盒环境、物理环境)、社会模拟的关键属性与机制、从中获得的关于人类社会的启示,以及随之而来的伦理与社会风险。讨论章节另外单独处理了 LLM 研究与智能体研究之间的互惠、智能体的评估、对抗鲁棒性与可信度等风险、智能体数量的扩展,以及一串尚未解决的问题。

这些安排透露出一个判断:智能体的瓶颈不只在于「脑」的能力,还在于感知与行动的接口,以及多主体之间的组织方式。把工具使用和具身行动与文本输出并列,意味着智能体的能力边界很大程度上由它能触碰什么决定;把评估、对抗鲁棒性、可信度和规模化单列成节,则说明作者认为这些是尚未解决、需要提前正视的问题。对实践者而言,这意味着做系统设计时可以先自问缺的是哪一层——是记忆与规划,是输入通道,还是行动与工具接口;做多智能体方案时,也可以先想清楚要的是互补还是对抗。需要说明的是,以上是由材料结构推出的解读,材料本身并未给出性能对比或量化结论。

这份资料适合想快速建立子领域全景的读者:刚进入这一方向的研究者、需要为产品选型找框架的技术负责人,以及希望把课程讲义与前沿综述对照阅读的学生。读完能拿走的,是一个可裁剪的三组件框架、一份单/多/人机三类应用的分类坐标、一套关于智能体社会的观察角度,以及一个可继续追踪的论文列表。边界同样明显:它是综述,不提供新的实验数据或基准排名,覆盖广泛也意味着单个方向的深度有限;社会模拟与风险评估部分多为议题梳理而非定论。再加上这一方向推进很快,阅读时最好把其中的开放问题清单当作起点,与更新近的文献对照使用。

format_quote 原文摘录

自动提取自 PDF

The Rise and Potential of Large Language Model Based Agents: A Survey Zhiheng Xi∗†, Wenxiang Chen∗, Xin Guo∗, Wei He∗, Yiwen Ding∗, Boyang Hong∗, Ming Zhang∗, Junzhe Wang∗, Senjie Jin∗, Enyu Zhou∗, Rui Zheng, Xiaoran Fan, Xiao Wang, Limao Xiong, Yuhao Zhou, Weiran Wang, Changhao Jiang, Yicheng Zou, Xiangyang Liu, Zhangyue Yin, Shihan Dou, Rongxiang Weng, Wensen Cheng, Qi Zhang†, Wenjuan Qin, Yongyan Zheng, Xipeng Qiu, Xuanjing Huang and Tao Gui† Fudan NLP Group Abstract For a long time, humanity has pursued artificial intelligence (AI) equivalent to or surpassing the human level, with AI agents considered a promising vehicle for this pursuit. AI agents are artificial entities that sense their environment, make decisions, and take actions. Many efforts have been made to develop intelligent agents, but they mainly focus on advancement in algorithms or training strategies