science 论文大模型与智能体其他2025 会员资料

语言模型作为理性智能体

OriginalLanguage Models as Rational Agents

Decades of research in search and planning have focused on the development of rational agents that take actions in order to maximize their expected utilities.

发布时间
2025
login 登录后阅读

notes 内容介绍

人工智能的一个长期目标是造出能推理、能行动、以达成复杂目标的智能体。搜索与规划领域数十年积累出的理性智能体,已经在国际象棋、围棋和扑克上做到专家水平,代表是 Deep Blue、AlphaZero 与 Libratus;它们按设计是目标导向的,靠长时程规划、学习和不确定性下的推理取胜,但用武之地长期局限在狭窄领域。与此同时,语言模型被越来越多地当作在真实环境中采取行动的智能体,却常常表现得并不理性。这份论文要回答的正是:怎样让语言模型像理性智能体那样推理、规划与行动,以及怎样判断它做到了没有。这意味着,讨论语言模型智能体时,缺的不是能力展示,而是对「理性行动」的清晰界定和可复现的评测。

论文的切入方式不是直接拿大模型刷榜,而是先用一系列多智能体、效用最大化的博弈,界定语言模型「以理性方式沟通和采取行动」到底指什么。在这个定义之上,作者搭了一套面向语言模型智能体的决策任务评测套件,用任务中的实际决策来检验模型。随后论文讨论了一种在多种目标下构建更理性语言模型的方法,并把视野推到未来:提出一个新基准,用来评估未来的语言模型能否成为通用的理性智能体。换句话说,这份工作的链条是「定义—评测—改进方法—新基准」,覆盖从概念到测量再到方法论的完整环节。材料没有给出任务数量、参与模型清单或具体分数,方法细节也停留在摘要级概述。

最实在的一条结论来自那套决策任务评测:当前语言模型做出的决策比人类更差,而且完成任务所花的时间更长。这两个方向都值得注意——决策质量不如人,说明模型在效用最大化上还有明显差距;耗时更长,则说明这种差距不是靠多花推理时间就能自动抹平的。把它和 Deep Blue、AlphaZero、Libratus 对照会更清楚:那些系统在窄领域内是专家级理性,而语言模型虽然覆盖面更广,却在具体决策任务上输给人类。作者由此把问题定位为「弥合差距」,而不是宣称语言模型已经是理性智能体。这里的解读是,评测同时看质量与效率,比只看准确率更能暴露智能体在真实行动中的短板。

论文的另一项工作是把「理性」操作化:在多智能体、效用最大化的博弈里,语言模型怎样沟通、怎样行动才算理性,作者给出了定义。这听起来抽象,但意义在于,它让后续评测有了判据,而不是各说各话。在此基础上,论文提出了一套在多种目标下构建更理性语言模型的方法,说明「更理性」不是单一目标的调优,而是跨目标的能力建设。最后提出的新基准,指向未来模型作为通用、理性智能体的评估,作者也讨论了潜在方向和剩余挑战。这意味着,这份论文的贡献不只是报告某个模型好坏,而是提供一套可复用的概念与测量框架。

对做智能体系统的人来说,最直接的提醒是:把语言模型放进需要多步决策的环境时,不能默认它会理性行动,它可能既做得更差,又花得更久。评测设计上,决策质量和时间成本应当一起看,并且要有明确定义的目标与效用,否则「智能体表现不错」很容易变成含糊的印象。另一个影响是,通用性与理性之间存在张力:博弈系统在窄领域内理性但不再通用,语言模型通用却在决策上不够理性,而论文的方向正是尝试把两者接起来。当然,这些都是基于摘要层面结论的解读,具体到某类任务、某种模型能提升多少,材料没有交代,不能外推。

做 LLM agent、搜索与规划、决策评测的研究者和工程师,读这份 UC Berkeley EECS 的博士论文,能拿到的是一套问题框架:怎样定义语言模型的理性沟通与行动,怎样用决策任务去测,怎样朝更理性的方向构建,以及未来该用什么基准来评估通用理性智能体;论文委员会由 Dan Klein 主持。它更适合想厘清概念的人,而不是只想找一个现成排行榜的人。边界同样明显:材料只到摘要与基本信息,没有给出评测任务的具体构成、人类基线数据,也没有说明「更理性」的方法在实验中带来多大改变。因此,把它当作进入该方向的地图是合适的,具体结论仍需回到论文原文核对。

format_quote 原文摘录

自动提取自 PDF

Language Models as Rational Agents Nicholas Tomlin Electrical Engineering and Computer Sciences University of California, Berkeley Technical Report No. UCB/EECS-2025-145 http://www2.eecs.berkeley.edu/Pubs/TechRpts/2025/EECS-2025-145.html July 31, 2025 Copyright © 2025, by the author(s). All rights reserved. Permission to make digital or hard copies of all or part of this work for personal or classroom use is granted without fee provided that copies are not made or distributed for profit or commercial advantage and that copies bear this notice and the full citation on the first page. To copy otherwise, to republish, to post on servers or to redistribute to lists, requires prior specific permission.