从推理服务到训练的大规模LLM智能体高效系统

大语言模型在多样而复杂的任务上已经表现出很强的能力，但前沿模型与成千上万个有领域特定需求的下游 AI 应用之间，仍然存在一层根本性的解耦。论文把问题说得很直白：模型在训练和服务时都不知道下游应用在拿它做什么，这种分割同时限制了性能与效率。换句话说，应用侧的约束和统计信息被丢掉了，模型侧只能按通用目标去优化。这份 2025 年加州大学伯克利分校的博士论文（作者 Michael Luo，导师 Ion Stoica）要回答的就是：能否设计系统与算法，把模型层和应用层重新耦合起来。它值得现在看，是因为它同时从推理服务和训练两条路径给出答案，而不是只在其中一端做优化。

论文的覆盖面分两块。第一块是 application-aware infrastructure，给出了三个系统，分别对应三个不同的瓶颈位置：Agentix 是面向 AI agent 的服务引擎，做应用感知的调度；Stylus 是可扩展的模型路由器，负责从大量 adapter 中检索并组合；Starburst 是混合云 ML 基础设施上的成本感知调度器。第二块转向模型本身，论证通过强化学习把模型与应用耦合，可以同时拿到更高性能和更低成本，具体落在 Agentica 项目下的几个模型上。方法上，系统侧靠调度策略、负载均衡与成本建模，模型侧靠应用特定的 RL 训练；论文对 Agentix 还给出了 workload、实验设置、单引擎与多引擎性能以及消融实验的完整评测。这意味着它的主张不是概念性的，而是逐项落到可测量的指标上。

三个基础设施系统的数字值得逐条看清楚。Agentix 的做法是跟踪 LLM 调用之间的依赖关系，并利用应用级统计信息来调度；在端到端响应时间上，它比 vLLM 这类 state-of-the-art 系统好 4–15×，响应时间下降同时意味着成本下降。Stylus 面对的是超过 100K 个 LoRA 组成的池子，从中检索并组合出最合适的 adapter，效果优于基础的 Stable Diffusion。Starburst 则根据作业特征动态分配等待时间，在保持作业完成时间最小的前提下，把云成本最多降低 91%。这三个数字分别落在响应时间、生成质量和金钱成本三个不同目标上，说明应用感知并不只对某一类指标有效。

模型侧的结果同样具体。Agentica 项目的核心主张是：用应用特定 RL 训练出来的小模型，可以以一小部分成本匹配前沿模型。DeepScaleR 是一个 1.5B 模型，在数学推理上超过 o1-preview，训练只用了 3,800 GPU 小时，相比此前方法带来 18× 的成本降低。DeepCoder 以 14B 的规模在竞赛编程上达到 o3-mini 的水平。DeepSWE 训练出一个 32B 的自主编码 agent，超过此前所有开源 agent 12 个百分点以上。这组结果覆盖了从 1.5B 到 32B 的规模，按论文的叙述，应用特定 RL 的收益并不局限于某一档模型大小。

把这些结果放在一起看，论文的贡献不只是几个更快的系统或几个更强的模型，而是提出了一条统一的设计线索：应用层的信息——调用依赖、adapter 偏好、作业特征、任务反馈——本身就是可以拿来优化系统与模型的资源。这意味着做 serving 的人不必只盯着 kernel 和 batch，做后训练的人也不必只盯着通用能力榜单，两边都能从下游应用里取信号。论文把这层意义归结为让应用构建者和组织以可负担的方式获得前沿级能力。这个判断在具体场景中是否成立还要看条件，但论文至少在延迟、质量、成本三个维度上给出了量化支撑。

读者对象上，做 LLM 服务系统、agent 运行时、模型路由与云成本调度的人，能从三个系统里拿到具体的设计取舍；做 RL 后训练和领域模型的人，能从 Agentica 的几个案例里看到应用特定训练的成本量级。读完比较实在的收获，是把应用感知从一个模糊的方向，拆成调度、路由、资源分配和训练目标这几个可以分别动手的工程问题。需要说明边界：材料给到的是摘要级的结论和数字，各系统的实现细节、评测负载以及与基线对比的完整条件都在论文正文里，数字也是各自实验设定下的结果，不宜直接外推到别的负载或硬件。若要判断某套方法能否迁移到自己的场景，还得回到原文核对实验条件。

From Serving to Training: Efficient Systems for LLM Agents at Scale By Michael Luo A dissertation submitted in partial satisfaction of the requirements for the degree of Doctor of Philosophy in Computer Science in the Graduate Division of the University of California, Berkeley Committee in charge: Professor Ion Stoica, Chair Professor Scott Shenker Professor Joseph E. Gonzalez Professor Li Erran Li Fall 2025 From Serving to Training: Efficient Systems for LLM Agents at Scale Copyright 2025 by Michael Luo