教大语言模型规模化使用工具

这份资料在回答一个很具体的问题：大语言模型已经在数学推理、程序合成等复杂任务上表现出进展，但有效使用工具、服务和应用程序的能力仍然有限，怎样把这种能力补上。作者给出的路线不是单点技巧，而是把微调、检索增强和运行时约束组合起来，让模型能够调用 API、找到合适的函数、注入领域知识，并在自主执行时控制风险。对做 LLM agent 的人来说，这个问题的价值在于它直接对应“模型能不能真正接入外部系统”的落地环节。换句话说，资料关注的不只是模型会不会答题，而是它能不能在真实服务环境里可靠地做事。

这份博士论文来自加州大学伯克利分校电气工程与计算机科学系，围绕四个组件展开：Gorilla LLM、OpenFunctions、RAFT 和 Gorilla Execution Engine（GoEx）。从提供的材料看，它覆盖了从 API 调用微调、函数检索、领域知识嵌入到自主执行安全的完整链条，方法包括 finetuning recipe、基于抽象语法树（AST）的度量、retrieval-augmented generation（RAG）、Retrieval Augmented Fine Tuning 以及运行时系统设计。需要说明的是，手头材料以摘要和题录为主，没有展开实验数据集、基线对比和具体评测分数，因此能确认的是问题框架与系统设计，而不是各组件带来的量化收益。

第一个关键点是 Gorilla LLM。作者把它描述为一种 finetuning recipe，通过调用 API 来增强 LLM 使用工具的能力；同时引入基于 AST 的度量，用来评估 LLM 中的 API hallucination。这意味着，资料把“模型会不会调对 API”从笼统的可用性判断，推进到可度量的调用结构匹配问题：不只看最终回答，而要看生成的调用是否对应真实存在的 API。与之配套的 OpenFunctions 是一个预训练模型，不需要重新训练，而是依赖 RAG 把相关 API 呈现出来，让 LLM 访问可更新的函数与服务库，从而避免持续重训带来的开销。换句话说，一个偏向训练侧增强调用能力，另一个偏向检索侧保持函数库新鲜度。

第二个关键点是 RAFT 和 GoEx。RAFT 即 Retrieval Augmented Fine Tuning，提供了一种把新的领域特定知识嵌入模型的配方；它训练 LLM 从一组检索文档中辨别并只利用相关信息，从而提升“open-book”设置下跨多个域内数据集的准确性和可靠性。GoEx 则是 Gorilla Execution Engine，一个运行时系统，按 least privilege 原则执行 LLM 生成的命令，通过动态解释用户意图来约束执行，并加入“undo”和“damage confinement”抽象来缓解风险。它还支持 post-facto validation，让用户在动作执行后验证正确性并回退不想要的效果；材料明确指出，这让 LLM 能够自主运行，同时显著降低自主行动带来的潜在风险。

把这些放在一起看，资料的意义不在于提出某一个孤立模型，而在于把规模化工具使用拆成四个相互补位的工程问题：调用能力、API 发现与更新、领域知识注入、执行安全。解读来说，单靠微调让模型记住 API 并不够，函数库会变、领域知识会变、模型生成的命令也可能出错，所以需要检索机制和运行时治理一起上。尤其 GoEx 的 least privilege、undo 和 damage confinement，把讨论从“模型会调工具”推进到“系统敢不敢让模型自主执行”。对实践者而言，这提示在构建 agent 时要把权限边界、可回退性和执行后验证作为系统设计的一部分，而不是只盯着模型侧的调用准确率。

这份资料对做 LLM agent、API 调用、工具学习、检索增强生成和运行时安全的人更有用。读完可以拿到一个把训练、检索、执行串起来的问题框架，以及 Gorilla、OpenFunctions、RAFT、GoEx 四个组件的设计定位，理解它们分别解决工具使用链条上的哪一段。边界也很明显：材料是论文摘要与题录，缺少实验细节、基线对比、失败案例和部署数据，不能据此判断各组件相对收益或生产可用性。若要把这些设计用于实际系统，还需要回到原文核实评测设置和限制条件。

Teaching Large Language Models to Use Tools at Scale Shishir Patil Electrical Engineering and Computer Sciences University of California, Berkeley Technical Report No. UCB/EECS-2024-85 http://www2.eecs.berkeley.edu/Pubs/TechRpts/2024/EECS-2024-85.html May 10, 2024 Copyright © 2024, by the author(s). All rights reserved. Permission to make digital or hard copies of all or part of this work for personal or classroom use is granted without fee provided that copies are not made or distributed for profit or commercial advantage and that copies bear this notice and the full citation on the first page. To copy otherwise, to republish, to post on servers or to redistribute to lists, requires prior specific permission.