assessment 研究报告大模型与智能体其他2025-11

LLM Pro Finance Suite:面向金融应用的多语言大模型

OriginalThe LLM Pro Finance Suite: Multilingual Large Language Models for Financial Applications

To address this gap, we introduce the LLM Pro Finance Suite, a collection of five instruction-tuned LLMs (ranging from 8B to 70B parameters) specifically designed for financial applications.

发布时间
2025-11
link 原始页面

notes 内容介绍

金融行业对先进自然语言处理能力的需求在持续上升,而通用大模型在领域特定的金融任务上暴露出明显短板。材料点名的典型场景包括财务报告分析、风险评估和监管合规,这些文本有独特的语言习惯与领域细微差别,通用模型往往应付不来。LLM Pro Finance Suite 要回答的问题就是:能不能在不牺牲通用能力的前提下,得到一个真正懂金融的指令微调模型。它现在值得看,是因为路径选择不同——不是从零预训练一个领域模型,而是改造那些已经学会指令遵循、推理和毒性控制的通用 instruct 模型,把力气集中花在“适配金融领域”这一件事上。

覆盖范围上,这套 Suite 由五个指令微调模型组成,参数规模从 8B 到 70B,面向英语、法语、德语三种语言。训练语料是经过筛选的高质量金融语料,其中金融相关数据占比超过 50%,内容既有金融文档也有 chat 风格的交互数据,覆盖公司金融、投资分析、经济政策等子领域,文本类型从监管披露、金融新闻一直延伸到对话数据。评测使用的是一套综合金融 benchmark suite,把公开评测集与内部评测集整合在一起,以便在不同模型和任务之间做一致、可比的评估。方法上作者明确与以往工作划清界限:此前的研究多集中于微调预训练基础模型,他们则专注于改进通用的 instruct 模型。

五个模型各自的定位和底座在材料中交代得很清楚。Llama Open Finance 8B 是小型模型,不支持推理,基于 Llama 3.1 8B Instruct;Qwen Open Finance R 8B 同样是小型模型,但支持推理,基于 Qwen 3 8B;Gemma Pro Finance 12B 基于 Gemma 3 12B it,材料特别指出它在翻译相关任务上表现尤佳;Qwen Pro Finance R 32B 是中型模型,支持推理,基于 Qwen 3 32B;Llama Pro Finance 70B 基于 Llama 3.1 70B Instruct,不支持推理,但在多数任务上领先。作者已把其中两个 8B 参数模型公开释放,托管在 Hugging Face 的 DragonLLM 集合下,用以推动金融 NLP 的后续研究。

在结果层面,材料给出的结论是:这套模型在金融导向任务和金融翻译上,相对当前最优基线取得了一致性的提升。更重要的是,它们保留了基座模型较强的通用领域能力,在非专业任务上依然表现可靠。作者把这种“金融专长增强、通用能力不妥协”的双重能力,作为它可以作为金融工作流中现有 LLM 直接替换品的理由——换句话说,换模型的收益是领域内更准,代价理论上不该是通用场景退化。

这组结论的实践含义有两层。一层是选型:如果一个团队已经在用 Qwen 或 Llama 系模型跑金融场景,这套 Suite 提供了同源底座的领域版本,替换路径短;是否需要推理支持、是否以翻译为主,都能在五个模型里找到对应选项。另一层是生态:材料在背景部分指出,金融 LLM 领域长期存在开放获取有限、缺少标准化 benchmark、以英语为中心、对指令微调与对话模型评估不足等问题,并且基础模型迭代很快,早期专用系统面临过时风险。解读来看,这份工作同时给出了数据管线、benchmark suite 和一系列模型,正是在回应上述碎片化局面;公开两个 8B 模型,则降低了后续研究复现和继续微调的门槛。

这份资料适合做金融 NLP 落地、领域模型选型和微调实践的人读,读完能拿走三样东西:一张覆盖 8B 到 70B、区分推理与非推理、标明翻译强项的模型谱系图;一套多语言金融语料的构成思路,即金融相关数据占比过半、文档与对话混合、覆盖多个子领域;以及“改造 instruct 模型而非预训练基础模型”这条方法路线的完整动机陈述。边界也需要说清楚:现有材料只包含摘要与引言部分,没有给出具体评测分数、数据集规模、训练细节和基线清单,所以“持续优于当前最优基线”的幅度无法核验;五个模型中只有两个 8B 版本开源,其余模型的获取方式材料未作说明;作者所属机构信息在材料中同样缺失。

format_quote 原文摘录

自动提取自 PDF

The LLM Pro Finance Suite: Multilingual Large Language Models for Financial Applications Gaëtan Caillaut, Raheel Qader, Jingshu Liu, Mariam Nakhlé Arezki Sadoune, Massinissa Ahmim, Jean-Gabriel Barthelemy Dragon LLM November 13, 2025 Abstract The financial industry’s growing demand for advanced natural lan- guage processing (NLP) capabilities has highlighted the limitations of generalist large language models (LLMs) in handling domain-specific fi- nancial tasks. To address this gap, we introduce the LLM Pro Finance Suite, a collection of five instruction-tuned LLMs (ranging from 8B to 70B parameters) specifically designed for financial applications. Our approach focuses on enhancing generalist instruction-tuned models, leveraging their existing strengths in instruction following, reasoning, and toxicity control, while fine-tuning them on a curated, high-quality financial corpus com-