science 论文大模型与智能体教育与人才2024-10

下一代基于LLM的推荐系统综述

Towards Next-Generation LLM-based Recommender Systems。

发布时间
2024-10
link 原始页面

notes 内容介绍

这份综述要处理的问题很明确:大语言模型进入推荐系统之后,研究版图已经散成很多条支线,需要一次系统梳理,把「LLM 到底怎样服务于推荐任务」讲清楚。作者在引言里给出的判断是,LLM 凭借语言理解、泛化能力和推理能力,不只是改进了自然语言处理,还可能给其他领域带来范式转变,推荐系统正是其中之一。与此同时,学术研究和工业落地之间那道长期存在的鸿沟,在 LLM 时代并没有被很好地讨论。这两点合在一起,构成了这份资料的写作动机:既做全景梳理,也尝试把研究与实际部署接上。

覆盖范围上,作者刻意与已有综述区分开。材料明确写到,这份综述并不按照 LLM 的技术框架来给推荐系统分类,而是从推荐系统社区自身的视角出发,考察 LLM 如何更好地服务推荐任务,以此加强大模型与推荐研究的融合。为此它提出了一个源自「推荐的本质」的新分类法,并采用三层结构来反映推荐系统从研究走向实际实现的演进过程:表示与理解、规划与利用、工业部署。与之对照,材料中的对比表列举了 Wu 等、Lin 等、Chen、Zhao 等几项已有工作,各自的关注点分别落在建模范式、整条流水线中的适配位置、可解释推荐的解释生成,以及预训练/微调/提示等技术手段上。

从这些对比可以看出一个取向:多数已有综述站在「模型能做什么」的角度组织内容,这份则试图站在「推荐任务需要什么」的角度倒推。材料同时给出了关键词,包括 Large Language Models、Recommender Systems、Non-Generative Recommendation 和 Generative Recommendation,并标注了 CCS 概念中的 Surveys and overviews。换句话说,它既处理非生成式推荐,也处理生成式推荐,并把场景维度单独列出。值得注意的是,表格中「学术」与「工业」两栏的勾选情况被用来体现各综述的覆盖差异,这是作者论证自身定位的主要依据。

作者团队构成也支持这种偏向落地的取向。署名单位包括吉林大学人工智能学院与计算机科学与技术学院、Meta AI、悉尼科技大学澳大利亚人工智能研究所,以及香港理工大学数据科学与人工智能系,其中既有高校研究者,也有工业界研究人员。这一组合与摘要中「讨论工业实现」的承诺是吻合的。材料还提到,论文维护了一个 GitHub 仓库用于存放更新版本,作者也标注了共同第一作者与通讯作者。这些都是组织形式层面的信息,本身不构成结论,但可以说明这是一份仍在迭代的活文档,而非一次性定稿。

按作者的说法,这份综述的贡献集中在三点:提出三层结构的新分类法、把工业部署作为一个独立层级纳入讨论、以及在此基础上讨论该新兴领域的关键挑战与机会。材料没有给出各层级的细分条目数量,也没有给出文献统计数字,因此无法进一步量化它的覆盖面。可以确定的是,它把「从研究到实践」视为一条连续的发展路径,而不是两个彼此割裂的世界。这意味着,读者如果关心的是某个具体模型结构的技术细节,可能会觉得它偏粗;但如果关心的是一个方法处在从论文到上线之间的哪一段,这个三层框架提供了可用的坐标。

对做推荐系统的人来说,这类框架的实际价值在于对齐语言。研究和工程团队讨论「LLM 推荐」时,往往各说各的:一方谈嵌入和微调,一方谈延迟和成本。把表示与理解、规划与利用、工业部署分开之后,「某工作解决了什么」和「某工作还差什么」就有了共同的表述方式。材料强调学术与工业之间的鸿沟在 LLM 时代仍未被充分讨论,这本身就是一个值得记住的判断。反过来说,这份资料的价值也更偏向于提供地图和词汇表,而不是给出可直接复现的方案。

读完能拿走的东西大致是:一个以推荐任务为本位的分类视角、一个连接研究与部署的三层结构,以及一份对现有综述差异的对照说明。它也明确指出该领域仍处在快速变化中,挑战与机会并存,仓库会持续更新版本。边界同样清楚:材料中没有出现任何性能对比数据、数据集名称或实验结论,所有论述停留在框架与定位层面。所以把它当作进入这个子领域的路线图是合适的,若需要具体方法的实验依据,还得回到它引用的原始论文去读。

format_quote 原文摘录

自动提取自 PDF

Towards Next-Generation LLM-based Recommender Systems: A Survey and Beyond QI WANG∗†, JINDONG LI∗, and SHIQI WANG, School of Artificial Intelligence, Jilin University, China QIANLI XING, School of Computer Science and Technology, Jilin University, China RUNLIANG NIU and HE KONG, School of Artificial Intelligence, Jilin University, China RUI LI, MRS, Meta AI, USA GUODONG LONG, Australian Artificial Intelligence Institute, University of Technology Sydney, Australia YI CHANG†, School of Artificial Intelligence, Jilin University, China CHENGQI ZHANG, Department of Data Science and Artificial Intelligence, The Hong Kong Polytechnic University, China Large language models (LLMs) have not only revolutionized the field of natural language processing (NLP) but also have the potential to bring a paradigm shift in many other fields due to their remarkable abilities of