大模型用于知识图谱嵌入综述

这份资料要回答的是一个正在成形的交叉问题：当大语言模型被引入知识图谱嵌入（KGE）时，研究者究竟在以哪些方式调用它，这些调用方式又如何对应到不同的 KGE 场景。背景是 LLM 在世界范围的知识驱动应用中表现出更强的能力，因而被越来越多地用于 KGE 相关任务以改善处理结果；与此同时，既有综述大多只覆盖其中一个侧面，有的只谈 KGE，有的只谈 LLM 的某类应用。作者因此把「从调用 LLM 的不同方式切入」作为组织线索，试图给出一个覆盖面更完整的图景。该文的摘要页与 PDF 在 arXiv 上均可免费获取，检索编号为 2501.07766。

覆盖面按论文自述的结构展开：先交代基本概念，再介绍 KGE 相关任务，然后逐一讨论 LLM 在不同 KGE 场景中的应用，之后给出未来应用与研究方向的建议，并整理常用数据集与代码资源。分析方式是文献综述而非新实验，作者把各个 KGE 场景做了归类，以便横向比较不同做法。为了让定位更清楚，文中还专门与几篇先行综述划界：[117] 从增强方法角度区分 LLMs 与 KGE，[118] 按基于 LLM 的 KG 增强与预训练语言模型增强的不同阶段分类；Liu 等人的综述聚焦 KGE 在工业控制系统安全态势感知与决策中的现状与挑战，Zhu 等人总结基于表示学习的实体对齐方法与框架，Huang 等人讨论 LLM 在工业应用中的安全与可信，Kumar 则梳理 LLM 在语言建模、词嵌入与深度学习中的应用。作者的判断是，这些工作各自只描述了一个方面，尚缺少按应用场景对 KGE 表示学习中的 LLMs 做分类的综述。

关键内容之一是传统 KGE 与 LLM 介入之后的差别。传统表示学习把实体和关系映射进低维向量空间，使知识图谱中的三元组在该空间里满足某个特定评分函数；这套做法在表示学习、生物信息网络、交通流预测等领域已被证明有效，但其中的深度学习模型常因训练规模而受限。LLM 则在大量文本数据上训练数亿乃至更多参数，语言理解与语义建模能力更强；摘要提到，这些模型可建立在比传统模型大数倍的数据集之上，配合微调与调用提示词等手段，在 KGE 任务上能取得比传统预测模型更显著的表现（原文引 [7][8][10][9][11]）。换句话说，作者把 LLM 视为对既有 KGE 流程的增强项，而不是一次简单的替换。

另一条线索是场景分类。按摘要的说法，LLM 已根据任务特点被不同程度地用于不同类型的 KGE 场景，文中点名的例子包括 multi-modal KGE 与 open KGE。作者为每个场景做了归类总结，目的是让不同做法之间可比较，而不只是罗列论文。除方法本身，文中还讨论了这些方法主要用于哪些应用，并给出若干前瞻性方向。数据集与代码资源单列一节，按作者的安排，是为了给后来的工作一个可对照的起点。

这些内容的实践含义，我的解读是：在做 KGE 相关系统时，「要不要用 LLM」不如「在哪个环节、以多大程度调用 LLM」来得关键——场景类型和调用强度决定了方法选择的空间。传统评分函数式的嵌入仍有其位置，LLM 更多是以语义理解能力补上规模受限时的短板；微调与提示词是两条可直接上手的调节杠杆。把数据集与代码资源一并整理，也意味着读者可以按场景去找对应基线，而不必从零检索。同样地，评估一项新工作时，先看它落在哪个场景、调用程度如何，比单看指标更有参照价值。

这份综述适合正在跟踪 LLM 与知识图谱交叉方向的研究者和工程实践者阅读，尤其是需要判断某个 KGE 场景是否值得引入 LLM、以及该以何种方式引入的人；读完能拿走的是一张按调用方式组织的场景地图，加上一批可检索的数据集与代码线索。它的边界也明显：作为综述，它提供的是分类与方向判断，而不是在统一基准上做的横向实验对比，具体方法的实际效果仍需回到被引论文核对。另外，可见文本中关键词一栏仍是「Component, formatting, style, styling, insert」这类模板占位内容，这提示阅读时应以正文与原文为准，对细节保持核对习惯。

LargeLanguageModelsforKnowledgeGraph Embedding:ASurvey Bingchen Liu1, Yuanyuan Fang2, Naixing Xu1, Shihao Hou3, Xin Li1*, Qian Li1* 1*School of Software, Shandong University, Jinan, China. 2School ofComputer and Artificial Intelligence, Shandong University of Finance and Economics, Jinan, China. 3Fujian Key Laboratory ofSensing and Computing for Smart City, School ofInformatics, Xiamen University, Xiamen, 361005, China. *Corresponding author(s). E-mail(s): [email protected]; [email protected]; Contributing authors: [email protected]; [email protected]; [email protected]; [email protected]; Abstract Largelanguagemodels (LLMs) havegarneredsignificantattentionfortheirsupe- rior performance in many knowledge-driven applications on the world wide web. These models are designed to train hundreds ofmillions or more parameters on