利用大语言模型与知识图谱提升制造业机器学习模型可解释性

机器学习在制造业已经承担预测性维护、流程自动化这类任务，但结果难以解释仍是落地的主要障碍：用户往往说不清某个输出是怎么产生的，也就难以信任它、据此行动。传统 XAI 的应对方式本身也有门槛——特征重要性常用 Shapley 值表达，数学上精确，对非专家却不友好；而且相当一部分方法只盯着模型内部，不引入能够帮助理解上下文的领域知识。制造业的流程与相互依赖关系本就复杂，解释如果停留在模型内部，很难回答现场真正关心的问题。这份资料提出的思路是把知识图谱拉进来，让领域知识、模型结果与对应解释被组织在一起，再借大语言模型输出人能直接读懂的回答——在 LLM 与 KG 结合成为热点的当下，这个方向值得跟进。

方法上有两条线。存储侧，作者用 Knowledge Graph 存放领域特定数据，同时把 ML 结果与对应的解释一并写入，从而在领域知识和 ML 洞察之间建立结构化连接。检索侧采用 Graph-based Retrieval-Augmented Generation：在多轮对话中，由 LLM 从知识图谱里选择性抽取相关的子图或三元组，作为结构化上下文交给 LLM 生成解释。本体层面在 ML-Schema 基础上做了细化，用来表示完整的 ML 流程与模型，并覆盖 Shapley 值这类 XAI 技术的解释与结果。换句话说，解释不再只是模型事后吐出的一个数值，而是被当作可检索、可追溯的知识条目来管理。

评估放在制造业环境中进行，题库用的是 XAI Question Bank，共评估 33 个问题。除标准问题之外，作者另加了一批更复杂、更有针对性的问题，用来说明方法在哪些地方更强。判定分两路：定量的看 accuracy 与 consistency，定性的看 clarity 与 usefulness。这套设计的用意是同时回答两个层面的问题——“答得对不对、稳不稳”，以及“人读起来清不清楚、有没有用”。

结果方面，材料给出的结论是方向性的。理论贡献被表述为一种新做法：让 LLM 动态访问知识图谱，从而改善 ML 结果的可解释性；实践贡献则是实证证据，表明这类解释能够在真实的制造环境中用起来，并支持制造流程中更好的决策。作者同时把工作放在两条文献脉络之间：一条是 ML-Schema、MLSea 等描述 ML 模型与实验的本体工作，另一条是 KG 与 LLM 结合以突破模型静态知识、减少幻觉的近期研究。这里需要说明，材料没有披露 33 个问题在四项指标上的具体得分，只给出评估框架和方向性结论，因此无法据此比较提升幅度。

这些结论意味着什么？我的理解是，解释的重心从“把模型内部摊开给人看”转向“围绕提问者的问题，从模型结果加领域知识里取一段相关上下文再生成回答”，解释因此可以按需定制，而不是只给一张特征重要性图。对制造业来说，这直接对应维护与工艺决策场景：需要的不只是“模型认为会出故障”，还要能说清依据了哪些领域事实。作者强调的不只是透明、还提供可用于决策的洞察，指向的正是这个差别。

做可解释 AI、工业机器学习，或者正在把知识图谱与大模型拼到一起的人，可以从中拿到两样东西：一个可复用的架构思路（知识图谱存结果与解释、Graph-RAG 多轮检索、LLM 负责生成），以及一套现成的评估口径（XAI Question Bank 加准确率、一致性、清晰度、有用性四项）。边界也要说清：评估是单一制造环境下的案例，33 个问题的样本规模有限，且材料未给出逐项指标得分；本体是对 ML-Schema 的改造，跨领域通用性尚未验证；相关工作中 KG 与 LLM 结合那部分的讨论在材料里只到 Xiao 等人的工作开头，后续线索需要回到原文补全。

Using Large Language Models and Knowledge Graphs to Improve the Interpretability of Machine Learning Models in Manufacturing Thomas Bayer[0009−0007−4373−7933], Alexander Lohr[0009−0006−1612−6793], Sarah Weiß[0009−0004−1811−5065], Bernd Michelberger[0009−0003−0058−507X], and Wolfram Höpken[0000−0002−4175−1295] University of Applied Sciences Ravensburg-Weingarten, Germany {firstname.lastname}@rwu.de Abstract.Explaining Machine Learning (ML) results in a transparent and user-friendly manner remains a challenging task of Explainable Ar- tificial Intelligence (XAI). In this paper, we present a method to enhance the interpretability of ML models by using a Knowledge Graph (KG). We store domain-specific data along with ML results and their correspond- ing explanations, establishing a structured connection between domain knowledge and ML insights. To make these insights accessible to users,