小型领域掩码语言模型与大型生成模型在临床决策支持中的对比及用户影响

这份博士论文处理的是一个在临床 AI 落地时绕不开的取舍：在临床决策支持这类任务上，究竟是专门训练的小型领域掩码语言模型更可靠，还是直接使用大型生成式模型更合适，以及这两种选择对使用者产生什么影响。作者 Elena Sergeeva 把问题拆成两条线：一条是模型在具体医学自然语言处理任务上的表现对比，另一条是人如何理解和使用模型给出的输出。之所以现在值得看，是因为生成式模型正在快速进入临床场景，而论文提醒我们，性能之外的认知与交互问题同样需要证据，不能默认“更大的模型”就等于更好的决策支持。

论文提交于 Massachusetts Institute of Technology 的电气工程与计算机科学系，获博士学位，导师为 Peter Szolovits，答辩委员会还包括 Marzyeh Ghassemi 与 Luis A. Leiva。研究工作分为两部分。第一部分构建了一组基于 Masked-Language model transformer 的模型，覆盖多个医学自然语言处理任务，包括 Named Entity Recognition（命名实体识别）、Negation Extraction（否定提取）和 Relation extraction（关系抽取）。第二部分转向对“prompt-and-generate”范式的分析：既考察输入被切分为 token 之后，token 的“含义”如何在 transformer 的逐层计算中被逐步细化，也考察人们如何与模型生成的 token 序列互动——尤其是当这些输出被人感知为“解释”的时候。

最直接的发现来自第一部分的对比结果：这些小型领域掩码语言模型在上述医学任务上表现与更大的 prompt-and-generate 因果语言模型相当，甚至更好。换句话说，在命名实体识别、否定提取、关系抽取这类任务上，模型规模并不是决定性的，针对领域和任务做专门设计的掩码模型可以站得住。需要说明的是，材料只给出了“as well or better”这一相对结论，没有提供具体指标数值、数据集规模或任务数量，因此无法进一步量化差距有多大。

第二部分的观察更偏概念与交互层面。论文指出，现代连接主义方法用“对输入的加权连续表示做一组计算后给出预测”取代了显式推理，而这些连续表示始终带有“黑箱”性质：人类用户能直接理解的只有模型的输入和输出。作者还从知识定义的经典表述“justified true belief”切入，质疑在描述 AI 系统表现时使用“belief”“justification”这类拟人化词汇在多大程度上是恰当的。这意味着，当我们谈论模型“知道”或“解释了”什么时，措辞本身就暗含了未经检验的假设。

这些结论对实践的含义可以从两个方向理解。其一，在临床决策支持的建设中，为特定任务训练的小型领域掩码模型是一条有实证支持的技术路线，不必默认必须依赖大型生成模型；对资源有限或对可解释性有要求的团队，这是值得认真考虑的选项。其二，输出的“可解释感”不等于可解释性——用户把生成的 token 序列读作解释，是一种感知现象，而模型的内部表示仍然是黑箱。换句话说，评估临床 AI 时，任务性能和用户如何理解输出应当分开考察，两者不能互相替代。

这份资料适合关注临床自然语言处理、模型选型与人机交互的研究者和工程人员阅读，读后可以拿走的是一套明确的对比框架：任务层面看小型掩码模型能否打平或超过大型生成模型，交互层面看用户如何解读模型输出，以及一套关于“知识”“信念”“解释”等词汇在 AI 语境下是否适用的审慎态度。边界也需要说明：材料呈现的是论文的摘要与问题框架，第一部分的具体实验设置与量化结果、第二部分用户研究的具体设计与样本情况均未在材料中展开；文中关于“黑箱”和拟人化词汇的讨论属于概念性论证，不构成可直接照搬的工程结论。

Building small domain-specific masked language models vs. large generative models for clinical decision support and their effects on users. by Elena Sergeeva B.S., Saint Petersburg State University, 2011 M.S., Saint Petersburg State University, 2011 M.A., Saint Petersburg State University, 2013 Submitted to the Electrical Engineering and Computer Science in partial fulfillment of the requirements for the degree of DOCTOR OF PHILOSOPHY at the MASSACHUSETTS INSTITUTE OF TECHNOLOGY June 2025 © 2025 Elena Sergeeva. All rights reserved. The author hereby grants to MIT a nonexclusive, worldwide, irrevocable, royalty-free license to exercise any and all rights under copyright, including to reproduce, preserve, distribute and publicly display copies of the thesis, or release the thesis under an open-access license. Authored by: Elena Sergeeva