面向有限且异构医学数据的表示学习

医学机器学习长期受两件事拖累：数据不够，数据太杂。数据不够，是因为采集和标注都昂贵；数据太杂，则源于医学数据本身形态多样——影像、文本、结构化元数据混在一起，分布还随设备、机构而变。Weng, Wei-Hung 在 MIT 的这篇博士论文（2022 年 5 月提交，导师 Peter Szolovits）要回答的正是：在这样的数据条件下，能不能学到可泛化的表示。值得现在看的原因在于，论文没有停在提出一个方法，而是按“数据量有限—类别不平衡—数据异质”三类问题依次拆解，每一类都配了具体医学任务做验证，形成了一条相对完整的证据链。

论文覆盖的范围可以从两个维度看。问题维度上，它讨论 limited data、data imbalance 和 heterogeneous data 三种情形；方法维度上，它调动了 cross-domain learning、self-supervised learning、contrastive learning、meta-learning、multitask learning 和 robust learning 六类学习范式。应用维度则横跨临床语言翻译、超声图像分类与分割、医学图像检索、皮肤病诊断分类、病理元数据预测和肺部病理预测。换句话说，这不是单点突破，而是一次系统性的框架梳理：针对每类数据困境，挑出匹配的学习范式，再落到一个真实医学场景上检验。

在数据有限这一端，论文给出两组结果。其一是临床语言翻译：面对有限且未配对的医学语料，作者用无监督嵌入空间对齐（以相同锚点做词级翻译），再用统计语言模型完成句子翻译；在临床正确性与可读性两项指标上，该方法在词级和句级翻译上都优于基于词典的算法。其二是超声图像：作者采用自监督学习，并把对应元数据作为多模态资源引入，以提供归纳偏置；结果显示，这样学到的表示在超声图像质量分类和器官分割等下游任务上，优于标准迁移学习方法。这组对比的意义在于，元数据这种常被当作附属信息的东西，被证明可以作为学习信号的一部分。

在数据不平衡与数据异质这两端，论文各有两项研究。不平衡方面：作者用对比学习中的 Siamese 网络，从不平衡的眼底镜图像数据集中学习表示，用于糖尿病视网膜病变图像检索，与标准监督学习相比得到“可比但可解释”的结果；另一项用 meta-learning 处理极度不平衡的长尾皮肤图像数据集做皮肤病分类，发现将 meta-learning 模型与采用常规类别不平衡技术训练的模型做模型集成，预测表现更好，对罕见皮肤病尤其如此。异质方面：作者构建多模态多任务学习框架，用多模态融合把切片图像、自由文本和结构化元数据整合起来，并以多任务目标损失引入归纳偏置，学习用于病理元数据预测的共享表示，预测能力强于标准的单模态单任务训练；此外，作者把鲁棒训练技术用于两个胸部 X 射线数据集之间的分布偏移，发现与标准训练相比，鲁棒训练在偏移存在时容忍度更好，学到的表示可用于肺部病理预测。

把这些结果放在一起看，可以读出几条对实践有直接影响的判断。第一，医学场景中的数据缺陷不必总靠“收集更多数据”来解，学习范式本身的设计就能部分补偿——跨域对齐缓解语料不足，自监督加元数据缓解影像稀缺，对比学习与元学习缓解长尾，多任务与鲁棒训练缓解异质与偏移。第二，评价方式不止于精度：临床正确性与可读性、可解释性都被纳入比较，这意味着在医学任务中“可比但可解释”本身可以是一个可接受的结果。第三，模型集成在不同不平衡处理路径之间仍然有效，说明这些技术未必互相替代，而可能互补。需要说明的是，以上属于对论文主张的解读，论文本身并未给出跨任务的统一量化结论。

阅读价值上，这篇论文适合已在做医学机器学习、并正被小样本或不平衡数据卡住的研究者与工程实践者；读完能拿走的是一张“问题类型—学习范式—验证任务”的对应图，以及若干具体做法（锚点对齐做词翻译、元数据做多模态归纳偏置、多任务损失做共享表示、鲁棒训练应对分布偏移）。边界也应讲清楚：作者在摘要中明确写到这项研究“并非穷尽式”（not exhaustive），其贡献在于提供较广泛的理解与洞见，而非覆盖所有低资源高维医学数据情形；文中也未给出跨研究的统一基准或规模化的临床部署验证。因此更稳妥的用法，是把它当作方法选型的参考框架，而非可直接照搬的性能结论。

Learning Representations for Limited and Heterogeneous Medical Data by Wei-Hung Weng M.D., Chang Gung University (2011) M.M.Sc., Harvard University (2017) Submitted to the Department of Electrical Engineering and Computer Science in partial fulfillment of the requirements for the degree of Doctor of Philosophy in Electrical Engineering and Computer Science at the MASSACHUSETTS INSTITUTE OF TECHNOLOGY May 2022 © Wei-Hung Weng, MMXXII. All rights reserved. The author hereby grants to MIT permission to reproduce and to distribute publicly paper and electronic copies of this thesis document in whole or in part in any medium now known or hereafter created. Author ...................................................................... Department of Electrical Engineering and Computer Science May 13, 2022 Certified by..................................................................