面向公平医疗的机器学习方法
OriginalMachine Learning Approaches for Equitable Healthcare
Because the observational data we collect can be noisy, incomplete, and biased, seemingly straight-forward implementation of existing methods for clinical intervention or better understanding human knowledge can lead to inaccurate and inequitable clinical algorithms.
- 发布时间
- 2022-09
内容介绍
这份 MIT 博士论文要回答的问题很具体：当临床数据本身带有噪声、缺失和偏倚时，直接把现成的机器学习方法套用到临床干预或人类知识建模上，会不会产出不准确、也不公平的算法？作者 Irene Y. Chen 的立场是，这不是偶发的实现失误，而是数据与建模流程的结构性问题，因此需要新工具来对付建模过程中浮现的偏倚。论文于 2022 年 9 月提交，导师是 David Sontag。它值得现在看，是因为临床上数据和算法都在快速铺开，而公平性问题往往在模型上线之后才被追问；这份工作把追问提前到了开发流程的每一步。
论文覆盖的范围是「面向公平医疗的机器学习方法」，落点在模型开发流水线的不同环节。作者提出的判断框架是：这些环节要变得更公平、更少偏倚，需要同时做到两件事——缓解因数据收集或模型开发而产生的算法偏倚，以及回应已经存在的系统性健康差异。方法上，它没有停在原则讨论，而是用四个案例研究在真实临床任务上演示，并从实验结果出发提出改动建议，强调案例要能给出可操作的洞见。
第一个案例做的是歧视来源的分解，并给出经验估计技术。作者把这类技术用在两个任务上：重症监护病房（ICU）死亡率预测，以及薪资预测——后者虽非临床任务，但被用来检验分解方法本身。第二个案例转向健康保险机构的预测分析，具体是预测住院可能性和高危妊娠可能性，作者把同一套歧视分解技术推进到缓解算法歧视的实操步骤。换句话说，前两部分的关系是：先把偏倚从哪里来算清楚，再谈怎么减。
第三和第四个案例处理的是时间序列与疾病分型。作者研究区间删失时间序列的聚类任务，提出一个深度生成模型 SubLign，用来为每条时间序列学习潜在的延迟进入对齐值，同时刻画群体间异质的进展模式，并在合成生成数据的语境下评估该模型。随后是疾病亚型划分，用于更好地理解疾病进展，报告了包括心力衰竭和帕金森病在内的临床患者聚类结果。最后，论文还给出一个针对服务不足人群、此前研究较少的问题的示例：亲密伴侣暴力的早期识别，模型从放射学报告中预测最终自我报告亲密伴侣暴力的可能性，以及放射学损伤标注的可能性。
把这些放在一起看，其含义是公平性不该被当作模型完成后的补丁，而应嵌入开发流程：数据收集阶段的偏倚需要被审计，建模阶段的偏倚需要被缓解，已知的系统性差异需要被正面处理。论文用「审计、缓解、预防」三个动作概括这套方法，并用真实临床任务说明它们可落地。我的解读是，这种按流水线环节组织问题的写法，本身比任何单一模型的性能更有借鉴价值——它给的是一张检查清单式的思路，让研究者在每个环节问一句「偏倚可能从哪里进来」。
读者对象是做临床机器学习、健康公平或算法审计的研究者与工程实践者。读完能拿走的，是一套把公平性拆解到开发环节的框架、四个具体案例的任务设定与方法选择，以及若干可直接参照的实验设计。需要说清的边界是：材料中只提到 SubLign 在合成数据上评估，其余案例的结果细节与具体数值并未在摘要层面给出，因此这里无法提供任何量化结论；论文的贡献是方法与案例论证，不构成对某一临床系统公平性的认证。
原文摘录
自动提取自 PDFMachine Learning Approaches for Equitable Healthcare by Irene Y. Chen A.B., Harvard University (2014) S.M., Harvard University (2014) Submitted to the Department of Electrical Engineering and Computer Science in partial fulfillment of the requirements for the degree of Doctor of Philosophy in Electrical Engineering and Computer Science at the MASSACHUSETTS INSTITUTE OF TECHNOLOGY September 2022 © Massachusetts Institute of Technology 2022. All rights reserved. Author ................................................................ Department of Electrical Engineering and Computer Science August 26, 2022 Certified by............................................................ David Sontag Professor of Electrical Engineering and Computer Science Thesis Supervisor Accepted by........................................................... Leslie A. Kolodziejski