从理论与生物学视角理解神经网络

深度学习让神经网络在应用层面迅速普及，人们已经知道怎么让它表现出色，在许多任务上甚至可与人类表现相匹敌；但这份 MIT 博士论文要问的是另一个问题——我们是否真的理解了所造出的东西。作者 Qianli Liao 把这一落差当作研究的起点：我们对神经网络的理论与生物学理解，远远落后于它前所未有的扩张。这个提问方式本身值得留意，因为它把“理解”放在与“性能”并列的位置上，而不是当作性能的注脚。换句话说，它不是在追逐新的性能纪录，而是在试图补上理解这一课。

覆盖范围上，论文同时走理论与生物学两条线，标题里的 theoretical 与 biological 是并列的两个视角，不是修饰关系。作者自述与同事花了数年时间从这两个视角研究神经网络，得到了一些有意思的见解与结果，并把若干篇已发表论文汇编起来构成这份学位论文。方法上因此不存在单一数据集或统一基准，读起来更像一组相互关联的工作，而不是一条从头到尾的实验叙事。论文末尾还讨论了在当下 AI/AGI 趋势下作者更偏好的未来研究方向，这部分属于研究议程而非结论。

核心论断之一是失衡。在深度学习的推动下，人工神经网络在实际应用中表现优异，许多任务上可与人类水平相当，但这种对实际性能的极端追求并没有深度理解作为支撑。作者由此判断，智能这一领域因此变得不平衡、不完整，用他的措辞说，甚至可能是 precarious，即岌岌可危。需要说明的是，这是作者的立场陈述而非量化结论，材料中并没有给出支撑该判断的实验数字。也因此，这一段应当被当作问题设定来读，而不是被当作已经被验证的结果。

另一条论断讲的是后果。作者描述了一种尴尬处境：我们造出了能力很强的智能系统，却不理解它们，这削弱了我们预测、控制以及正确对待这类系统的能力。他进一步指出，这些进展也没有直接转化为对智能这一一般概念的理解，其中最重要的包括人类自身的智能。把这两点放在一起看，就能理解为什么标题要把 biological 与 theoretical 并列——如果只盯着任务表现，人工智能的进步并不会自动回馈为对生物智能的认识。

这些结论的实践含义，主要体现在对“性能”的态度上。一个模型在基准上可复现地工作，不等于我们知道它为什么有效，这意味着面对分布变化或失效场景时，解释与预测的手段是缺失的。对做应用的人来说，这提示应把理解当作工程风险的一部分；对做理论与神经科学的人来说，这份资料把两个视角放进同一份工作，等于主张它们彼此需要。不过这更像议程设定，材料并没有给出一个把两者真正统一起来的完成形态。

适合读的是关心深度学习理论基础与可解释性的研究者，以及对生物启发建模、智能本质这类问题感兴趣的读者；读完能拿走的，是一个把“理解”当作一等问题的提问框架，外加一份可追溯的已发表论文线索。边界也要讲清楚：材料停留在摘要与致谢层面，没有具体实验、数据集或量化结果，正文由已发表论文汇编而成，细节需要回到各篇原文去看。摘要中的判断是作者的立场表达，按立场来读，比按定论来读更合适。

Understanding Neural Networks from Theoretical and Biological Perspectives By Qianli Liao S.B., New York University (2014) S.B., South China University of Technology (2014) S.M., Massachusetts Institute of Technology (2017) Submitted to the Department of Electrical Engineering and Computer Science in Partial Fulfillment of the Requirements for the Degree of Doctor of Philosophy at the MASSACHUSETTS INSTITUTE OF TECHNOLOGY February ©2024 Qianli Liao. All rights reserved. The author hereby grants to MIT a nonexclusive, worldwide, irrevocable, royalty-free license to exercise any and all rights under copyright, including to reproduce, preserve, distribute and publicly display copies of the thesis, or release the thesis under an open-access license. Authored by: Qianli Liao Department of Electrical Engineering and Computer Science January 26, Certified by: Tomaso A. Poggio Eugene McDermott