运用认知科学原理分析与引导语言相关神经网络

一份 AI 模型能从生成可信文本做到模拟简化的语言演化，但它在多大程度上是在以“人类的方式”学习语言？这是这份 MIT 博士论文正面处理的问题。作者 Mycal Tucker 的判断是：给“human-like”下一个笼统定义也许是不可能完成的任务，但如果从认知科学文献里借来关于人类语言处理某一侧面的窄定义，就能得到可操作的度量，用来评价 AI 模型。这个思路现在值得看，是因为它把“像不像人”这种容易被说空的问题，拆成了能落到实验里的具体指标。

资料覆盖两条互补的研究路线：一条是从头训练新的神经网络智能体，另一条是探测已经训练好的语言模型。作者把这两半称为一个 AI 开发反馈闭环的两端——训练回答“怎样造出更接近人类语言行为的系统”，分析回答“现有系统内部到底用了什么表征”。方法上，两条线都从认知理论出发：第一条借的是人类命名系统（比如一门语言里“红”“蓝”这类颜色词）在信息论意义上接近最优、把意义压缩进少量词这一观察；第二条借的是人理解和产出语言时依赖层级结构表征这一主张。第二条路线不重新训练模型，而是引入一种因果探测方法，通过构造句法歧义句的反事实表征，观察模型预测如何随结构解释变化。

第一支工作的做法，是给神经网络智能体的沟通加上三种认知动机压力：utility、informativeness 和 complexity。按材料的界定，utility 衡量任务成功程度，会诱导出任务特定的沟通方式；informativeness 与具体任务无关，衡量听者理解说话者的程度，指向可泛化的沟通；complexity 刻画有多少比特被分配给沟通，可以导向更简单的沟通系统。作者强调这三项对“像人的沟通”都重要。实验中的做法是让智能体在不同权衡组合下训练，结果它们学到了不同的命名系统，而这些系统与现有自然语言相当接近。换句话说，人类语言里观察到的某些结构特征，可以在只施加这几条抽象压力的条件下被人工系统重新长出来。

第二支工作的发现更谨慎一些。作者用“The girl saw the boy with the telescope. Who had the telescope?”这类句子做例子：同一句话可以对应不同的句法结构解释，研究者记录模型在这些不同结构解释下的预测变化，看答案是否随结构而变。结论是分裂的——对一些模型（但不是全部模型）来说，模型确实使用了句法表征，表现为对上述问题给出了不同的答案。作者同时把这项工作的贡献说成两重：既给出了关于预训练模型的新洞察，也提供了一个可以迁移去研究模型其他属性的新方法。需要说明的是，材料没有给出任何量化的实验数值，结论以定性方式呈现，因此无法据此判断效应大小或模型之间的差距幅度。

这些结论的意义在于把评估方式换了个方向。与其追问一个模型整体上“像不像人”，不如从认知科学里取一个明确的理论侧面，把它变成可测的量，再用它去检验模型——第一支工作说明这类理论可以进入训练目标，第二支说明它也可以进入对已有模型的审计。这意味着认知科学在这份资料里不只是类比来源，而是同时充当了训练信号的来源和评价标尺的来源。对做语言模型评估或可解释性的人来说，可迁移的做法是：先找到一个关于人类语言处理的具体主张，再设计能证伪它的探测。

这份资料适合研究语言模型可解释性与评估、认知科学与 AI 交叉、以及多智能体通信的学习者与研究者读。能拿走的是两层东西：一层是“把‘像人’拆成可测指标”的方法论姿态，另一层是因果探测这一具体手段，它可以被改写去问别的属性。边界也要说清楚：作者自己承认“human-like”的一般定义仍未解决，工作只处理借来的窄定义；句法表征的结论只成立于所考察的部分模型；材料中没有量化结果，读者若想比较不同模型或不同权衡设置的强弱，需要回到论文正文的实验部分。

Using Principles from Cognitive Science to Train and Analyze Language-Related Neural Networks by Mycal Tucker B.S., Massachusetts Institute of Technology, 2015 M.Eng., Massachusetts Institute of Technology, 2016 Submitted to the Department of Aeronautics and Astronautics in partial fulfillment of the requirements for the degree of DOCTOR OF PHILOSOPHY IN ARTIFICIAL INTELLIGENCE at the MASSACHUSETTS INSTITUTE OF TECHNOLOGY April 2024 © 2024 Mycal Tucker. All rights reserved. The author hereby grants to MIT a nonexclusive, worldwide, irrevocable, royalty-free license to exercise any and all rights under copyright, including to reproduce, preserve, distribute and publicly display copies of the thesis, or release the thesis under an open-access license. Authored by: Mycal Tucker Department of Aeronautics and Astronautics April 25, 2024 Certified by: Julie A. Shah H.N.