science 论文大模型与智能体其他2024-09 会员资料

从词语到世界:连接语言与思维

OriginalFrom Words to Worlds: Bridging Language and Thought

Human language offers a broad window into the landscape of our thoughts.

发布时间
2024-09
login 登录后阅读

notes 内容介绍

这份 MIT 博士论文要追的是一个看上去朴素、实际上很难的问题:我们理解语言时,究竟理解了什么?作者 Lionel Catherine Wong 在摘要里把问题拆成两个方向——人怎么从语言中建构意义,以及这种意义建构又如何调动感知、心理模拟、决策等其他认知资源。它值得现在看,是因为近年的语言模型让「机器能否从词到世界」重新变成紧迫的实证问题,而这篇论文给出的不是哲学思辨,是一套可计算、可做实验的建模框架。作者 2024 年 9 月提交论文,指导教师是 Joshua B. Tenenbaum 与 Jacob D. Andreas,分别来自脑与认知科学系和电气工程与计算机科学系,这个组合本身就说明它走的是认知科学与计算建模的交叉路线。

论文提出的总体框架叫 Rational Meaning Construction,主张自然语言可以在一种灵活、符号化且具备概率结构的「思想语言」中构造任意表达式,并支撑一般性推理。方法上,作者用模型加实验来检验这套理论:一方面建模具体的命题与问句如何更新和查询关于不同知识领域的信念,另一方面转向更抽象的概念知识,也就是那些可以从语言中习得、并为更具体的信念提供表征积木的背景概念与理论。换句话说,它覆盖的是从「一句话怎么改变你相信什么」到「一个词的意思怎么从零学起」这条完整链条,而不是只处理句法或只处理词汇的某一段。

论文第二部分给出三个模型,都建立在 Rational Meaning Construction 的基本前提之上。第一个模型处理如何从泛指句(generic sentences)中学习新理论——这类句子要么明说、要么以预设的方式隐含抽象知识;第二个模型在第一个的基础上扩展,把环境反馈与语言信息一起纳入学习过程;第三个模型更进一步,主张只凭很少的语言数据就能从零学会新词的含义,而引导学习的原则是表征效率与交际效率。这三步在逻辑上是递进的:先说明语言能传递抽象理论,再说明传递不只靠语言,最后说明连词汇本身都可以在数据稀缺的条件下被建构出来。

需要说明的是,材料里没有给出各模型的实验数字、数据集规模或评测指标,所以无法在这里列举性能对比。可以确证的是论文的问题意识:摘要开头即指出,语言为我们提供了通向我们思想景观的一扇宽阔窗口——我们谈论所见、所信、所想象之物,提出问题,传达计划;反过来,语言又为我们的心智库存补充新的概念与理论,把那些即便穷尽一生独自思考也未必能发现的想法传递给我们。这意味着作者关心的不是语言作为刺激的物理属性,而是它作为意义载体的构造能力。

这套框架的意义在于把「语言影响思维」这个宽泛命题落到了可操作的计算层面。如果意义建构确实是一种在符号化、概率化的思想语言中进行的推理过程,那么语言理解与一般推理就不是两件事,而是同一套资源在不同任务上的调用;同样,如果新概念可以从少量语言输入中以效率原则习得,那么词汇学习就不必被看作一个需要海量配对数据的统计问题。对做认知建模或语言模型研究的人来说,这提供了一个明确的对照假设:模型需要的不只是更多文本,而是某种能表达任意表达式并支撑推理的内部表征。当然,这仍是解读,论文本身提供的是框架和模型,而非对上述主张的最终判决。

读这份资料的收获,主要是一套组织问题的骨架:把语言理解拆成具体命题的信念更新、抽象理论的语言习得、以及词汇意义的从零建构三个层次,并为每一层配上可建模的假设。它适合对认知科学、计算语言学与语言模型交叉方向感兴趣的读者,尤其是想了解「思想语言」假设在当代计算框架下如何被重新表述的人。边界也要说清楚:材料显示论文包含模型与实验,但未给出量化结果,作者在结论部分讨论的是论文提出的开放问题与未来方向,也就是说,它更像一份设定议程的工作,而不是已经收敛的结论。阅读时把它当作框架提案而非实证定论,会更接近材料的原貌。

format_quote 原文摘录

自动提取自 PDF

From Words to Worlds: Bridging Language and Thought by Lionel Catherine Wong B.S., Stanford University (2017) M.S., Stanford University (2018) Submitted to the Department of Brain and Cognitive Sciences in partial fulfillment of the requirements for the degree of Doctor of Philosophy at the MASSACHUSETTS INSTITUTE OF TECHNOLOGY September 2024 © 2024 Lionel Catherine Wong. All rights reserved. The author hereby grants to MIT a nonexclusive, worldwide, irrevocable, royalty-free license to exercise any and all rights under copyright, including to reproduce, preserve, distribute and publicly display copies of the thesis, or release the thesis under an open-access license. Author . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Department of Brain and Cognitive Sciences July 17, 2024 Certified by . . . . . .