science 论文机器人与具身智能制造与能源2024-10

π0:面向通用机器人控制的视觉-语言-动作流模型

具身智能/机器人基础模型方向可免费获取的论文。

发布时间
2024-10
link 原始页面

notes 内容介绍

Physical Intelligence的π0资料要回答的是:机器人学习若要支撑灵活、通用、灵巧的真实系统,数据、泛化和鲁棒性这些障碍如何跨越;通用机器人策略(也就是机器人基础模型)能否承担复杂、高灵巧任务。它值得现在看,是因为路线不是单任务策略,而是把预训练视觉-语言模型(VLM)的语义知识与机器人连续动作控制接在一起。换句话说,它关心的是“一个模型覆盖多种机器人与任务”的通用控制问题,而不是只解决某一个演示任务。

覆盖范围上,π0被描述为一种新的flow matching架构,建立在预训练VLM之上,以继承互联网尺度的语义知识;模型还加入一个独立的action expert,通过flow matching产生连续动作。训练数据来自多个灵巧机器人平台,包括单臂机器人、双臂机器人和移动操作器。图注给出的规模是7种不同机器人配置、68个任务。评估覆盖三条路径:直接prompting执行任务、跟随来自人和高层VLM策略的语言指令、以及通过fine-tuning获得新技能。

材料中最具体的数字是7种机器人配置和68个任务,这组数字支撑的是跨embodiment预训练的主张:模型不是只在一个平台上采集数据。任务示例包括洗衣折叠、桌面清洁和组装盒子,均属于需要灵巧操作的真实场景。叠衣被拆成多阶段流程:移动操作器从烘干机取衣物、装进篮子、把篮子带到折叠桌,再逐件折叠。这里能确认的是任务组织与流程,材料没有给出成功率或对比基线,因此不能从摘录里推断性能高低。

从架构看,VLM backbone负责继承语义知识,action expert负责连续动作生成,flow matching被图注明确说成能带来精确、流畅的操作技能。评估设计也值得注意:直接prompting、语言指令跟随和fine-tuning并不是同一件事,分别对应直接使用、接受外部语言规划、以及用高质量数据做后训练。高层VLM策略可以作为指令来源,在解读上这意味着系统有潜力把语言层面的任务规划与底层动作控制分层组合。复杂多阶段任务如折叠多件衣物或组装盒子,则被放在fine-tuning路径下讨论。

这些结论对实践的影响在于,它给出一条可操作的机器人基础模型路线:先用预训练VLM获得互联网尺度的语义先验,再用多样跨embodiment机器人数据做预训练,最后用高质量数据适配复杂任务。直接prompting与fine-tuning两条使用路径并存,意味着通用策略可以承担一部分指令驱动的任务,而高精度、长时序任务仍需要专门数据后训练。换句话说,通用预训练和专用后训练不是二选一,而是被组织成前后衔接的流程。对做具身智能系统的人,这比单点模型结构更值得参考的是数据与评估的组织方式。

适合读这份资料的人,是关注具身智能、机器人基础模型和视觉-语言-动作模型的研发读者;读完可以拿走三样东西:VLM加action expert的架构思路、7种机器人配置与68个任务的跨embodiment数据组织、以及直接prompting与fine-tuning并行的评估框架。任务示例也能帮助判断这类模型离多阶段灵巧操作还有多远。需要留意的边界是,给定材料主要是论文摘录和图注,没有提供定量成功率、对比基线或训练细节,具体结论仍应以原文为准。

format_quote 原文摘录

自动提取自 PDF

π0: A Vision-Language-Action Flow Model for General Robot Control Physical Intelligence Kevin Black, Noah Brown, Danny Driess, Adnan Esmail, Michael Equi, Chelsea Finn, Niccolo Fusai, Lachy Groom, Karol Hausman, Brian Ichter, Szymon Jakubczak, Tim Jones, Liyiming Ke, Sergey Levine, Adrian Li-Bell, Mohith Mothukuri, Suraj Nair, Karl Pertsch, Lucy Xiaoyang Shi, James Tanner, Quan Vuong, Anna Walling, Haohuan Wang, Ury Zhilinsky https://physicalintelligence.company/blog/pi0 /C8/C5/C7/C6/C4/C1/C3/C6/C2/C0 /C25/C23/C20/C19/C24/C16/C14/C21/C24/C12/C11/C14/C24/C17/C22/C10/C13/C18/C15/C9/C15 /C35/C32/C5/C33/C31/C30/C29/C31/C28/C5/C26/C0 /C50/C47/C15/C13/C20/C13/C46/C18/C25/C23/C25/C23/C40/C41/C13/C47/C41 /C44/C25/C38/C38/C25/C48/C39/C37/C13/C41/C13/C18/C15/C9/C15 /C56/C58/C58/C31/C33/C31/C5/C55/C2/C0 /C50/C47/C15/C13/C20/C13/C46/C18/C25/C23/C25/C23/C40/C41/C13/C47/C41