π*0.6:从经验中学习的 VLA(Physical Intelligence)
提出 RECAP 方法,让 VLA 通过真实部署中的强化学习与人工纠正持续提升。
- 发布时间
- 2025-11-18
内容介绍
这份资料的核心线索是:一个 VLA 模型能否在不做任务特定微调的情况下,在多种机器人操作任务上比前代更强;以及它如何成为后续从真实经验中继续学习的基座。材料标题指向 π*0.6,摘要把这一路径概括为 RECAP(经验与纠正强化学习),让 VLA 通过真实部署中的强化学习与人工纠正持续提升。可核实的正文主要是 π0.6 模型卡,它交代了 π0.6 相对 π0.5 的设计变化、训练数据组成和开箱评估结果。值得现在看的地方在于,材料没有只讲概念,而是把“开箱即用”的静态任务、移动任务和泛化任务结果摆了出来,并明确说 π0.6 被采纳为 π*0.6 的基座模型,在后者中通过真实世界强化学习进一步提升。
资料覆盖 π0.6 的模型设计、训练数据和评估,正文以模型卡形式给出。π0.6 沿用 π0.5 的分层设计,高层预测子任务、低层生成动作,并以 flow matching 和 tokenized discrete outputs 生成 action chunks。视觉语言 backbone 初始化自 Gemma3 4B,action expert 与 backbone 层数相同、约 860M 参数;预训练输入最多四张 448×448 图像,对应 base camera、最多两个 wrist cameras,以及移动操作平台可选的 backward camera。训练采用 Knowledge Insulation:VLM backbone 预测 FAST action tokens 和 co-training examples,action expert 预测连续动作,且 action expert 的梯度不回流主 VLM backbone。评估与改进版 π0.5 比较,两者都不做任务特定微调,指标是任务成功率或进度,以及每小时成功次数(throughput)。
在效率数字上,π0.6 在 5 denoising steps 和 3 camera inputs 下,单张 H100 GPU 产生一个 action chunk 需要 63ms。静态任务包括 shirt folding、laundry folding、box assembly 和 table bussing,π0.6 在速度上全面提升,成功率也常常更高。最大差异出现在 laundry folding 和 box assembly:材料说这两项此前需要高质量数据微调才能达到非零成功率,而 π0.6 开箱即可稳定折洗衣,完全组装盒子的成功率为 20%。这说明“开箱”并不等于所有任务都达到高可靠,但确实把部分此前依赖微调的任务推到了非零甚至可用的水平。
移动任务有四个:捡洗衣放入篮子、整理床、把盘子放水槽、把物品放抽屉,使用移动双臂机器人。π0.6 在平均任务进度饱和时提高 throughput,否则同时提升任务进度和 throughput。泛化任务覆盖语言跟随和新技能,例如“pick up the third fruit from the left”“move to where the fresh milk is kept”“wipe the spill with the bread”“hang the shorts into oven handle”;大多数评估指令和物体未在训练中出现。每组任务有三个难度级别,共 12 到 18 条指令;π0.6 在各设置中相对 π0.5 有健康提升,移动设置通常更难,因为任务时域更长、环境里任务无关的干扰更多。
这些结果意味着,多样训练数据和丰富的 metadata conditioning 能减少对任务特定微调的依赖,尤其让此前需要微调才有非零成功率的任务出现可靠表现。Knowledge Insulation 让动作专家梯度不回流主 VLM backbone,换句话说,动作学习与视觉语言能力之间做了隔离,这可能是保持 backbone 能力的一种工程取舍。π0.6 作为 π*0.6 的基座、在真实世界强化学习中继续改进,说明“从经验中学习”是建立在较强开箱模型之上的后训练阶段,而不是替代预训练。对实践来说,评估应同时看成功率、任务进度和 throughput;移动长时域任务和未见指令、未见物体仍是更难的场景。20% 的完全组装盒子成功率也提醒读者,开箱结果需要按任务细看,不能只看总体趋势。
适合机器人学习、VLA、具身智能方向的研究与工程读者读,因为材料把架构、数据组成和开箱评估放在同一份模型卡里。读完可以拿走 π0.6 的关键设计——Gemma3 4B backbone、约 860M action expert、Knowledge Insulation、最多四路 448×448 图像输入——以及它在静态、移动、泛化任务上的评估口径。边界也明显:材料主要是 π0.6 模型卡,对标题中的 π*0.6 和 RECAP 只给出“作为基座、通过真实世界强化学习继续改进”的线索,没有展开强化学习流程和人工纠正的细节。评估中的 20% 完全组装盒子成功率,以及每组 12 到 18 条指令的泛化测试,说明结果有任务和样本范围,不能外推为所有机器人操作都已解决。
原文摘录
自动提取自 PDFπ0.6 Model Card Physical Intelligence November 17, 2025 1 Introduction We introduceπ 0.6, our newest vision-language-action (VLA) model that builds on top ofπ 0.5 [2] and achieves stronger performance across tasks.π 0.6 preserves the hierarchical design ofπ 0.5, pro- viding high-level subtask prediction and low-level action generation. It incorporates a few changes involving the pre-trained VLM backbone and prompt design (Section 2), as well as the training datasets (Section 3). Section 4 analyzes the improvement in performance ofπ 0.6 compared toπ 0.5 on a range of tasks that require dexterity and generalization. These experiments evaluate each model out of the box, without finetuning. This model has also been adopted as the base model for π∗0.6 [7] where it is further improved through real-world reinforcement learning. 2 Model Design