E2H两阶段非侵入神经信号人形机器人全身控制框架
OriginalE2H: A Two-Stage Non-Invasive Neural Signal Driven Humanoid Robotic Whole-Body Control Framework
In contrast to the highly developed humanoid robots, the human factors involved remain relatively unexplored.
- 发布时间
- 2024-10
内容介绍
人形机器人这两年进展很快,但「人」这一侧的接口其实没怎么变。E2H 这份资料要回答的正是这个问题:能不能绕开动作捕捉、语音指令这类常规交互,直接用非侵入式脑电信号(EEG)驱动人形机器人完成全身控制。作者在开头把动机说得很直白——相比高度发展的人形机器人,其中涉及的人为因素仍然相对未被探索;而用大脑直接控制人形机器人,早已出现在《环太平洋》《高达》这类科幻作品里。现在值得看的原因在于,它给出的是一套可执行的两阶段方案,而不只是一句愿景。
覆盖范围从信号侧一直延伸到物理机器人侧。作者把 E2H(EEG-to-Humanoid)拆成两段:第一段把脑电解码成语义化的动作关键词,第二段借助大语言模型完成动作生成,再用精确的动作模仿控制策略落到人形机器人上。方法链条上,EEG 先经过噪声过滤(EMG 等干扰),再由 Conformer 编码器与解码器结构配合 CLIP Loss 和分类器,将大脑意图转成离散的动作关键词;关键词进入由 LLM、T5、运动 VQ 编解码器组成的模块生成运动 token,经模仿、重定向与判别器得到运动参考。控制策略先在仿真环境中学习,再做 sim-to-real 迁移,才用于真实机器人。
之所以要分成两段,材料给出的理由是信号质量。非侵入式信号在解码精确空间轨迹时质量仍然偏低,因此直接从大脑解码出精确控制信号在现阶段并不现实——这是作者自己的判断,也是整个框架的设计前提。换句话说,E2H 并不试图让 EEG 输出关节级指令,而是让它只负责「想做什么动作」这一层语义,把精确性交给下游的生成与控制模块。这个取舍决定了后面所有的工程安排。
数据方面的关键数字来自作者设计的采集流程:10 名受试者,24 个与动作相关的词,参与者通过主动无声言语(active silent speech)完成任务,采集同步的「大脑—动作关键词」数据。实验用视觉线索引导,让受试者执行主动动作,从而支撑从 EEG 到动作意图的解码。作者把贡献归纳为三点:E2H 是首个探索人形机器人与脑信号意图之间直接桥梁的工作;通过两阶段拆分,它能把 EEG 信号转换为人形机器人的控制信号,为人机协同提供新的交互方式;以及上面那套跨 10 名受试者的同步数据采集。需要说明的是,材料中并没有给出解码准确率的具体数值,只提到目前把 EEG 翻译成运动意图的准确率还不高。
这些结论意味着什么?从应用场景看,作者点出的价值不在于替代现有遥操作,而在于补上语音指令不便使用的场合:语言障碍、太空探索、水下探索,以及建筑工地或救援现场这类需要机器人跟随人类意图协同作业的环境。选择非侵入式脑电而非需要手术的方案,是为了让交互能被更广泛的用户群体使用。我的解读是,这套框架的现实定位更像「意图级」的人机接口:它把人类从必须同步模仿动作的约束中解放出来,允许人只表达意图,其余交给机器人自主完成。
适合关注人机交互、BCI 与人形机器人控制交叉方向的研究者与工程人员读,读完能拿走的是一套清晰的问题拆解方式——如何用语义关键词为低质量神经信号「降维」,以及一条从 EEG 到仿真训练再到实机部署的完整管线。边界也要说清楚:材料自述翻译准确率目前不高,直接脑到精确控制不可行;两阶段方案中的动作生成与模仿控制依赖已有的 LLM 与强化学习组件,真正的瓶颈仍在信号解码这一端。作者的态度是把它作为「可行方案」提出,而非已解决的结论。
原文摘录
自动提取自 PDFE2H: A Two-Stage Non-Invasive Neural Signal Driven Humanoid Robotic Whole-Body Control Framework Yiqun Duan1∗, Qiang Zhang2∗, Jinzhao Zhou1, Jingkai Sun2, Xiaowei Jiang1, Jiahang Cao2, Jiaxu Wang2, Yiqian Yang1, Wen Zhao3, Gang Han3, Yijie Guo3, Chin-Teng Lin1 1Human-Centric AI Centre, AAII, University of Technology Sydney, Sydney, NSW, Australia 2The Hong Kong University of Science and Technology, Guangzhou, China 3Beijing Innovation Center of Humanoid Robotics, Beijing, China Abstract Recent advancements in humanoid robotics, including the inte- gration of hierarchical reinforcement learning-based control and the utilization of LLM planning, have significantly enhanced the ability of robots to perform complex tasks. In contrast to the highly developed humanoid robots, the human factors involved remain relatively unexplored. Directly controlling humanoid robots with