BeingBeyond智在无界刚刚发布首个基于人类视频数据的隐式触觉世界动作模型——Being-H0.8。
作为一套具备触觉能力的隐式世界—动作模型,Being-H0.8在预训练阶段就教会机器人提前预判接触方式。一旦真正碰到物体,它能依据触觉反馈即时调整后续动作。
跟以往仅靠画面决定动作的世界模型不同,Being-H0.8将触觉嵌入了“预测—执行—反馈”的全链路:
模型先盯着当前画面,推测接下来可能发生的接触;执行时再读取最新触觉信号,重新生成下一段动作。
为达成这一目标,Being-H0.8从数据、模型、控制三个层面同步发力:
凭借这套方法,Being-H0.8在真实双臂机器人实验中,顺利完成了包中取物、毛笔写字、挤牙膏、夹薯片等高度依赖触觉的高难度精细任务。
首个基于人类视频数据的隐式触觉世界动作模型
若要挑出Being-H0.8最吸睛的亮点,那便是其创新的隐式触觉世界动作模型架构,以及超50万小时的超大体量数据集。咱们先从模型架构聊起。
对具身智能而言,触觉不仅关乎精细操作,更能辅助完成仅凭视觉难以完成的接触推断。
过去两年间,围绕触觉如何赋能具身基础模型,学界已涌现诸多探索,李飞飞、徐丹飞、Wenzhen Yuan、宋舒然等研究者也都在推进相关方向。
但若将视线聚焦于世界模型,一个开放性问题便浮现出来:触觉究竟该以何种方式介入?
一方面,现有世界模型多以视觉为核心。它们能观察物体的移动与形变,却难准确判断接触是否发生、落点何在,以及物体承受的具体作用力。
另一方面,尽管触觉传感器种类繁多,但数据形态与表征方式并未统一。更现实的困境是,绝大多数大规模人类视频和机器人数据集,本身并未同步记录触觉信息。
这意味着,训练具备触觉能力的世界模型,既缺统一的触觉表征,也缺可规模化获取的训练数据。
Being-H0.8正是智在无界针对此痛点给出的答案。
在Being-H0.7隐式世界—动作模型的基础上,Being-H0.8首次将触觉模态纳入隐空间表示,把原本侧重视觉预测的建模方式,扩展为隐式触觉世界—动作模型(Latent Tactile World-Action Model),并将触觉预训练延伸至可规模化的第一视角人类视频数据。
关键之处在于,Being-H0.8不追求在像素层面完整重建未来画面,而是在隐空间中预测与任务强相关的交互后果——比如是否发生接触、接触后状态如何变化——并利用这些潜在状态进一步调控动作生成。
换言之,Being-H0.8意在让机器人不只“看见”未来,还能从无显式触觉标注的人类视频中,习得对接触与受力结果的隐式判断。
具体而言,Being-H0.8由四大核心模块构成:负责预测交互后果的混合Transformer(MoT)、兼顾推理效率与接触反馈的慢—快动作专家、统一触觉输入的通用触觉编码器,以及统一动作空间的TopoHand。
其中,通用触觉编码器先将各类传感器采集的触觉信号,转化为统一的触觉token,以此抹平不同设备、不同数据形态间的差异。
而慢—快动作专家则负责平衡推理速度与实时纠偏。
如此一来,机器人无需每次感知到触觉变化都重算完整计划,也能根据滑动、受力改变或接触偏移迅速调整动作。
训练阶段,未来时刻的触觉token进入MoT的后验分支,助力模型理解真实接触后世界状态的演变。
部署阶段,MoT负责前瞻预测交互后果,慢速流维持整体上下文连贯,快速流则依据最新触觉实时纠偏。
至此,触觉不再仅是动作结束后的附加反馈,而是深度融入机器人的“预测、执行与调整”全过程。
超过50万小时的数据池
模型聊完,自然引出下一个问题:训练模型的原料从何而来?
这便触及Being-H0.8的另一项核心工作——数据底座。
作为国内率先利用大规模人类视频预训练具身基础模型的企业之一,智在无界长期深耕人类视频预训练路线,持续积累数据并反哺具身基础模型训练。
Being-H0.8的数据基石,正是这条路线长期沉淀的成果。
历经从Being-H0到Being-H0.8的多次迭代,智在无界已汇聚超500,000小时第一人称视频数据,并与数十家数据供应商建立合作。
这些数据涵盖自然物体交互、长时程任务、丰富手部动作及多样场景,为具身模型提供了海量人类交互经验。
据团队介绍,这也是目前国内规模最大的人类操作视频数据池。
但50万小时原始视频,绝不等于50万小时可直接用于训练的干净数据。
原始视频中混杂大量无效片段:看不到手、缺乏有效操作、镜头剧烈抖动、与桌面物体交互无关或内容高度重复。此外,不同数据源在场景、任务、视角和动作分布上差异显著。
为此,团队构建了一套面向数十万小时视频的处理管线,对原始数据进行过滤、去重、切分、语言标注及分布再平衡。
首先剔除无效片段,将长视频切割为连续短片段,并补充细粒度语言描述。
不过,仅有画面和文字尚显不足。
具身模型不仅要知晓画面事件,还需明确手部状态及执行的具体动作。
对于缺失准确动作标注的人类视频,团队采用MANO统一表示手部状态,通过HMR(hand motion refinement)恢复并细化裸手运动轨迹,再利用Caliball补齐缺失相机参数,从视频中提取可用于学习的手部动作信息。
针对机器人数据,团队重构规范化URDF,统一关节约定、相机坐标系及手腕位姿表示,并完成各数据集的校准、同步与验证。
此外,团队逐项核查数据完整性、运动学一致性、跨模态同步情况,以及语言描述与视频内容的匹配度。
经过滤、重建与标准化处理,来自多源的人类视频与机器人轨迹被整理为相对统一的数据格式,最终形成UniHand3.0训练集。
然而至此,这套数据仍缺最关键一环——触觉。
把无触觉视频转化为可训练的触觉数据
经过清洗、重建与标准化,模型虽获大规模操作数据,却无法直接获知:接触点在哪、力度如何变化、物体反馈怎样。
Being-H0.8接下来的工作,即将这些无触觉记录的视频,转化为可参与模型训练的触觉数据。
整套流程分为四步:
沿着此路径,无显式触觉记录的人类视频,最终被转换为可进入世界模型的统一触觉与动作表征。
第一步:从视频中还原接触
Being-H0.8提出TactoHand,旨在从无触觉标注的人类视频中预测稠密伪触觉监督,解决大规模人类视频普遍缺失触觉信号的难题。
TactoHand的核心逻辑是不强求每段视频同步采集真实触觉,而是先利用手与物体间的三维几何关系,推断接触可能性。
在含三维标注的数据中,系统可获取已配准的手部网格与物体网格。通过计算手部顶点与物体表面距离,并结合双方表面方向,TactoHand能判定手部各位置是否与物体接触。
在此基础上,TactoHand在MANO手部表面的778个顶点上预测两类信息:
一是接触标注,判定何处已触碰物体;二是邻近度标注,描述手指从靠近到接触的连续过程。
该模型使用21个人—物交互数据源、共计3010万帧数据进行训练,并引入时序信息辅助判断。
毕竟,单帧画面中看似贴合的手与物体,可能仅是视角重叠;结合连续动作,方能更准判断接触真伪。
训练完毕后,TactoHand即可应用于普通第一视角视频。UniHand3.0先重建并跟踪视频中手部运动,再将预测出的接触与邻近度信息映射回统一MANO拓扑。
对重建结果不可靠的位置,系统标记为无效,而非直接判定为“未接触”。
第二步:用真实传感器补充压力
但从视觉推断接触,终究无法完全替代真实触觉传感器。
几何关系虽能恢复接触位置与邻近程度,却难完整获取压力、摩擦、剪切力、滑移及材质等细腻物理信息。
因此,UniHand3.0还引入了约55小时、540万同步帧的压力手套数据,并将真实压力信号投影至同一套MANO手部表面。
两类数据由此互补:大规模人类视频覆盖更多物体、场景与动作,真实触觉传感器则提供更精准的压力信息。
第三步:统一异构触觉数据
但触觉数据有了,格式依然杂乱。
有的仅标记是否接触,有的源自少数指尖传感器,有的提供逐顶点邻近度或压力,还有大量样本缺失某类触觉通道。
为此,Being-H0.8设计通用触觉编码器,在统一手部拓扑上构建由粗到细的触觉金字塔。
从整只手是否接触,到具体区域、指尖,再到逐顶点压力或邻近度,不同来源数据均可映射至对应空间粒度。
每个触觉token除记录接触、邻近度或压力外,还携带三维位置、拓扑位置、左右手信息及有效性标记。
其中,有效性标记尤为关键。因为“无压力传感器”与“压力读数为零”,本质截然不同。
最后,模型通过Perceiver结构,将长度不一、密度各异的触觉输入,压缩为固定数量的触觉token。
第四步:对齐人手与机器人动作
触觉表示统一后,还需跨越人手与机器人间的动作鸿沟。
人手、灵巧手和平行夹爪在几何结构、自由度及控制空间上差异明显。同一“捏住”“抓取”或“松开”动作,在不同本体上可能对应完全不同表示。
为此,Being-H0.8设计TopoHand,将手部表示拆解为手腕位姿、形态编码、20个规范关节角及夹爪张开量,使语义相近动作落入相同表示槽位。
它并非将所有手改造为同种结构,而是让人手、灵巧手和夹爪开始使用一套可相互对齐的动作语言。
至此,从普通视频还原的隐式触觉、真实传感器采集的压力信号,以及不同本体动作数据,才真正统一于同一套表示体系。
这套数据流水线解决了触觉“来源与统一”问题:
TactoHand从大规模视频补全接触监督,真实传感器提供精准压力信息,通用触觉编码器将异质信号转为统一触觉token,TopoHand进一步对齐人手与机器人动作。
完成准备后,触觉才真正接入Being-H0.8的“预测—执行—反馈”链路:训练时助其学习接触带来的状态变化,部署时作为实时反馈,持续修正后续动作。
团队介绍
最后,简单回顾一下Being-H系列背后的团队——
BeingBeyond(智在无界)。
BeingBeyond成立于2025年5月。创始人卢宗青系北京大学计算机学院长聘副教授、智源学者,长期从事强化学习与多模态模型研究。
学术界内,他最早探索利用大规模人类视频训练具身模型,这也成为BeingBeyond此后技术路线的起点。
纵观Being-H系列发展,这条路线大致经历三个阶段。
第一阶段解决“人类视频怎么用”。从Being-H0到Being-H0.5,团队验证了利用人类视频预训练具身模型的可行性,让机器人能从人类操作中习得可迁移动作经验。
第二阶段关注“怎么规模化地用”。从Being-H0.5到Being-H0.7,团队扩大数据规模,进一步攻克跨本体学习与隐式世界建模难题,让海量异构人类视频真正参与具身模型训练。
至Being-H0.8,问题进入第三阶段:人类视频怎么高质量地用。重点不再单纯堆砌数据量,而是通过清洗、动作恢复、触觉标注及表征统一,从海量原始视频中提取更准确、更具物理意义的训练信号,以高质量数据驱动模型进化。
因此,Being-H0.8补上的不仅是具备触觉能力的世界模型,更标志着Being-H系列数据路线的一次转向:从验证人类视频能否用,到解决海量视频如何规模化使用,再到深入追问,能从这些视频中提取多少真正有价值的物理经验。
对BeingBeyond而言,核心壁垒也不再仅是拥有多少视频,而是能否将数据收集、清洗、动作恢复、触觉标注、世界建模与机器人控制串联成完整链路,持续将原始视频转化为机器人可学习与复用的物理经验。
