【新智元导读】不教AI认手,而是从视频天下模子里直接「读」出双手:三大基准SOTA,让百万小时野生视频第一次能酿成机械人的操作课本。。。。。 不是捕不了，，，，，，是一到真实场景就崩——你端碗、拧瓶盖、从口袋掏手机，，，，，，手一被盖住，，，，，，最先进的检测器直接报废，，，，，，后面的姿态重修通盘歇菜。。。。。 机械人要从人类视频里学操作，，，，，，手部轨迹就是最焦点的监视信号。。。。。这份「课本」的质量，，，，，，直接决议了机械人战略学习能到什么水平。。。。。 视频蹊径（OmniHands、Dyn-HaMR等），，，，，，靠跨帧注重力和运动先验以前后帧里找补，，，，，，但时序？？？？？？槭悄孟∪钡氖植勘曜⑹菅党隼吹，，，，，，认手都委屈，，，，，，「猜」被盖住的部分基础学不会。。。。。 这个逻辑很切合直觉，，，，，，视频天生模子天天看互联网上的海量视频，，，，，，它早就学会「脑补」被盖住的手了——只是此前没人从「手」的角度去挖掘。。。。。 这三样能力，，，，，，恰恰是手部动捕这些年求而不得的工具——一个13亿参数的视频大模子在海量互联网视频上自然涌现出来的「天下先验」。。。。。 打个例如：一个画了十年画的人，，，，，，他闭着眼都知道手怎么摆、怎么动。。。。。你不必再教他认手，，，，，，只需要一支笔，，，，，，让他把脑子里那只手直接画出来。。。。。 训练分两步：先在大规模EgoDex数据上做枢纽骨架叠加打底，，，，，，再切到MANO网格叠加做精对齐，，，，，，全程不损失基座模子对场景和物体的明确能力。。。。。 两条分支各管一摊——一条整合手的全局信息输出枢纽姿态，，，，，，由于手指弯曲是牵一发动全身的事；
；；一条逐枢纽定位输出2D坐标，，，，，，由于「手指在画面哪」是个局部问题。。。。。 手部召回率和F1（综合权衡「有没有找到手」「找得准禁绝」的检测得分）均抵达99.9%，，，，，，帧级准确率99.7%，，，，，，帧级过失率相比最强基线下降凌驾96%——纵然在严重遮挡下也险些不丢手。。。。。 这批注，，，，，，视频天下模子从大规模视频中习得的时序一致性、遮挡推理能力、空间几何与手物交互的结构化知识，，，，，，能够为手部运动重修提供强盛的表征支持。。。。。 ACE-ViDiHand给出了一条全新的路：直接从视频里把手的4D轨迹读出来，，，，，，不靠检测器、不怕遮挡——大规模人手视频的自动标注，，，，，，第一次有了可靠的手艺底座。。。。。 当你能从百万小时的互联网视频里稳固提取手部运动，，，，，，把「野生视频」酿成可学习、可扩展的具身数据资产——具身智能的数据飞轮，，，，，，才算真正最先转。。。。。 已往是补丁摞补丁——检测器不可换更好的检测器，，，，，，颤抖大了加平滑？？？？？？，，，，，，遮挡扛不住加运动补全。。。。。工程量越来越大，，，，，，天花板越来越低。。。。。 从「望见手」到「明确手」，，，，，，从「识别行动」到「读取运动」——当视频天生模子的内部表征从天生工具酿成可读取的感知基座，，，，，，具身AI才算拿到了真正可规模
；；氖萑肟。。。。。