用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」

机器之心 2026-07-26 11:30
用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图1
机器之心发布

新智具身联合复旦大学发布 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图2 系列技术报告:用 3 万小时触觉数据补齐具身智能 “手感”。


先来看一段现场实景录制的视频:



视频里机器人能干的活儿特别多:煮鸡蛋面、调柠檬水这些居家料理,还有收纳整理,它样样拿手;就连工厂流水线装配、精细零件组装、线材缠绕梳理这些精细活也全都不在话下。这正是 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图3 系列模型展现出的强大实操能力。


不知道大家有没有见过机器人实操翻车的名场面:插头边缘反复摩擦却难以插入、抓取塑料瓶时力道失控导致瓶身瘪陷、叠好的毛巾在松手瞬间散落…… 在具身智能的落地进程中,这类 “视觉系统判定无误,但物理交互瞬间翻车” 的现象屡见不鲜。


这些失败指向了一个行业共识:决定机器人能否在真实物理世界中生存的关键,往往不只在于视觉感知的精度,而更在于接触瞬间的触觉反馈。摄像头能确认空间位置,却无法感知 “是否接触”、“顶到边缘”、“夹力过载” 或 “发生滑移” 等,缺失这层反馈,正是阻碍机器人跨越 “最后一厘米” 的核心痛点。


近日,上海新智具身智能科技有限公司(NeoteAI)联合复旦大学可信具身智能研究院,正式发布了 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图4 系列三份技术报告,把触觉从 “辅助模态” 跃升为 “核心基建”。 三份报告合起来看,恰好拼出一张蓝图 —— 一套触觉数据底座,搭配两条不同侧重的技术路线。


更具行业价值的是,项目的数据和模型会进行开源,可以直接查看项目的完整链接:https://research.neoteai.com


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图5-Foundation:

统一触觉 “方言”,构建 3 万小时交互语料库


触觉数据的规模化应用长期受制于各类触觉设备输出的数据格式互不兼容。不同传感器输出的凝胶形变图、电容矩阵或六维力向量,犹如缺乏统一语法的方言,难以在同一模型中融合。


为此,NeoteAI 搭建的 NeoData 数据集旨在打破这一壁垒:



用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图6


另外,团队还提出了 NeoForce 统一表征模型。无论底层传感器硬件如何,都能够学习到具备迁移能力、时序结构化的触觉表征,以供下游具身智能策略使用:哪里被按?按多大力?有没有横向拉扯?这种 “触觉普通话” 有效解决了跨设备数据融合难题。


为了更直观地理解,下面的视频完整介绍了 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图7-Foundation 的各项核心功能,包含硬件、数据样例、全面评测等。



用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图8-VTLA:

以 “触觉预判” 赋能轻量级 VLA


数据底座夯实后,团队接下来思考的是如何将触觉真正融入到 VLA 技术路线之中。


在现有的多模态融合实践中,直接将触觉图像与 RGB 视觉信号进行简单拼接往往面临挑战:由于触觉信号仅在物理接触瞬间产生高频响应,大部分时间处于 “静默” 状态,极易被海量视觉 Token 淹没。更为关键的是,即便模型成功提取了当前触觉特征,其本质上仍是对已发生动作的滞后反馈 —— 这种 “后视镜” 式的感知机制,使得在动态交互中始终慢半拍。


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图9


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图10-VTLA 提出了一种全新的方案:不依赖滞后的当前触觉,而是预测未来 50 步内的触觉演变。该模型将当前触觉编码为紧凑的潜在 Token,结合视觉上下文预判滑移、受力等趋势,从而指导动作模块提前调整。不同任务上显示:用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图11-VTLA 在插插头任务中成功率达 85%,而同类视觉方案仅 60%;在拔钥匙的任务成功率达 99%,而视觉方案为 35%。


此外,用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图12-VTLA 还突破了传统模仿学习仅依赖专家成功轨迹的局限,让机器人从失败数据中实现自主进化。模型结合触觉信息利用部署后数据以及 human in the loop 的数据训练了一个进度评估模型,使其能够识别任务执行阶段,甚至识别出 “退步” 与 “救场” 等复杂行为。通过结合离线强化学习,机器人在毛巾折叠、书包收纳、纸箱折叠等长程任务上的成功率,分别从 50%、35%、20% 大幅跃升至 95%、80%、75%,真正实现了从失败经验中汲取教训的持续进化。


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图13


下面的视频直观的展示了 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图14-VTLA 在精细化操作方面的强大能力。



用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图15-TWAM:

在世界模型中重构 “触觉想象”


如果说 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图16-VTLA 是加装预判雷达,用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图17-TWAM 则是对机器人 “认知中枢” 的重构:它把触觉放进世界模型,让机器人在动手之前,先在自己的 “想象” 里完整的推演一遍操作视角和手感。


现有世界模型大多局限于未来视觉图像的生成,在驱动真实机器人时面临严峻的物理对齐挑战:画面里杯子被抓住了,但手指夹没夹稳?画面里插头对齐了,但下一秒会不会卡住?这些触感信息完全缺失。


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图18-TWAM 要做的是同时预测未来的视频、触觉和动作这三个相互耦合的序列。用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图19-TWAM 采用混合专家架构,内置视频、触觉、动作三个异步专家网络,视频专家从预训练模型热启动,触觉和动作专家用更窄的结构,最终总参数量 72 亿,仅相当于全宽方案的一半。


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图20


在仿真与真机测试中,用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图21-TWAM 展现出显著优势:仿真平均成功率达 84.5%(而世界模型最强基线为 36%);真机 8 项任务平均成功率 46.3%(LingBot-VA 为 21.9%)。消融实验进一步证实,去除 “未来触觉预测” 或 “当前触觉条件” 均会导致性能显著下降,确立了触觉在世界模型中的不可或缺性。


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图22


以下视频展示了 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图23-TWAM 的模型实际操作能力。



触觉:具身智能的下一个 Scaling Law?


纵观 用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图24 系列三份报告,NeoteAI 释放了明确的行业信号:用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图25-Foundation 验证了触觉模态具备类似视觉的 Scaling 潜力;用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图26-VTLA 证明了触觉可以自然的接入现有 VLA 架构;用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图27-TWAM 确立了触觉在世界模型顶层设计中的核心地位,使其与视觉模态真正平起平坐。


这意味着,机器人的认知范式正从单一的 “视觉驱动” 向 “视触融合” 演进。它们不再仅仅通过 “看” 来理解世界,而是开始像婴儿一样,通过主动的触觉探索来验证假设并规划下一步动作。“看得见杯子不等于拿得稳,认得出插座不等于插得进”—— 这一物理世界的常识,终于被写入了机器人的底层逻辑。


尽管距离 “随手一摸即知轻重” 的通用具身智能仍有长路要走,真实场景下的数据采集成本、跨本体泛化能力以及推理实时性仍是亟待攻克的工程难题,但 NeoteAI 的这组工作已实质性地推动触觉从 “小众研究方向” 跃升为 “具身智能核心基建”。


用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」图28


具身智能的下一篇章,或许不再仅仅是 “让机器人看懂世界”,而是真正 “让机器人摸透世界”。



© THE END

转载请联系本公众号获得授权

投稿或寻求报道:liyazhou@jiqizhixin.com


关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
more
2000万入局脑机接口,东星医疗在下一盘怎样的棋?
脑机接口被列为中科院“十五五”规划重要优先领域!
全球脑机接口×医保创新场景大赛决赛结果公示!
红杉、云启领投,华超神控完成2亿元Pre-A轮融资,押注「非侵入式AI脑机接口」
无创脑机接口(EEG)电极新突破:免剃发、可拉伸、能复用
第四届中国脑机接口大赛:下肢运动类特等奖是如何拿下的?
百万奖池 | 2026脑机接口大赛报名通知
专访 g.tec 创始人Christoph Guger:“脑机接口正在进入新的技术周期” 丨BIOHK系列报道
全球首款脑机接口AI眼镜发布
脑机接口的“自由电话”时刻:Paradromics做到了什么,国内差在哪
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号