
出品:具身研习社
2026年的具身智能赛道,热闹是真的,焦虑也是真的。
VLA 和世界模型两条路线从分立开始走向融合,运控模型也在验证scaling 思路。技术路线混沌期,创业公司和大厂轮番召开发布会,所有人都在赌终局路线,所有人都怕押错技术方向,但很少有人愿意承认一个更残酷的真相,在路线分出胜负之前,真正的门槛是迭代效率。
这是一场发生在水下的战争。前台比拼的是模型效果、演示精度,后台比拼的却是整条研发链路的效率和成本。曾有头部企业公开算过账,具身智能研发里“大脑”部分占80%,其中算力占40%-50%,数据约占30%。比真金白银更昂贵的,是时间成本,具身智能的研发链路远长于通用大模型,从多模态数据清洗、分布式训练、仿真并行评估到真机部署反馈,环环相扣。每调整一次模型结构,每更换一次仿真引擎,每切换一次训练范式,都要重新适配一遍底层工具链。
可见,技术博弈期大多数公司都在重复做同一件事,从零搭建一套属于自己的基础设施。结果就是,大量研发资源被消耗在 “让模型跑起来” 这件事上,真正用来打磨核心能力、沉淀场景 know how 精力被严重稀释。有人一周能跑完三轮 “训练-仿真-真机验证”的完整闭环,有的企业却要用三周才能走完。哪怕团队算法天赋再高、路线判断再准,试错次数的鸿沟,迟早会把所有优势抹平,进而和具身智能发展节拍错过。
因此,具身智能需要把所有共性问题抽象出来搭建一个公共层,来赋能所有人的迭代,也就是我们常说的 AI infra,道理很浅显,但这件事,该由谁来做?
AI infra 是典型的重工程积累生意,软硬协同调优、芯片底层理解、万卡级集群调度、全链路故障排查,每一项都需要长年累月的技术沉淀,不是靠砸钱、挖人就能短期补上来的。
而公共基础设施的壁垒,本质是见过足够多的坑。例如百度百舸就曾直接指出行业最隐蔽的成本黑洞。
在百度百舸看来,具身智能成本黑洞最典型的就是算力错配。全民抢卡的浪潮里,“上顶配” 成了行业默认的安全选项,似乎只要堆上最高端的训练卡,就不会出错。这更像一种集体性的安全感消费,而非理性决策,当前具身主流模型大多集中在 10B-20B 量级,高端训练卡专为超大规模模型的高强度并行通信设计,用在中小尺寸模型上,算力、显存、带宽三者根本无法同时打满。闲置的每一分性能,都是看不见的成本溢价。没人愿意戳破这件事,因为用顶配卡永远正确,哪怕它性价比最低。
这正是百度智能云百舸跑到行业第一的底层逻辑。IDC 2025 年中国具身智能 AI 云市场报告显示,百度智能云位居榜首;Omdia 2025中国具身智能AI云市场,百度智能云市占率第一,领先第二名两倍。有人评价百度百舸“无处不在”,但这四个字的真正含义,从来不是全栈通吃,恰恰是有所不为。

注:图左为IDC报告,图右为Omdia
百舸的领先,不靠最炫的技术概念,不靠最顶级的硬件参数,而是靠两个反常识的判断,精准踩中了行业混战期的真痛点。
第一个判断:混战期,灵活性比极致性能更重要。
百度百舸做了一个非常反 infra 直觉的取舍,先克制对极致性能的执念,把保障模型敏捷迭代放在第一位,再在此基础上做分层性能优化。这个听起来不够 “硬核” 的选择,恰恰戳中了混战期最核心的需求:比起单次训练快 20%,能低成本、顺畅地多试十次技术方向,长期价值要大得多。
第二个判断:来自清晰的定位边界。
当下不少大厂一边做基础设施,一边下场自研模型、布局本体,既是裁判员又是运动员。客户天然会有顾虑,把核心研发数据放在竞争对手的云上,等于把命门递了出去。而百度始终锚定纯AI基础设施的定位,不押注任何一条技术路线,不碰模型不碰本体,不与客户争利。这让它能接入全行业最广泛的需求,把一线反复出现的共性问题沉淀成标准方案,形成 “客户越多—方案越成熟—吸引更多客户” 的正向飞轮。
放到更长的产业周期看,具身智能终会走向路线收敛、玩家集中,但在那一天到来之前,基础设施的价值只会越来越重。它不是简单的 “卖铲人生意”,而是整个行业创新效率的底座。
路线越不确定,底座的通用性就越重要;迭代越激烈,基础设施的响应速度就越关键。
所有人都在抬头看路的时候,总有人要低头铺路。路不决定方向,但决定了所有人能跑多快。
在世界机器人大会 WRC,我们邀请了百度智能云主任架构师应茹,从 AI Infra 视角来看具身智能产业的迭代之路,以及 infra 的边界和节奏。以下是对话全文(访谈内容经过编辑)

具身研习社:先请应茹老师做个自我介绍。
应茹:大家好,我是应茹,来自百度智能云。今天很高兴能够代表百度百舸团队,和具身研习社一起从 AI Infra的视角,聊一聊具身智能。
具身研习社:从您的技术背景谈起,您是从什么时候开始成为一名 Infra工程师的?
应茹:我 2013 年毕业后加入百度,我和团队一直从事 Infra 研发工作,也伴随着 Infra 的发展一路走过来。从早期的大数据方向,面向上万台服务器集群开发分布式系统;到云计算方向,面向 CPU、面向 IO 硬件做极致性能优化,构建资源隔离的虚拟化底座;再到今天面向大模型加速的 AI Infra 系统。最近我们专注在百度百舸 AI Infra 系统的研发工作上。
具身研习社:我们应该如何理解百舸?或者说,百舸在整个具身智能领域中的全景布局是什么样的?
应茹:百舸是构建在百度智能云上的一套 AI Infra 系统。对客户而言,百舸的服务起点始于客户获得算力之后。我们会面向客户购买的算力(如 GPU、国产硬件芯片)做适配和优化,也会结合客户模型(大语言模型、通用多模态模型)的结构特点做针对性加速,端到端地让客户模型在我们的硬件算力平台上获得更优的吞吐和性能。

我们从 2025 年起重点支持具身智能行业,围绕具身智能典型的研发环节,形成了一套覆盖数据处理、训练开发、仿真评估到推理部署的完整研发流水线,支撑具身智能实现高速迭代。
具身研习社:我在做功课时,把「百度百舸」「百度智能云」和「具身智能」几个关键词放在社交媒体上做统一搜索,排在第一的第三方评价是「无处不在」。您作为内部人员,喜欢这种评价吗?或者说,您觉得「无处不在」更适合形容百度百舸的哪个维度?
应茹:我其实挺喜欢这个评价。我理解的「无处不在」,不是说我们什么都做,而是体现了一种支撑方式。作为支撑方,我们会参与到具身研发的各个环节中去解决实际问题,比如客户模型结构调整后算力利用率下降、训练变慢,或是仿真引擎变更版本后运行变慢等。这些都是大家在日常研发中会遇到的问题。我们深入到这些环节之后,会针对性地沉淀标准解决方案,帮助大家保持稳定高效的节奏。
「不是说我们什么都做,而是体现了一种支撑方式。」
具身研习社:从我的视角看,「无处不在」精准地形容了百度百舸在具身智能领域的整体布局状态,而且这一点也有官方数据支撑,有报告显示百度在具身智能 AI 云市场排名第一。回头来看,您认为百度做到第一的原因是什么?外界常说百度这次是赢在了起跑时间早,您认同这种归因吗?
应茹:首先,起步早确实是重要的一个方面。在具身智能还没有那么火的时候,我们的团队就坚定地投入这个方向,即便在没有看到回报时也持续投入,我认为这一点非常重要。
同样重要的是我们执行策略的方式:我们以高质量的方式介入具身行业,一直在和具身一线的客户做共创、共研。这个过程是持续的,我们也通过这个过程不断纠正自己在产品和方案上的认知。
「起步早确实重要,但更重要的是百度百舸介入行业的方式,一直在和一线客户做共创、共研。」
印象比较深的一个例子是:具身模型目前仍处于结构未收敛、路线仍在探索的阶段,研发人员会频繁修改模型结构。在这样的场景下,该如何为具身客户选择合适的训练框架?按照以往大语言模型的审美,通常会选择追求极致性能的框架,但这类框架的问题在于会与模型结构高度耦合,客户迭代起来不方便。所以面向具身客户时,我们会适度克制对性能极致的追求,牺牲一部分极致性能,优先兼顾灵活性和模型的敏捷迭代能力,在此基础上再去优化性能。
这个理念以及沉淀下来的方案,在后续推广中获得了相当多客户的共鸣,最终沉淀成一套标准产品,被客户反复使用。
另一个例子是我们最近正在经历的:生成式 AI 需求爆发对算力供给造成了冲击,我们凭借对硬件和芯片的理解,结合对具身行业主流模型尺寸和训练场景的了解,选择了一款适配具身需求、供应情况相对良好、性价比理想的算力方案,确保客户模型能在这样的冲击背景下持续迭代。
这两个例子,都是我们高质量介入行业、与客户实现能力互补、双方共赢的典型案例。

具身研习社:您刚才的回答信息密度很高,值得细细拆解。我想先从整体视角来看,所有能被定义为「卖铲人」角色的企业,某种程度上都代表着一种宏观视角。百度智能云内部有没有对具身智能发展做过总结?或者说,您认为具身智能到今天经历了哪些风向变化?
应茹:这个产业的风向变化其实相当多,是一个快速发展、快速创新的产业。从 AI Infra 的视角看,具身研发在云上呈现两条主要路线。
一条是面向精细化操作任务的 VLA 路线:2023 年 VLA 这一范式被确立,2024 年我们看到 OpenVLA、π0 等模型推动行业探索跨任务、跨场景、跨本体的通用模型策略。2025 年,VLA 的成果开始集中涌现,我们也在这一阶段看到了非常多优秀的开源 VLA。百度百舸也开始密集推出 π 系列、GR00T-N 系列等 VLA 模型的训推加速方案,方便客户二次开发并落地到真实场景。
随着 VLA 的发展,行业关注点开始从「模型能否完成任务」转向「以什么成功率完成任务」「能否完成更长任务」「能否在过程中自我纠错」。围绕这些目标,涌现了不同的后训练范式,比如 π*0.6 采用 RECAP 范式,百舸第一时间集成了 RLinf 的解决方案。2026 年初,行业开始引入世界模型(World Model),让机器人在决定下一步动作之前,先预测该动作带来的结果或下一个状态。这是 VLA 路线在此过程中比较清晰的演进,基础设施也做出了相应迭代。
另一条路线是全身运动控制。这条路线过去的主流范式是针对不同技能或动作训练专用策略,行业一直在尝试将 Scaling 思路引入这一方向,扩充动作数据、模型容量和算力。近期出现了 SONIC 这样的代表性工作,通过大量动捕数据,将运动控制策略从 1M 扩展到了 42M,构建出一个全身运动控制底座。百舸也第一时间关注到这一进展,让客户能够在云上一键将 SONIC 的训练扩展到 128 卡进行复现。

同时,我们也关注到这两条研发主线正在逐步对接融合。例如 SONIC 不仅能接收遥操作输入,也能接受类似 GR00T-N 这样的 VLA 模型发出的高层指令;Gemini Robotics 2 这个 VLA 发布时也明确说明了它具备从手指到脚的全身控制能力。这一趋势对 AI Infra 会带来哪些新的需求,我们也还在持续思考和关注。从 Infra 的视角看,一个好的 Infra 应该持续跟随业务的进步和风向的转变去迭代,支撑业务实现高速发展。
具身研习社:您刚才提到在不同节点做了相应调整,这些是站在后视镜的视角上做的总结。但您身处其中时,如何判断风向会往哪个方向吹?或者说,如何确定当下是转向的节点?
应茹:作为 Infra 的支撑方,我们很少去押注或预判某条路线会成立还是消亡。我们更多是在感知到技术风向变化时,让 Infra 能够快速跟进支持,给客户提供充足的条件和空间去试错、探索。
「我们很少去押注或预判某条路线会成立还是消亡,更多是在感知到技术风向变化时,让 Infra能够快速跟进支持。」

具身研习社:从横向来看,为什么说百度智能云「卖铲人」的角色是最成立的?因为有的大厂也在这个领域布局,既做自研又做投资,还有厂商做本体,为什么百度依然坚持只做 Infra这个边界?
应茹:投资、自研模型、做本体,或是提供 AI Infra 基础设施,这是各家根据自身战略做出的选择。对百度智能云来说,我们聚焦具身 AI Infra,一方面是因为我们看到了行业的共性问题,不管选择什么样的本体、什么样的模型路线,都要解决数据处理、高效训练模型、仿真评估等问题,这些是行业共性问题,解决这些问题对行业是有价值的。
另一方面,我们本身一直在持续做 Infra 相关工作,也比较擅长。在这样的定位下,我们服务了行业最多的客户,能够掌握整个行业最新的风向,基于已有能力做组合和重新定义,为具身行业提供最合适的 AI Infra。
具身研习社:这里有一个衍生问题:大语言模型的 Infra与具身的 Infra 完全不同。具身的差异点在于有硬件的实时反馈,如果我们没有硬件、没有自研模型,怎么能确保 Infra 这条路线是对的?也有人跟我说过,在具身智能领域,「纯 Infra」这个生意不成立。
应茹:我认为这恰恰证明了我们的工作流是扎实的。我们确实没有自己做本体或模型,但搭建 AI Infra 的过程,是与客户深度共创完成的。我们的模型框架是否适配客户的模型,有一套比较完善的反馈机制;我们的数据处理 Pipeline 是否满足客户当下的模型训练需求,也有客户在模型侧、真机侧评测后的完善反馈,支持我们持续迭代。通过这个过程,我们形成了一套与客户共创、及时接收反馈的成熟闭环机制。
应茹:我们在界定自身边界时,判断标准不是「这项工作是否脏活累活」,而是「是否是行业共性问题」。我们认为 AI Infra 要解决的是重复性工作。在具身智能领域,我们看到至少两类具有共性的问题。
第一类,具身智能是被通用大模型赋能的领域,通用大模型已经适配过的基础设施、异构算力,没有必要重新再做一遍。第二类,从具身自身的研发线来看,不管走什么路线,都要解决数据处理、模型训练、部署等问题,每个厂商没有必要从头建立一套,这反而会拖慢整个行业的发展。
所以对 AI Infra 来说,我们解决的是「从 0 到 1」的问题。至于基于这个平台,客户选择什么样的数据去迭代模型、应该增强模型的哪些能力、选择什么样的本体落地到什么场景,这是客户自己要解决的问题,也是具身行业「从 1 到 10」的部分,是他们产品创新的空间,这部分我们留给客户。
「我们解决从 0 到 1 的问题,从 1 到 10 的创新空间,是留给客户的。」

具身研习社:您刚才提到的技术底座,对客户而言其实有两层含义。有企业披露过,具身智能的研发训练中,「大脑」占 80%,其中算力占 40%~50%,数据占 30% 左右,Infra厂商实际上帮客户省下了一大笔钱。但从另一个角度看,Infra 的成熟也代表模型迭代速度更快,这是当下阶段难得的时间窗口。对于百度智能云这样的 Infra 厂商,您认为客户买的是更低的成本,还是时间窗口?
应茹:我认为是「低成本的时间窗口」。具身产业当前处于快速创新的状态,模型路线尚未收敛,意味着大家会频繁尝试、试错。创新往往是在一次又一次实验中获得认知和突破点的。从 Infra 视角看,一次实验依赖的是一整套高效的 AI Infra 工具链。这套设施做得足够高效,就能帮助企业抢占创新先机。
「客户买的是低成本的时间窗口,一套足够高效的工具链,能让他们比别人更早拿到那个创新先机。」
一个印象深刻的例子是 2026 年初,大家都在尝试在 VLA 方向引入世界模型。星海图较早发布了 FAST-WAM 这项工作,通过实验拆解了世界模型能力的最终来源,指出该能力更多来自训练时视频的监督,而非推理时显式的未来视频生成。基于这一结论,行业出了一条成本更低、延迟更低的世界模型推理部署路线,当时在业内引起了广泛关注。
具身研习社:这可能会陷入一个小小的怪圈。现在的具身智能企业虽然体量已经不小,但本质上仍是创业公司。很多人的想法是尽可能在这几年不被大厂资源「碾压」。等这些企业发展成熟后,会不会把 AI Infra收回来自建?
应茹:从行业经验来看,厂商的选择并非「全部自建」或「全部使用云服务」的二元对立。从比较成熟的互联网行业看,有一部分客户会选择将关键能力自建(比如数据库、资源调度),但通用能力使用云服务;也有客户选择用成熟的云服务来托管。
厂商参与 AI Infra 的深度和层面,取决于自身的技术能力、业务体量和投入产出比。我们认为具身行业发展到这个阶段,也会呈现类似的分层状态,云服务与部分自建共存。我们也在为这样的趋势做准备,据我们观察,厂商自建也不会完全从零开始,通常会选择一些开源方案做二次开发和定制化,所以我们也相应提供了一些开源的具身训练框架方案供大家选择。
具身研习社:从整个产业演进的情况看,具身智能的马太效应会越来越明显,未来产业内的玩家可能会逐步收敛。在这样的未来趋势下,对 AI Infra厂商来说,是客户变少了,还是能做的事情会越来越多?
应茹:我认为客户数量的收敛和 Infra 能做的事情变多,很可能是同时发生的。参考一些已经成熟的行业会发现,头部客户对 Infra 的要求会更深层,比如数据量更大、模型结构更复杂,对部署后资源利用率、部署安全性的要求也会更高,这就要求 Infra 提供更深层次、更高价值的能力。
我们最近也观察到,通用大模型领域也有类似现象:虽然大语言模型的玩家数量在收敛,模型架构也趋向共识,但在应用场景延伸之后,面向超长上下文,大家在注意力机制的实现方式上反而出现了分化,这对 AI Infra 而言,难度和工作量都有所增加。

具身研习社:刚才我们聊的都是百度智能云在具身智能中的定位问题,以及做 AI Infra的边界问题。这里有一个不容忽视的细节:百度智能云是工信部人形机器人与具身智能标委会唯一入选的云厂商,我记得我们牵头做了数据与模型相关的评测任务。百度该如何避免规则偏向制定规则的人自己?
应茹:行业标准的价值,不是把某个厂商自己的实现方案写进行业门槛,而是降低不同本体、不同模型、不同基础设施之间的协作成本。对具身智能产业而言,数据格式、接口定义、评测方式等目前还存在各种差异。百度智能云是在一线与客户共创的过程中,把反复遇到的问题抽象成共性规范,与具体厂商做解耦。至于规范的公正性,不是由牵头方自证的,而是依赖后续一整套可公开、可验证、持续迭代的机制。
具身研习社:具身智能所需的 AI Infra跟大语言模型的 AI Infra 完全不同。具身智能需要打通虚拟仿真、真实硬件、模型等整个全链路,几乎处处都是难点,不是一个单独的算力问题。在这样一个到处都是难点的建设期,百度智能云最先找到的突破口是什么?
应茹:我们最先找到的突破口不是某一个单点技术,而是深入一线后发现,具身当时最缺的是一整套研发链路的基础设施。具身模型的研发链路很长:数据处理环节有大量的清洗、标注等步骤,依赖的模型也很多,有些要做图像切割,有些要做轨迹检测,有些要做语义理解。
另外,具身模型的训练无法在训练阶段直接验证效果,你不能只看跑分,而是需要对接仿真环境,或部署到真机查看动作的实际执行效果,再根据反馈指导下一阶段训练配方的调整,形成一个闭环。
我们思考的是,如何把这些环节高效地串联起来,因为客户的创新需要反复走完这整个链路,数据清洗完之后,怎样一键挂载到分布式训练集群?训练完之后,产出怎样对接到推理框架、对接仿真环境去做评估?把这条链路打通,形成一套高效的 AI Infra 设施,再逐个环节解决具体问题,这就是我们的整体思路。
具身研习社:在整个全链路中,具身智能 Infra最重的环节是哪一个?或者说,可以把哪个环节看作具身 Infra 的分水岭?
应茹:我认为每个环节都非常重,我们在每个环节都投入了大量人力。但如果要说分水岭,我更愿意归结为:能否持续在一线与客户共创,感知行业和技术风向的变化,带动我们的基础设施做快速跟进和迭代。
比如 2026 年初,大家开始探索在 VLA 中引入世界模型时,除了行业普遍会做的双塔训练或后训练之外,世界模型的预训练也可能是一个需求,于是我们提前准备了预训练相关的基础设施,包括解决预训练中常见的长序列问题。
另外,在这个过程中我们发现客户可选的开源世界模型较少,所以在 Cosmos 3 开源的第一时间,我们就把这件事拉到最高优先级,率先在云上完成了 Cosmos 3 训练推理基础设施的集成,让客户能第一时间做二次开发。我们还针对 Cosmos 3 长达 130 多页的技术报告,把其中提到的具身相关基础设施环节在云上做了复现,512 卡 Scaling 扩展效率达 97.48%,并研发了异构集群训练加速方案,方便客户在二次开发时直接使用到最高性价比的部署方案。
所以如果说分水岭,不是「今天遇到问题、能不能解决」,而是在感知到需求出现之后,能否识别出「明天」的共性问题,提前预置到 AI Infra 中去支持。
具身研习社:您刚才用了很多「第一时间跟进」这样的字眼,内部是否有相应的响应机制?或者说,我们识别技术演进的方法论是什么?
应茹:我认为有三个方面。首先,我们本身在 Infra 领域深耕十多年,已经积累了很强的技术直觉和技术观,看到一些问题时会天然地敏锐感知到该怎么做。
第二,我们持续与学术界做共创和深度研发,比如与上海交通大学 Scale Lab 穆尧老师实验室一直在做学术界前沿的深度共研,学术界技术风向的变化会促使我们思考:工业界是否会需要这样的基础设施?基础设施是否会有新的要求?
第三,具身模型是通用大模型的一种映射,通用大模型的算法和 Infra 也在持续迭代,这些迭代能否被具身场景复用?复用时是否存在不满足的地方、需要完善的地方?这也是我们持续关注的方向。

具身研习社:我看到百舸前段时间已经正式升级为具身智能专属全栈 AI Infra。但具身智能目前有几条大的技术路线,一条是运动控制类,一条是操作智能。在操作智能中,VLA与世界模型有时被认为互不相容,有时又被认为可以共存。目前百舸是全部都在做,我们是在「赌」它们会同时成立吗?
应茹:我们看到操作类模型VLA和世界模型之间并不是非此即彼的关系,近期越来越多的工作在探索将两条路线结合,把世界模型引入 VLA,借助世界模型对未来状态、动作结果的预测,来提升 VLA 动作执行的成功率。
对于运动控制策略和操作模型而言,通常是两条独立的研发主线,在客户这里也往往由两个不同研发团队负责,但如前面提到的,这两条路线正在逐步对接。对 Infra 来说,我们不会去押注或判断哪条路线会消亡,而是在 Infra 层面全面支持这些路线的演进。
这两大类研发主线在 Infra 层面的工作负载有明显差异,Infra 研发的侧重点也会不同。VLA不论是基于 VLM Backbone,在训练时都需要处理多模态混合输入,将语言、视觉、机器人轨迹、位姿状态混合输入模型训练,由此带来的上下文长度不一致、算力利用率、负载均衡等数据处理瓶颈,是 Infra 层面需要重点解决的问题。
而全身控制策略由于对控制频率和实时性要求更高,参数量远小于 VLA,训练范式更依赖大规模并行仿真和强化学习,适用的硬件算力配置也与 VLA 有差异。这一块我们的重点放在仿真引擎本身与硬件算力的配合上,关注仿真引擎在不同算力芯片上的负载特征、性价比,以及是否存在 CPU 敏感型负载,并据此做针对性调优。
具身研习社:能否举一个真实案例,说明客户在 AI Infra哪个环节被「卡过脖子」?
应茹:客户被 AI Infra 困扰的痛点其实不少,但有一个共同点:社区现有的开源框架和解决方案不是专为具身设计的,直接搬用往往跑不通。
一个印象比较深的案例是操作类模型中的一条典型路线「大小脑分层」:大脑放在云端负责长程任务拆解和任务理解,小脑放在端上负责具体短任务的执行。一些客户走得比较激进,把云端大脑扩展到 200 多 B 这样的量级,而这个量级的模型通常采用 MoE 结构。要针对这样的模型面向具身场景做后训练,会遇到三大难题:多模态混合输入、长上下文,以及 MoE 模型训练。
这三类问题分别引发不同的痛点:多模态输入会造成计算负载不均衡;长上下文会引发显存占用峰值,可能训练中途就「崩了」;MoE 训练则会对专家间的均衡以及 All-to-All 通信给底层网络带来压力。这要求软件框架在序列拼接、序列并行、计算负载均衡、计算与通信重叠等方面有深厚积累,也要求底层网络能支撑 MoE 这类大规模模型的高效通信。百度能够承接这类问题,得益于我们一直从计算、存储、网络等底层基础设施出发,结合训推框架持续打磨优化。

具身研习社:刚才聊的话题都围绕百舸的技术路线和解决方案展开,接下来想聊聊您个人。前段时间我听您讲过,20B 以下的模型不能盲目堆高端硬件,否则会造成算力错配,您还引用了 DeepSeek V4 的案例来支持这个观点。这是一个全民抢卡的行业,「不要买那么好的卡」是您最想纠正的行业认知偏差吗?
应茹:我们并不是想劝客户不要买最高端的卡,而是想纠正一种选型思路:「算力配置越高就越不会出错」。我们看到客户会有这样的顾虑:如果选了一款某些能力有短板的卡,最后模型训不起来怎么办?相比之下,选择一盘所有配置拉满的卡,是最稳妥的方案。但恰恰是这种思路,容易让企业踩到行业中比较隐蔽的一个成本黑洞:算力错配。根据我们的实践经验,没有哪一款卡能成为所有任务的完美的解决方案。
最高端的训练卡是为超大规模模型设计的,具有高强度并行需求、非常高的卡间/机间互联带宽需求。如果用它来训练尺寸相对较小、通信模式也不复杂的模型,就无法同时把算力、显存、带宽都发挥到极致,这时企业就不可避免地为闲置的能力支付了溢价,而这部分溢价其实是没必要的。
在我们看来,目前具身主流的模型尺寸大多在 10B、20B 量级以内,我们最近也把实验上探到了 64B,这样尺寸的模型不一定需要最高端的训练卡就能高效运行。对具身客户而言,真正需要的不是指标最高的卡,而是在相同预算下,能跑出更具性价比、更高效的训练吞吐的方案。
「没有哪一款卡能对所有任务都是完美方案;真正需要的不是指标最高的卡,而是在相同预算下能跑出更具性价比、更高效吞吐的方案。」
具身研习社:所以可以理解为百舸的答案是「科学的资源分层配置」。在 Cosmos 3 中我也看到了类似的思路,把钱花在对的地方。这在百舸内部是一种方法论,还是对客户的一种顾问式服务?
应茹:我认为是这几个方面的结合。首先,百舸这个产品是载体,我们的方法论是这个产品的核心;顾问式服务,是我们与客户共创过程中不可或缺的一部分,我们需要与客户不断碰撞,纠正自己的一些认知。
像 Cosmos 3 的优化,对我们来说也不是一次偶然的优化。从模型结构来看,它的VAE 编码结构与后半部分的 DiT 结构,算力负载特征不同。从 Infra 视角出发,负载特征不同,天然就需要分离,寻找合适的算力配置,通常能获得更好的收益。我们在通用大模型领域也看到了类似做法,比如 EPD 这样的分离技术,这也体现出我们在 AI Infra 不同领域中融会贯通的一套技术方法论。
具身研习社:最后我们说到一个比较大的判断:AI Infra的上限,某种程度上决定了模型的上限。对于 Infra 厂商而言,我们该如何保持自己的技术直觉和迭代速度?
应茹:我很认同这个判断。首先,如果 AI Infra 足够高效,它就能支撑模型的创新想法快速转化为可落地的训练成果和部署成果。对我们而言,坚持与产业界深度合作、与学术界深度共研,是保持技术直觉的重要手段。通过这些合作,我们不仅能感知到一些共性的、成熟的需求,还能非常敏锐地感受到行业技术风向的变化,比如我们前面提到的 VLA 范式的确立、世界模型的引入、全身控制策略的 Scaling 尝试,这些都是我们感知到的前沿风向变化。感知到需求之后,我们也会有一套相应的迭代机制去应对,让 Infra 在需求爆发之前就做好准备。
具身研习社:这个过程中难免会遇到「看起来相似」的两件事,我们如何避免陷入路径依赖?
应茹:我认为在路径和理念上,既有依赖,也没有依赖。我们可以看到,很多应用系统或软件负载上,仍能看到大学课堂里学过的操作系统原理的影子,底层原理之间是可以互通的,但原理互通不代表方案可以照搬,方案需要根据当下的状态和特点重新设计。
技术一直在演进,从大数据到云计算再到 AI Infra,上层承载的软件负载一直在变化,底层依赖的硬件也从围绕 CPU 转向以 GPU 为主的软硬协同的研发范式。底层原理和工程判断是可以复用的,但我们会根据硬件特点和负载变化,重新设计解决方案。
「如果 AI Infra足够高效,它就能支撑模型的创新想法快速转化为可落地的训练成果和部署成果。」
具身研习社:在整个百度 AI Infra的全链路中,您觉得哪一层最特别,或者说最具「百度特色」?是继承了以往的数据积累,还是这种工程化积累?如果只能保留一层,您会选择哪一层?
应茹:首先,我们积累的数据能力,以及底层的计算能力、基础设施能力,都非常重要,在这个过程中发挥了很大作用。但如果一定要保留一层,我会选择把它留给我们的团队和组织。
我们的组织能够在具身还没有看到确定性回报、行业还没有火起来的时候,就坚持让团队投入在具身一线;团队又能在一线反复试错,把有效的产品和方案沉淀下来,让客户反复使用。我认为这样的配合过程非常重要,产品会迭代,技术也会变化,但一个能在不确定性下坚持投入、持续沉淀的团队和组织,才能穿越技术的变化,持续为行业创造价值。
「产品会迭代,技术也会变化,但一个能在不确定性下坚持投入、持续沉淀的团队和组织,才能穿越技术的变化,持续为行业创造价值。」

具身研习社:沿着当前具身行业的发展情况,您觉得面向具身的 AI Infra还会经历什么样的变化?
应茹:目前我们在一线感知到几条变化线索。
第一是数据层面的变化。具身数据的种类正在变得更多样,数据规模也在扩大,比如从真机数据扩展到无本体数据,不同数据在处理环节上有不同特征,对底层存储也会提出不同要求。如何在反复的数据打标、清洗环节中高效实现数据的存取,是我们要提前准备好的一点。
第二是模型尺寸会继续扩大。当模型尺寸更大时,我们之前「优先保证灵活性、优先保证敏捷性」的认知,是否需要转变为「追求极致吞吐」?框架也需要相应地做转型。
第三,目前行业的关注点还在「如何训出这个模型」,所以 Infra 的重点还集中在云端,从数据处理到训练。但后续如果行业关注点转移到部署侧、端侧,就要求 Infra 做好云端协同。我们也与上海交大 ScaleLab 推出了 AHA-WAM,将推理延迟从 415ms 降到 41ms ,并把视频生成这类较重的部分放在云端,把动作执行这类较轻的部分放在端侧。这样的架构会对 Infra 提出不同的要求,尤其是要解决好云端协同的低延迟问题。总的来说,我们会从这几个方面去应对。
具身研习社:听起来未来的挑战会越来越难,这些挑战会让您感到兴奋吗?或者说,百舸准备好了吗?
应茹:作为 Infra 从业者,我其实非常期待这样的变化。每一次业务演进、每一次技术风向的转变,都是一次考验,同时这些变化本质上也是 Infra 进步、迭代的核心驱动力。
「每一次业务演进、每一次技术风向的转变,都是一次考验,同时这些变化本质上也是 Infra进步、迭代的核心驱动力。」

