不一样的大模型芯片，来了！

“对做芯片的人来说，首先要搞清楚一件事：这颗芯片的用户是谁。”在日前与半导体行业观察等交流的时候，李宗霖如是说。

遵循这个原则，在2023年参与创立芯片设计公司XHEART（新芯航途）的时候，他和团队就统一了意见——XHEART以智驾为起点，而在智驾这一应用领域里，用户就是算法模型。大家最终的目标是“交付出一个软硬协同、整体最优的解决方案”。

于是，在和算法团队交流过以后，新芯航途决定：用大模型定义芯片。

将时钟拨回到2023年前后，国内外已经涌现了不少智驾芯片公司。英伟达和高通这样的巨头更是傲视全球。在国内，亦已经跑出了几家第一梯队的智驾芯片公司。但新芯航途团队却毅然决然地走向大模型芯片这个赛道。

之所以能一往无前，按照李宗霖的说法，这一方面固然与这个市场有很巨大的潜力有关。用他的话来说，竞争者众多，说明大家都看好这一市场；另一方面，在与Momenta创始人曹旭东进行多番交流以后，李宗霖对汽车智驾芯片的未来有了新的观察，这也最终坚定了这位二十多年芯片老兵进军这个市场的决心。

在日前的产品发布会上，李宗霖也分享了他创业时的两个判断：一是⼤模型会改变智能驾驶，也会改变芯⽚的设计⽅式。

李宗霖表示，过去的智驾系统，基本是由多个"⼩模型"拼出来的——感知是⼀个模型，预测是⼀个模型，规划⼜是另外⼀个模型。这种看起来合理的模式背后其实隐藏着几点挑战：首先，信息在模型传递过程中维度降低了，导致⼤量的有效信息丢失了，数据利⽤率也被拉低了；其次，性能天花板比较低，泛化能⼒比较差。“⼩模型能⼒的上限本质上就是规则设计者的认知上限。所以⼩模型时代的智驾，本质上是⼀个‘⼈脑驱动’的系统——⼯程师写顶层规则，机器通过⼩模型来执⾏这些规则。”李宗霖解析说。

他进一步指出，随着Transformer端到端大模型的发展，智能汽车正逐步从传统规则驱动走向真正的数据驱动。这一变化不仅改变了汽车理解世界和作出决策的方式，也对底层芯片提出了新的要求：

首先，芯片的价值不能仅仅体现在纸面算力上，更重要的是能否在量产大模型的实际部署环境中，将算力转化为更快的推理速度和更及时的系统响应；

其次，芯片设计不仅需要满足当前模型的部署需求，还必须具备面向未来模型迭代的前瞻性。如果缺乏对模型架构演进趋势的预判，未能在设计阶段预留充足的硬件资源，芯片在产品量产后就可能难以适应后续模型升级，进而限制OTA迭代能力；

再者，芯片算力的提升还必须兼顾能效表现。单纯通过增加晶体管数量和计算资源来提升算力，可能带来功耗的大幅增长，而汽车应用场景对散热条件和能耗存在明确限制。因此，如何在有限的功耗和散热条件下实现所需的计算能力，是芯片走向规模化应用必须解决的问题。

李宗霖创业时的另一个判断是——⼤模型将推动新⼀轮科技变⾰，⽽汽⻋，是公司让这场变⾰率先惠及更多⽤户的起点。

在他看来，一项好技术的价值，在于它最终能⾛进多少⼈的⽣活。要做到这⼀点，芯⽚就必须要同时兼顾性能、能效和成本。让更强的模型能够⾼效运⾏，也让⻋企能够把这样的能⼒带进更多量产⻋型。

“我们希望⽤更好的⼤模型芯⽚，降低先进技术⾛向规模应⽤的⻔槛，让更多⽤户⽤得上、⽤得起好的智能驾驶。当技术服务的⼈越来越多，真实场景和⽤户需求也会推动产品持续进步，规模化应⽤则能够⽀撑下⼀轮研发。”李宗霖表示。于是从定义第⼀颗芯⽚开始，新芯航途就希望⾛通这条路：把技术做好，把产品做出来，让更好的体验⾛向更⼴泛的⼈群。

正是这种洞察，让李宗霖带领新芯航途走上了“大模型定义芯片”的这条路。

众所周知，过去打造产品的思路是先做好芯片，再去适配模型。在产品算法和应用都相对固化的过去，这种做法是没有问题。但进入到AI时代，因为模型的快速变化，传统的模式就有点捉襟见肘。

在见识到这个局限之后，李宗霖带领新芯航途从真实的⼤模型需求出发，重新思考计算、存储和数据流动，让芯⽚的资源真正⽤在模型需要的地⽅，这就是公司所谓的“⼤模型定义芯⽚”。“我们坚信，这是值得投⼊的技术⽅向，能够让⼤模型的进步真正⾛进产品、服务⽤户。”李宗霖强调。他还特别指出，作为公司非常重要战略合作伙伴的Momenta，在公司定义芯片的过程中发挥了重要作用。

Momenta CEO曹旭东在分享中也从一个算法供应商的角度谈了他对大模型定义芯片的看法。

他表示，随着自动驾驶等物理AI应用向大模型发展，通用芯片已经难以同时满足性能、功耗、车规可靠性和成本要求，必须从大模型的实际需求出发重新定义芯片架构。因为相比通用芯片，前者性能有望提升10倍。尤其是面向规模化L4自动驾驶，模型参数规模至少需要达到10B，大概率需要100B（1000亿）。但通用芯片很难在车端有限的功耗、严格的车规可靠性和成本约束下支撑如此大规模的模型，这被他称为通用芯片的“不可能三角”。

为此，曹旭东认为，芯片不能再简单沿用通用GPU的设计思路，而需要围绕大模型的计算需求进行专门设计，在满足车端约束的同时，支撑更大参数规模的模型运行。“这一技术方向不仅适用于自动驾驶，也有望解决机器人等物理AI领域面临的算力瓶颈，成为推动物理AI能力突破的重要基础。”曹旭东进一步指出。

李宗霖也告诉半导体行业观察，在定义芯片的过程中，Momenta算法团队提供未来算法发展趋势及实际应用需求方面的输入，而新芯航途的芯片团队则负责芯片架构与设计等核心工作。双方通过深入交流，明确算法对芯片平台的核心需求及未来发展方向，以此推动芯片与算法的协同优化。“Momenta是XHEART重要的战略合作伙伴，双方并没有任何捆绑。公司和Momenta的合作遵循市场化原则，并不限制向其它客户供货。所有客户合作都双向选择、公平合作。换而言之，其它基于Transformer架构算法的算法方案商，同样可以基于XHEART芯片做适配和开发。”李宗霖重申。

据透露，基于这个理解，新芯航途依托强大的体系优势，率先实现了X7 系列的量产，并在不到 24 小时内点亮全芯片，17 天完成整车闭环，21 天接受合作伙伴实车检验。自8个月前量产以来，该芯片的累计出货已经超过 20 万颗，搭载 10 款量产车型，获得超过 40 款车型订单；

站在这个成绩的基础上，新芯航途并没有骄傲，而是以“量产一代、开发一代、预研一代”的步骤推进产品演进，并在近日带来了公司更新的大模型定义芯⽚ X7 Ultra。

据介绍，作为一款面向端到端大模型智能驾驶设计的车规级芯片，XHEART X7 Ultra的核心特点是以真实量产智驾大模型为优化对象，通过超大核NPU架构、关键算子加速、AI工具链重构和深度异构计算等，提升大模型在车端的实际运行效率。

得益于其领先的配置，X7 Ultra具备700 TOPS大模型算力，能在处理很多智能驾驶任务的时候游刃有余。据透露，这一指标并非单纯依据实验室基准测试得出，而是在真实量产智驾模型、量化后模型精度超过99.99%对齐的条件下实现的。

能达成这样的成就，按照李宗霖所说，公司为X7 Ultra带来的超大核NPU架构功不可没。具体而言，就是将传统小核之间百GB/s级的数据交互提升至超大核内部TB/s级，并通过大容量、高并发多级缓存减少数据搬运和计算等待。同时，针对Transformer模型中的LayerNorm、Softmax、Transpose等关键算子，新芯航途还专门设计硬件加速器，并支持高精度浮点向量计算，以兼顾推理速度与精度。

“如果采用小核架构，受限于单核算力，大模型必须被拆分成多个子模型运行，会带来巨大的数据搬移量，整体效率大幅降低。超大核方案的优势在于能将整套端到端大模型在单颗大核内完整运行，无需在计算中途将数据转出、缓存至外部存储，对大模型负载十分友好。”李宗霖解释说。事实上，从测试数据可以看到，X7 Ultra NPU的计算利用率达到98.7%，相较行业旗舰产品，内存带宽消耗降低80%，能效提升100%。由此可见看到这个架构的先进性。

除了NPU以外，X7 Ultra率先采用了中国首发量产的Armv9车规级CPU，也是该芯片中不得不提的另一个亮点。据介绍，借助其继承的 SVE2 向量处理、大集群架构及 L3 缓存访问优化，新CPU能更高效地处理复杂系统任务。相较上一代内核，其性能也提升了20%、能效提升了10%。

此外，针对激光雷达和摄像头等传感器处理需求，新芯航途升级了X7 Ultra的传感器处理子系统，让激光雷达处理能力达到2000万点/秒，摄像头处理稳定性相较竞品也提升100%，改善了传感器处理的实时性和确定性。

软件层面，X7 Ultra对AI工具链进行了深度重构，引入整网级融合技术，将不同层级、不同分支的计算任务统一编排和合并，实现整网内存零拷贝，减少中间数据反复写入和读取外部内存，从而降低内存带宽开销，让NPU将更多资源用于实际计算。

安全方面，X7 Ultra满足ISO 26262 ASIL-B功能安全要求，内置MCU通过ASIL-D认证，信息安全满足国密二级要求，并支持多种物理攻击防护手段。此外，芯片还强调通过高效算力和预留的模型迭代空间，为智驾算法持续升级提供支持。

总而言之，从上述的介绍我们可以看到，X7 Ultra的核心思路并非单纯追求TOPS指标，而是围绕大模型的计算特征重新设计NPU、存储访问、算子加速和软件工具链，再通过CPU、传感器处理及安全架构的协同，提升大模型在车端的实际运行效率。

其强调的正是从模型需求出发定义芯片，而不是让大模型迁就通用芯片架构。

展望未来，曹旭东表示，过去四年，车端模型规模增长约5—10倍，而未来两年有望增长10—100倍，进而推动智驾模型能力实现跨越式提升。基于这一判断，曹旭东预测，2028年有望成为L3、L4自动驾驶的规模化突破节点，类似2024年城市NOA的普及；到2030年，L3、L4则有望迎来规模化落地。

“为了实现这个目标，大模型定义芯片将成为推动智驾摩尔定律进一步加速的关键因素。大模型芯片带来的算力提升，将进一步释放Model Scaling（模型规模扩展）的潜力。”曹旭东说。

李宗霖也透露，新芯航途正在研究算力高达3000TOPS的下一代算力芯片。而依赖于这个算力，能够满足L4级别自动驾驶的需求。

“自成立以来，我们就确定了简单纯粹的共同目标，那就是做出一颗好芯片，交付出一个软硬协同、整体最优的解决方案，为客户创造价值，协助主机厂打造满意的用户智驾体验。”李宗霖强调。从这个角度看，芯片算力的提升只是起点，如何让更大规模的模型在车端真正跑起来，并最终转化为量产车型上的智驾体验，才是这场技术竞赛的真正落点。

显然，新芯航途的团队，已经为此做好了充分的准备。

点这里👆加关注，锁定更多原创内容

*免责声明：文章内容系作者个人观点，半导体芯闻转载仅为了传达一种不同的观点，不代表半导体芯闻对该观点赞同或支持，如果有任何异议，欢迎联系我们。