新闻里的 AI 靠裁员赚钱，实业里的 AI 开始解决问题

几万亿参数的前沿大模型不断在新闻里改变着世界，让全球股市在一天内涨跌几千亿美元。但公司用什么技术，通常取决于它的预算。离开雇佣大批高薪程序员的科技行业，最先进的大模型更多是谈资。

一项前沿技术真正进入各行各业、改变每个人的生活，往往要等到它不再性感，成熟到 “无聊”。最近进入这个阶段的，是 Transformer 之前的明星——CNN、RNN 架构的模型。

十年前，科技媒体最关注的创新科技公司是做这些模型的 “AI 四小龙”。英伟达来中国办活动，黄仁勋将海康列为跟阿里云一样重要的 AI 合作伙伴。

今天，这些公司不再被人讨论，而曾经的前沿技术也足够便宜，进入了生产线。

双十一前夕，多个极兔转运中心装上了新的 AI 服务器。每台服务器盯着一个转运中心上千个摄像头的实时画面，每秒刷新 8 次。包裹卡住、分拣员用力扔快递，服务器一分钟内就会发出通知，派人处理。

在苹果一家中国供应商的生产线上，一百多个激光 3D 打印的钛合金零件组装成折叠屏铰链。每个零件和装好的铰链，最后都要放上支架检查。产线上没有纪录片里那种扭着脖子看放大镜的工人。干活的是一排十几个摄像头，每秒拍 10 张，边拍边调整位置。照片全部在流水线里一台类似 PC 的 AI 服务器上检测。人只负责把合格的零件搬走。

一些司法部门下班后，办公楼里的小型服务器还在处理历史档案。这些数据不能、也不需要上传到对外服务的大模型，楼内服务器上的 27B Qwen 就能把它们整理成数据库。第二天上班，工作人员像用豆包一样提问，就能准确查到相关历史案件怎么处理，附上出处。

这些场景不需要最大的模型。十年前流行的视觉模型，加上规模较小的大语言模型——参数规模通常只有 Kimi K3 几分之一甚至几十分之一，已经能完成不少工作。

这些场景里的 GPU 都由登临提供，一块卖几千元到几万元。今年前 4 个月，登临卖了 10000 多块。在价格敏感的行业里，它一单一单替掉了英伟达的推理芯片，甚至游戏显卡。

快递业今天更像自动化工厂。占地 30 万平米的极兔大型转运中心，传送带总长 40 公里。货车运来的快件倒上分拣机，扫码后进入不同的传送带，再装车发往全国。

这里的传送带，平均一天出 1000 多起故障。包裹被护栏挂住，就可能挡住后面的包裹，堵住一整条传送带；有时包装被撕裂卷进机器，导致整条线停下；如果面单损坏，查不到包裹从哪儿来、该到哪儿去，就成了快递业说的 “无头件”，等着赔客户。

这样一个转运中心，光专门盯着流水线和分拣操作的摄像头，就有将近 3000 个。

“人根本看不过来。” 一位工程师说。监控室的大屏幕通常一屏放 16 个画面。每个画面停 1 分钟，仔细看包裹有没有异常，平均 3 个小时才能轮一遍，中间有 170 多分钟盲区。

管理人员凭经验安排巡查路线。事故最多的路线，一公里距离，随时有三个人不间断巡查。即便这样，事故平均也要 30 分钟才被发现，处理又要几分钟。

顺丰第一个大规模用 AI 盯住转运中心全部生产环节，极兔紧随其后。今年，多个极兔转运中心相继收到 AI 服务器，里面分别装着 8 张登临 KS38 GPU。

如果把这台服务器上的 AI 当成一个活物：它待在一片漆黑里，面前是一块比 IMAX 还大的巨幕，由 1000 个 1920×1080 的画面拼成。巨幕每秒刷新 8 次，它也要看 8 遍。脑子里运行的是 “图像分割模型”：先从画面里认出包裹、勾出轮廓，再判断它有没有卡住。

现在包裹一卡住，服务器 1 分钟内就通知到人，10 分钟内故障解除，恢复运转。人不用再密集巡查、紧盯屏幕，只要按 AI 的提示去现场处理。

检测用的是 YOLO 等开源视觉模型，有的只有几十 MB，不大，难在每秒要处理 8 次。每 0.125 秒，摄像头传回来压缩过的视频流，GPU 上的硬件解码单元先把视频还原成一帧帧图像，再抽出要检查的画面，调好尺寸和数据格式，送给对应的模型，完成检测。

开发人员试过较早的英伟达 V100，要四台服务器、买 32 张卡，算力才够——GPT-3 是一万多张 V100 训练出来的。他们测过另一家国产 GPU，算力够，但没法同时解码 1000 路视频，得买两台，成本就上去了。实体行业必须抠每一分钱。最后极兔买了登临的服务器，一台几十万元。

服务器有富余算力，工程团队用它来跑大模型，识别暴力分拣。我们从几家快递公司了解到，分拣时摔坏包裹，快递员为赶时间提前上传照片谎报送达。这些不规范操作招来的平台罚款和赔偿，平均每单超过 2 分钱，一家公司一年就是数亿元。

包裹轻重不一，分拣员力气也不同，光看动作很难判断他是不是扔得太重。工程团队先用小模型找出分拣时移动太快的包裹，再比对肢体动作，判断是否可能违规，准确率只有七八成。但将小模型筛出来的可疑案例交给大模型，准确率能提到 90% 多，“这就可以用了”。

AI 抢走人的工作，是今天最常被谈论的风险。但在利润微薄的工业领域，更常见的情况是：企业本来就雇不起、也雇不到足够多愿意干枯燥活的人，只能让机器自己干。工厂里的质检就是这样的工作。过去，年轻人每天十几个小时对着放大镜，找屏幕、电路板上的微小划痕和虚焊，看到泪流不止。

在东莞一家工业测试公司门口，我们的手机摄像头被贴上了胶带——这是苹果的要求。两三年前起，苹果陆续要求制造商全部用上 AI 光学检测设备，先采购了送给他们，调试好证明可用，制造商再自己采购。我们去的，就是给苹果造检测设备的公司之一。

它的产品一台卖 100 万元以上，放在客户流水线的末端。机械臂把生产好的零件抓上检测台、固定住，一列最多 20 个摄像头开始拍，每秒 10 张。设备不停换灯光颜色、调整零件位置，判断尺寸合不合格、表面有没有划痕。

上个月，我们在深圳、苏州走访了多家检测公司。有的检查电路板上几百个零件是不是全部焊好，一台卖十几万元；有的检查芯片和屏幕面板有没有损伤，一台最多能卖上千万元。比它们更便宜、更贵的也都有。

视觉检测最早靠工程师写规则，用 CPU 就够。疫情前不久，检测设备开始用 AI 识别缺陷，也装上了 GPU。

这些公司起初标配英伟达 RTX 3060、4070 等游戏显卡——这是英伟达利润率最低、性价比最高的产品。但这两年，英伟达游戏显卡跟着 AI 芯片一起涨价，一年调好几次，有时一两个月都买不到货。现在这几家都换成了登临的 KS19 GPU。

这个行业有几百家公司，每家专做一个细分领域，从挑水果到检查晶圆上的损伤。年收入少的几千万元，2-3 亿元已算中等规模。一百家加在一起，也未必超过商汤上市前的融资额。他们请不起年薪 200 万元的 AI 博士，但也因此造出足够便宜的设备，把 AI 送进了同样利润微薄的工厂产线，提高了产品品控。

跟极兔一样，检测公司也开始让大模型和小模型搭配工作。

每台设备运行几十个甚至更多的 YOLO 小模型，通常一类问题就需要一个模型。工程师给良品和次品拍照，标出缺陷，反复调参数，训练模型。

做屏幕和半导体检测的苏州高视，已经买来服务器，用大模型训练 YOLO 模型。按目前的测试结果，大模型训练小模型比老工程师快，效果也比新手好。

登临 2017 年成立时，芯片还能在中美之间自由买卖，也还没有 GPU 国产替代的故事。当时任何一家做 AI 计算芯片的公司，都要回答一个问题：客户为什么用它不用英伟达？

这个问题至今也成立。今天在中国没法合法买到英伟达性能最强的芯片，但它的很多推理芯片依然正常销售、使用。大互联网公司、工业企业部署了数以十万计的英伟达 A10、A30、L40、L2、L4 推理芯片。甚至发布十几年的推理芯片 Tesla T4，阿里云仍有使用它的 GPU 实例。在一些工业客户那里，国产厂商还要和几千元的英伟达游戏显卡竞争，运行视觉检测的模型。

英伟达的优势也不止单卡性能。台积电的产能、成熟的供应链和庞大的出货量，帮它压低生产成本、摊薄研发投入。几十年积累的各种芯片相关专利设计，也能在多款产品上复用，进一步获得成本优势。

CUDA 是英伟达的另一大优势，推出 20 年来超过 600 万开发者在用它写程序，是 AI 应用的首选开发平台。换用其他芯片，包括 Google TPU 等 ASIC 芯片，都要修改程序、重新测试。

芯片创业公司没有这些优势，规模更小、在生产上也有更多成本。如果做一个跟英伟达一样的产品，抢最先进的零部件，不可能比英伟达便宜。

“如果一家公司的竞争力主要靠买内存、买 IP，再花钱锁定产能，最后比的就是谁有钱。” 登临联合创始人王平对我们说，他们在初期调研后决定把钱先投在自己的核心计算设计和软件上，先让客户的业务运行起来，再扩大规模，造更复杂的产品。

登临最后选了 AI 做突破口：设计芯片时加强 AI 常用的矩阵计算，保留客户需要的通用计算能力，让检测、识别等场景的成熟模型跑得更划算，“在 AI 上做一个偏科生”。

王平说，登临定义产品 “基本上是以客户应用的指标来做”。团队先按芯片面积预算估出能堆多少算力，再结合功耗用模型预测性能，确认客户愿意付钱，才往下设计。

视频分析客户希望一张卡接更多摄像头，登临就得同时提高解码能力——压缩视频来不及还原成画面，后面的模型就没东西可识别。所以定义产品时，登临就把支持更多路解码当作和英伟达同类产品竞争的指标。

计算部分也按这些需求分配资源。英伟达的 GPU 按固定比例集成矩阵计算单元（Tensor Core，主要负责 AI 计算）和通用计算核心。同一代产品之间的性能差距，取决于集成了多少 Tensor Core，但两者的比例不变。

登临则把决定 AI 加速性能的矩阵计算单元单独拆出来。多款 GPU 的通用计算核心不变，但矩阵计算单元可调。这样在同样的芯片面积里——对应生产成本——它能拿出更大比例做 AI 加速，在 AI 相关运算上提供更高性能。

内存设计上，登临也有类似的取舍。它创办同期，英伟达推出的 T4 推理芯片使用 GDDR6 显存，之后在近年相对主流的 A10、L2、L4 等产品，以及近期消息称数家互联网企业购买的 RTX PRO 5500 也同样使用 GDDR 显存，只有部分针对公有云大模型部署的 GPU 使用昂贵的 HBM 高带宽内存。登临前三代芯片都用跟手机一样的 LPDDR 内存，更便宜、自己可以买到需要的授权。

LPDDR 内存比同期的 GDDR 功耗更低，但带宽只有 1/3。为此，登临在芯片里配置了较大的 SRAM，用来暂存计算结果，再配合软件，让模型后一层直接使用前一层留下的数据，从而减少数据在芯片与外部内存之间的往返。代价是 SRAM 本身也占用芯片面积。

登临控制这些开支，先从限制自己开始。成立 9 年，公司仍只有 280 人。

“我们只卖卡，连服务器都不卖。” 一位登临人士说。小团队就做更少的事，把 GPU 卖给实际企业客户，如果服务大型政企项目，则只卖卡给系统集成商及算法公司，由合作伙伴对接复杂的需求。追逐大型政企项目能做大营收规模，但利润率低，需要大量人手支持，最终都会体现在每张卡的成本里。

2017 年 11 月 11 日，王平从美国登机，次日到苏州，第三天就开始为尚未注册的登临工作。头一天，他忙着买锁、垃圾桶和打印机，“真的是什么都没有”。到年底，团队约有 10 人。

2007 年，李建文、王晨辉和王平先后加入芯片设计授权公司图芯（Vivante）。李建文负责 GPU 及通用计算的设计授权产品，王晨辉负责驱动软件、系统集成和技术支持，王平负责性能分析和特性定义。图芯把整套 GPU 设计交给中国团队，几人因此参与过核心计算设计。

成立前约半年的客户和供应链走访，让登临定下方向：保留通用计算能力，加上 AI 计算能力。客户担心换卡后要花钱改程序，登临也要支持他们熟悉的英伟达 CUDA 编程方式。

登临筹备成立那年 9 月，英伟达在北京办 GTC China。黄仁勋预言，未来每一笔互联网交易都会用到神经网络；台上展示的最重要合作伙伴里，海康等智慧城市解决方案公司和阿里并列。智慧城市就是当时最先进的 AI 应用，登临选择从这些客户做起。

2020 年夏天，登临第一代芯片在境外流片时，芯片封锁已经开始，半导体国产化已经成了趋势。行业客户对产品提出了具体要求。

摄像头传来的视频要先解码，还原成图像，才能交给 AI 模型。来不及解码，算力再富余也用不上。当时英伟达 T4 最多解码 24 路，登临的目标是 48 路。“至少得做到 2 倍路数才能赢吧。” 王平说。算力够用时，一张卡处理的视频越多，客户需要买的卡就越少。

最终客户看的不是单个卡的参数，而是解决同样的任务要花多少钱。

2021 年春节前半个月，登临拿到了第一代芯片样片，赶在春节前实现了海康要求的 “自己自定义、自己写的算子”，随后调整性能，进入海康的产品线验证。同年 10 月，海康智慧产业股权投资基金参与了登临的 D0 轮融资。

每一代产品的改进，都来自客户对上一代产品的反馈。登临第一代芯片给解码分配了更多面积，编码能力较弱。但一些客户接入 20 路视频，经 AI 处理后，还要重新压缩、输出 20 路，编码能力就不够了。最新一代芯片支持 60 路编解码，客户可以自行分配编码和解码的比例。

让客户已有的 CUDA 程序运行起来，也从创业之初就开始做。2017 年 12 月，王平逐条研究 CUDA 编程指南和公开的指令接口说明，写程序分析各项功能，据此确定设计要求。比如，程序需要多大的共享内存，登临的设计就不能比它小。

很多 GPU 公司都会说自己的硬件可以兼容 CUDA，但 CUDA 只是 API，所谓 “兼容” 就是开发编译器，把 CUDA 程序转换成登临芯片能执行的指令，重写客户最常用的库函数，尽量让程序不用改就能运行。仍然无法运行的，由工程师协助客户修改。

对于国产 GPU 厂商，客户还有一个明确的要求，无痛切换：自己为前一代开发的软件、解决的问题，第二代不要再做一遍。2021 年加入登临、负责对接客户的郑韬当时承诺：客户发现过的软件错误，在下一代芯片里全部解决；主要的软件接口不改，功能保持一致，性能提升。

进入工厂，登临还要面对 Windows 系统。AI 模型、软件普遍在 Linux 环境下开发、部署。但到了工厂，哪怕苹果供应链里的中国生产商，也全部用 Windows 系统。工厂很难培训操作工使用命令行，而这些人都通过网吧学会了 Windows。于是 Windows 就成了行业标准。设备出故障时，供应商也能通过远程工具调整设备。

工业客户太小了，很多年营收只有亿元上下，第一年只买 20-30 张卡，第二年再加一点，一年买 200 张已是大单。奔着国产替代的叙事创业，争取大企业、政府算力项目的芯片公司，很多都不屑于为工业级应用专门开发各版本的 Windows 驱动和相关软件。

订单小，需要解决的软件问题却未必少，登临只能 “一个客户一个客户、一个行业一个行业地啃”。同一个需求出现第二个客户，他们就赶紧做；等第 3、第 4 个客户来时，往往就能直接用。

登临开始准备做过去做不起的产品，计划为下一代产品加入高带宽的 HBM 内存，以及让多颗芯片协同计算的互联设计，逐步进入公有云市场。按照招股书草案，这些产品将分阶段推出：先提高现有企业客户能买到的算力，再做面向更大模型的产品。

“IP 攒够了。” 王平说。他指的是不同芯片上的设计模块。登临每卖出一代产品，都在检验这些设计：硬件还缺哪些能力，哪些常用模块支持不够，哪些软硬件功能做了却没人需要。真实客户才能倒逼芯片公司做出更易用、被更多公司需要的产品。

这种积累已经改变了交付产品的速度。郑韬刚来的时候，第一代芯片送进海康，两个月还在调整软件、驱动。到第三代，一些开发能力有限的中小客户拿到 GPU，两周就能送到自己的客户那里试用。

跟上游供应商之间的合作关系也用时间积累起来。今天全球的晶圆代工厂、存储芯片制造商都比奢侈品公司更挑客户。有钱不够，客户还得证明一年销量高过上一年，并经过长期合作，才值得分到紧缺的产能。登临是长鑫最早的算力芯片客户，从 2023 年开始用它的 LPDDR4X 内存。

王平说，早期融资一两亿元，公司只能一步步做。等自己的计算设计和软件经过客户验证，再筹钱投入更昂贵的内存、封装和后续研发，做更复杂的产品，把这些年积累的设计、技术，以及对客户需求的洞察用在投入更大、竞争也更激烈的市场。

做客户需要的东西，卖到客户愿意付的价格，这是做生意的常识。再先进的技术，再宏大的叙事，最后真的落地用于日常，也都是在解决这样的商业问题。