新智元报道
为什么 OpenAI 和 Anthropic 都开始花大力气大价钱下场做芯片了？
8 月 5 日，Anthroipic 正式确认组建内部定制芯片团队，为 Claude 设计专用推理芯片。
所有模型厂商都应该跟随这个新趋势，整合产业链上下游吗？
8 月下旬的 Hot Chips 大会上，OpenAI 公布了自研推理芯片 Jalapeño 的完整基准测试：700W 功耗，对标 NVIDIA 1200W 的 GB200 和 1400W 的 GB300，每瓦吞吐高出 1.5 到 1.9 倍，端到端延迟低 1.7 到 3.6 倍。
同周，英伟达拿出了收购 Groq 后首款量产推理加速器，Cerebras 发布了新一代晶圆级系统，Intel 亮出三条面向 Agentic AI 的芯片架构。
两周后的 9 月 8 日，高通和亚马逊签下 600 亿美元量级的跨代定制推理芯片合作。
三周之内，几乎所有头部玩家都把注意力转向了同一件事：推理。
这些动作背后有一个共同的逻辑：真实应用负载正在反向定义计算体系的每一层。
AI 计算现在正呈现出越来越强的基础设施属性：整个体系能否提供稳定、经济、可扩展的智能供给，比任何一颗单独的芯片的跑分都重要。
与此同时，中国的情况亦有所不同——中国有全球最多的白领，也有全球最大的推理需求。
面对推理算力需求新趋势，中国需要交出怎样的中国方案？
「什么样的计算才是对的」
过去的 AI 推理是一次性的，用户发一个请求，模型算出结果，算力随即释放，可以去服务下一个用户。
Agent 的工作方式完全不同。
一次 Agent 任务可能包含多轮推理、工具调用、记忆检索、中间结果校验和失败后重试，整个流程串成一条持续运行的任务链，延迟逐级累积，系统必须长时间在线并且可恢复，同时还要控制住成本。
算力需求还在涨，但更大的变化在于负载的形态完全不同了：从一次性的短请求变成了持续运行的任务链，这对算力的架构设计提出了不一样的要求。
这种变化已经写进了芯片架构里。
英伟达一直按预填充（Prefill）和解码（Decode）两个阶段来做推理方案，前者算力密集，后者带宽密集，分别用不同类型的硬件去承接。
OpenAI 在 Hot Chips 上展示了一个不同的架构决策：它把推理过程拆成了三步。
https://www.servethehome.com/openai-jalapeno-asic-at-hot-chips-2026/
第一步是预填充（Prefill），算力密集； 第二步是草稿生成（Draft），做投机采样，对延迟极其敏感； 第三步是验证（Verification），带宽密集，伴随突发的 MoE 通信。
三个阶段各自命中不同的硬件瓶颈。
OpenAI 多拆出一步的理由来自 Agent 的真实负载：不同模型和上下文长度会动态改变三个阶段的占比，专用加速器闲置时照样吃功耗。
Jalapeño 选择一颗芯片覆盖三种模式，KV 缓存留在本地，用不上的计算单元直接断电，用同一种均衡架构适应不断变化的负载比例。
这就是 700W 打赢 1400W 的底层原因。
视角拉回到中国。
中国 AI 产业的优势是有目共睹的：
应用层的丰富程度在全球排在前列，从电商、金融、教育到政务，大量场景已经开始接入大模型和智能体；
芯片路线也不缺选择，RISC-V、Chiplet、存算协同、多种加速器架构都有团队在做；
开源社区和开发者生态同样活跃，国产模型在多个基准上已经进入第一梯队。
但这些优势之间存在一个真实的断层：不同芯片之间、芯片和系统之间、系统和软件之间的适配、迁移和调度成本很高。
一个在 A 芯片上跑通的推理框架，迁移到 B 芯片上往往需要大量适配工作；
一套在单机上高效运行的系统方案，扩展到集群时可能遇到完全不同的瓶颈。
当全球头部公司都在把全栈打通的时候，中国的多元路线如果各自为战，多元就会变成碎片化。
9 月 21 日，在北京中关村国际创新中心举行的 AICC2026人工智能计算大会，正是把这道问题放在议程中央。
大会由北京市发展改革委、北京市科委中关村管委会、中关村科学城管委会支持，多家专业机构及开源社区联合主办，阵容横跨整个 AI 计算的上下游。
议题关注的不是哪一颗芯片单项指标最高，而是从应用负载出发，关注 AI 计算的每一层：看芯片、互联、存储、系统、框架和算子如何打破壁垒、协同演进。
北京中关村国际创新中心
看点一：做芯片的人、做系统的人和写推理框架的人，在讨论同一种负载
两院院士、清华大学、IDC、北京智源研究院、北极雄芯、摩尔线程、昆仑芯、浪潮信息以及 Dify、Fireworks、SGLang——从芯片掌舵人到开源核心作者到智能体平台，AICC2026 近 60 场报告，集结了 AI 计算全产业链的关键力量！
他们将研讨：
当 Agent 从一次调用走向持续任务链，下一代AI究竟需要怎样的计算体系？ 存算一体、Chiplet 等新架构如何突破复杂负载瓶颈？ 芯片路线越来越多，怎样才能进入同一个系统，形成整体能力？ 硬件路线越来越多，软件如何协同，不同芯片又怎样形成可扩展的系统能力？
.....
看点二：7 大论坛背后，其实是 7 组尚未形成统一答案的产业问题
7 大主题论坛重磅集结，从 AI 芯片、Token 工厂、开放超节点、大模型、AI 软件栈、AI Work、具身智能，全景式锚定 Agent 时代的算力全貌！
看起来是 7 个技术方向，背后却对应着一系列正在发生的产业争论。
北京开源芯片研究院和智源联合主办的芯片论坛，阿里达摩院、摩尔线程、中科院计算所等讨论下一代架构了； CSDN 主办的 Token 工厂论坛，Fireworks、PPIO 等团队拆解推理供给的商业闭环； OCTC 主办的开放超节点论坛，百度智能云、浪潮信息等讨论国产 AI 硬核底座标准； Datawhale 主办的大模型论坛，上海人工智能实验室、OpeBMB等企业组织参与，聚焦模型架构创新与计算演进； SGLang 核心维护者主导的 AI Infra 论坛，讨论大模型推理的基础设施重构； 清华具身智能研究院主办的具身智能论坛，切入人机共生的临界点问题； Datawhale 主办的 AI Work 论坛，Dify、记忆张量、平凯星辰、商汤等团队讨论智能体从技术创新到企业级落地。
看点三：中国 AI 算力版图也将迎来一次新的观察窗口
除了技术路线，AICC2026 还将揭晓一张备受关注的产业版图。
业内首份聚焦 Agent 基础设施的研究报告《2026 中国人工智能计算力发展评估报告》，将在大会现场重磅发布，并公布中国 AI 算力城市排名。
会有你所在的城市吗？除了最可能名列前茅的杭州以外，还有哪些新一线城市乃至二三线城市黑马会异军突起？
完整议程（报名二维码在最下方，尊贵的新智元读者限时限量免费嘉宾票）：
上下滑动查看精彩
OpenAI 用 9 个月完成了一代芯片的流片，二代三代已经在路上。
按这个节奏，全球推理芯片的格局可能在两三年内基本定型。
AICC2026 的价值，不在于预设一条唯一技术路线，而是让不同路线在真实负载和真实产业需求面前接受讨论，而不是反过来削足适履。
参考资料：
