当地时间8月25日,OpenAI公布了其首款自研AI推理芯片“哈拉佩尼奥”(Jalapeño)的最新第三方基准测试数据。
数据显示,在单位功耗下,该芯片的AI推理性能达到英伟达旗舰算力系统GB200、GB300的1.5至1.9倍,端到端推理延迟时间大幅减少40%至70%(即响应速度提升1.7至3.6倍)。这一突破意味着,在缓解大语言模型(LLM)及AI智能体(AI Agent)应用的高功耗与高延迟痛点上,专用ASIC芯片正展现出显著优势。

图片来源:OpenAI
“哈拉佩尼奥”是OpenAI于2026年6月发布的首款自研AI推理芯片,研发代号源自墨西哥哈拉佩尼奥辣椒。与通用GPU不同,“哈拉佩尼奥”是一款专为大语言模型推理场景优化的定制芯片(ASIC),主要用于支撑ChatGPT等产品的实时推理,旨在降低推理成本、提升推理速度。
从研发细节来看,该芯片由OpenAI负责整体架构设计,并与博通(Broadcom)深度合作完成芯片实现、网络连接及量产整合,由台积电代工,研发至流片(Tape-out)全周期仅耗时9个月。
在硬件配置上,“哈拉佩尼奥”额定功耗为700W,测试中的持续运行功耗控制在550W以内。该芯片通过将芯片、高带宽内存(HBM)、网络与推理软件协同规划,极大地减少了模型推理过程中的跨节点数据搬运,从根本上优化了KV Cache(键值缓存)管理,有效解决了高并发下的延迟瓶颈。
在部署节奏方面,OpenAI硬件负责人介绍,该芯片目前已进入工程样品测试阶段,计划于2026年年底前开展小规模试点部署,规模化商业应用与吉瓦(GW)级数据中心建设预计将在2027年全面铺开。
全球半导体观察
往期推荐




关于集邦咨询

TrendForce集邦咨询作为全球高科技产业研究机构,致力于洞察AI全链脉络,助力企业战略决策。研究版图聚焦AI产业增长引擎,涵盖:HBM、DRAM、NAND Flash等关键存储产品;GPU、ASIC等AI算力芯片;晶圆代工、芯片设计及封测;以及AI服务器、显示面板、LED、AR/VR等基础设施与终端,延伸至自动驾驶、具身智能、光伏储能、低空经济等“AI+”垂直产业集群,同时提供核心零部件价格预测与数据库。凭借多年深耕,为政企客户与投资者提供行业研究报告、企业战略咨询及品牌整合行销等服务。

