大模型服务性能监测报告发布:国内词元消耗激增,价格战后迎来显著回调

科技区角 2026-10-23 13:30

【科技纵览】10月23日,中国信通院人工智能研究所携手中国人工智能产业发展联盟,正式对外披露了《大模型词元服务性能监测报告(2026年)》。这份基于2026年前八个月实际运行数据的专业评估,从调用成功率、吞吐速度、首词时延、系统稳定性、定价策略以及上下文窗口支持度等多个核心维度,对当前大模型服务的真实生态进行了全景式扫描。

在算力消耗与处理效率方面,市场热度呈现爆发式增长态势。数据显示,2026年6月,国内大模型日均词元消耗量已攀升至约500万亿规模,这一数字相较于2025年12月实现了近4倍的跨越式增长。与此同时,处理速度也在加速迭代,8月份国内主流模型的TPS(每秒输出词元数)平均值达到78.23,较2025年的均值38.25实现翻倍提升。不过,横向对比来看,国外典型模型在8月的TPS均值高达112.82,整体处理效能依然占据优势地位。

值得注意的是,响应速度的变化呈现出复杂的技术逻辑。国内模型的平均TTFT(首词时延)在8月均值达到1.26秒,相比2025年平均值的0.78秒有所增加;而国外典型模型同期TTFT平均值为2.08秒,同样处于上升通道。报告明确指出,这种时延的拉长并非单纯的性能退化,而是伴随着模型参数量激增、上下文长度扩展以及调用总量大幅上涨的综合结果。

在市场定价机制上,经历了长达两年的激烈价格战后,2026年国内外模型服务价格均出现明显回升。国内模型在2025年下半年归一化均价为6.8元,而至2026年以来,该数值已涨至13.46元,涨幅接近一倍。相比之下,国外典型模型自2026年以来的平均归一价格约为117.8元,尽管价格上调,但仍显著高于国内水平。此外,在上下文处理能力上,被监测模型中支持1M上下文长度的占比已达47.8%,200K及以上容量的合计占比高达95.7%,较2025年底提升了超过76个百分点,显示出行业对长文本处理能力的普遍重视与技术突破。

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
大模型
more
全国产芯片训练的大模型来了!百万上下文,价格比DeepSeek V4.1 Flash更低
超4亿!北京大模型芯片创企获新融资,米哈游、小米、兆易创新参投
苹果新品发布,多款iPhone增加大模型备案编号
iPhone Duo完成大模型备案,国行苹果智能要来了
要什么英伟达,你家的电视盒子也能跑大模型。。。
嘉宾揭晓|瑞美奥纳杨海涛:基于AI大模型的mRNA肿瘤疫苗的开发
1058万元,智谱拿下大模型大单
该如何评测大模型的探索能力?复旦、混元发布新基准ExplorationBench
Groq拟引入3D堆叠DRAM技术 破解大模型推理存储瓶颈
字节Seed评测负责人黄文灏离职,曾主导零一万物Yi系列大模型训练
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号