AMD为什么押注一个违背半导体周期的AI芯片方向?

半导体产业研究 2026-08-11 18:45
AMD为什么押注一个违背半导体周期的AI芯片方向?图1



【内容目录】

1.为什么“为模型造芯片”首先撞上半导体周期?

2.有些AI芯片的性能已接近NVIDIA GPU,企业为什么还是不换?

3.CUDA为什么让GPU路线越来越难绕开?

4.Taalas到底把芯片专用化推到了哪一步?

5.AMD拟收购Taalas,想买到什么?

6.模型专用芯片怎样回本?

引言

2026年8月6日,AMD宣布拟收购加拿大AI芯片公司Taalas,计划把其技术纳入未来加速器路线图,并与Instinct GPU开发系统级方案。

Taalas成立于2023年,由Tenstorrent联合创始人Ljubisa Bajic创办。常见AI芯片通常先制造通用计算硬件,再在运行时将模型权重从外部存储器加载到芯片中;Taalas则试图反过来,在芯片设计和制造阶段就把特定模型的基础权重直接固化进硬件。公司称,其首款芯片HC1采用TSMC 6nm工艺,在一颗技术演示芯片中固定了Llama 3.1 8B(约80亿参数)的基础权重。

这条路线把效率潜力和周期风险绑在了一起:模型几个月就可能改版,为它制造的芯片还来得及交付并收回成本吗?

一、为什么“为模型造芯片”首先撞上半导体周期?

模型几周或几个月就能改版,芯片却要经过设计冻结、制造、封装、测试和交付。等芯片做出来,原来针对的模型可能已经换代。

AMD为什么押注一个违背半导体周期的AI芯片方向?图2

图1|模型从A迭代到D,芯片仍在制造和交付。

专用芯片通过提前固定更多计算路径和模型信息,可以减少运行时的控制开销和数据搬运,但代价也很直接:一旦模型发生较大变化,与之对应的硬件设计也可能需要修改。Taalas试图缩短的正是改版时间。其待审专利申请描述了一种做法:复用大部分底层电路,只调整负责固定模型权重的高层金属连接。

这些金属层同样需要通过光刻掩模形成。该专利申请称,修改高层掩模的成本只有修改底层掩模的1/101/100EE Times采访称,HC1更换模型只需修改两张掩模。Taalas首席执行官还称,把模型转换为芯片设计所需的RTL代码约需一周。这能缩短模型改版的设计时间和掩模成本,但晶圆制造、封装和测试的周期仍然无法省掉。

二、有些AI芯片的性能已接近NVIDIA GPU,企业为什么还是不换?

但周期并不是AI芯片进入生产体系的唯一门槛。一些通用AI芯片已在特定任务和测试中接近NVIDIA GPU的整机性能,企业仍不会因此轻易换平台。真正难换的是整套生产体系:框架、算子库、编译器、多卡通信和部署工具都要重新适配,团队经验也要重建。换芯片往往意味着上线变慢,成本和风险上升。

这套生产体系并不是天然属于GPU,而是在长期技术演进中逐步围绕CUDA形成的。GPU最初服务于图形渲染,其大规模并行计算能力后来被证明适合神经网络。NVIDIA于2006年推出CUDA,把GPU开放给通用计算;2012年AlexNet用GPU训练ImageNet后,深度学习对GPU的需求快速增长。此后cuDNN、框架、编译器、多卡通信和调试工具持续围绕CUDA积累,最终形成今天难以替换的生产体系。

绕开CUDA的路线一直在发展。华为用CANN支撑昇腾,Google以TPU和XLA构建自己的软硬件体系,AMD也用HIPIFY迁移部分CUDA代码。但换个平台,函数库、实际性能和多卡运行仍要重新验证。还有一条更激进的路线,是减少对通用软件栈本身的依赖,FixyNN把CNN部分网络固定进硬件;HNLPU进一步尝试把大模型权重固化进芯片互连。Taalas则公开了HC1技术演示芯片,并称其在制造时固定了Llama 3.1 8B的基础权重。这已经不只是换一套CUDA替代品,而是在把原本由软件决定的一部分计算,提前变成硬件。

三、CUDA为什么让GPU路线越来越难绕开?

换平台困难还只是表层。CUDA更深的壁垒,是它已经嵌进模型开发和部署流程。模型最终要落实为矩阵乘、注意力等具体计算,由GPU内核执行。新模型走向生产,不仅要能跑,还要打通低精度计算、多卡并行和部署。已有内核、函数库和通信工具可以直接复用;缺少关键组件时,团队就要自己补算子和内核,重新验证精度、性能和稳定性,并随着GPU和框架升级持续维护。

AMD为什么押注一个违背半导体周期的AI芯片方向?图3

图2|模型从结构和算子进入GPU(图形处理器)内核,再受存储和多卡执行约束;成熟GPU路径会反过来塑造模型工程选择。

这笔工程成本也会反过来塑造模型设计。GPU的算力、显存和互联决定性能边界,CUDA生态则把适应这些约束的优化方法沉淀成成熟工具。为了在现有GPU集群上跑得更快、更省,团队会调整模型并行、压缩KV Cache、改变专家路由,或重写注意力计算。久而久之,模型工程与GPU软硬件栈越来越深地相互适配。但既然模型可以迁就硬件,另一种思路就是反过来,让硬件更彻底地迁就模型。Taalas走的正是这条路。

四、Taalas到底把芯片专用化推到了哪一步?

理解Taalas,可以先看AI芯片的一条基本取舍:芯片越通用,越容易适配不同模型;越专用,效率潜力越高,但模型变化时改芯片的压力也越大。Taalas走的正是高度专用化的一端:它甚至把模型权重固化进芯片,因此获得更高效率的同时,也必须解决模型快速迭代带来的改版问题。

中央处理器(CPU)把较多电路留给分支、缓存和控制,擅长处理难以预知的程序。图形处理器(GPU)用大量并行单元处理AI计算,仍可通过软件更换任务,但效率高度依赖内核、数据布局和多卡通信。张量处理器(TPU)进一步固定矩阵计算路径,让编译器提前安排执行,同时仍能在芯片造好后加载多种模型。市场上的专用化路线已经很多,Trainium、Gaudi、Groq、Cerebras、Etched等芯片从计算单元、数据流到芯片形态做了不同程度的专用化,但大多仍是在芯片制造完成后加载模型权重。

Taalas则直接针对具体模型造芯片。HC1在制造时固定了Llama 3.1 8B的基础权重;模型发生较大变化,芯片也可能需要重新定制甚至制造。

AMD为什么押注一个违背半导体周期的AI芯片方向?图4

图3A|CPU与GPU保留较多运行时选择;TPU及其他AI ASIC把更多计算路径提前固定。

AMD为什么押注一个违背半导体周期的AI芯片方向?图5

图3B|Taalas的两份专利申请分别描述固定权重的连接网格,以及“模型核+微调区”;EE Times称HC1片上SRAM可存微调权重或KV Cache。输入输出仍需流动。

五、AMD拟收购Taalas,想买到什么?

AMD可能看中的核心能力,是把模型基础权重直接做进芯片。GPU在生成文字时,需要不断从显存读取大量权重,性能和能耗容易受内存带宽限制。Taalas的专利思路是把一部分权重选择直接固化在金属互连中,让芯片运行时少读权重、少搬数据,从而提高带宽受限推理的生成速度和能效。公司自测中,HC1运行Llama 3.1 8B的单用户速度达到每秒16,960个Token。

固定基础权重,并不等于模型被完全锁死。另一份专利在芯片中保留少量可改写区域,用于LoRA等微调;HC1片上SRAM还可保存微调参数和KV Cache。也就是说,固定的是Llama 3.1 8B的基础权重,提示词、上下文和部分微调参数仍可调整。

但这些性能优势仍缺少大规模实物验证。目前公开芯片只有运行Llama 3.1 8B的HC1,性能数据主要来自公司自测;HC1采用3位和6位参数,公司自测的模型质量低于GPU基准。面向DeepSeek R1-671B的方案仍停留在模拟阶段,公司预计需要约30颗不同的定制芯片;第二代4位方案也仍待实物验证。

放回AMD的产品线看,Taalas补上的可能正是“为具体模型造芯片”的能力。它的价值首先在于用专用化换取更高的推理性能和能效,但这种优势并非对所有负载都一样大:如果瓶颈主要来自权重搬运,固定权重的收益更明显;如果大量时间花在KV Cache、中间结果或芯片间通信上,收益就会下降。

六、模型专用芯片怎样回本?

AMD为什么押注一个违背半导体周期的AI芯片方向?图6

图4|具名模型的专用化投入要在需求下降前摊回;可复用的平台和IP可以跨代回收。

这类芯片能否回本,主要取决于两个变量:模型能稳定运行多久,以及调用量有多大。Taalas设想的是,让同一套“芯片+模型”持续运行一年,用推理成本的节省覆盖定制、制造、部署和运维投入。

但这笔账目前缺少真实客户数据。Taalas公布的单用户速度为每秒16,960个Token,来自公司自测;成本优势也主要基于公司估算,仍要等批量产品验证。

AMD真正承担的是模型周期风险:GPU负责追赶快速变化的模型,专用芯片押注已经稳定的大规模负载。如果模型先变了,芯片还没跑够量,成本就可能来不及收回来。

  参考资料:(上下滑动可查看):

[1] AMD:AMD Acquires Taalas to Advance Compute Solutions for Rapidly Growing AI Inference Market(2026-08-06)。

[2] Taalas:Products(HC1 Technology Demonstrator)

[3] Taalas:The Path to Ubiquitous AI(2026-02-19)。

[4] Taalas专利申请:Large Parameter Set Computation Accelerator Using Configurable Connectivity Mesh(US20250123802A1,Pending)。

[5] Taalas专利申请:Computing Architecture with Model Core and Fine-Tuning Portion(US20250238726A1,Pending)。

[6] EE Times采访:Taalas Specializes to Extremes for Extraordinary Token Speed(2026-02-19)。

[7] CPU、GPU与CUDA官方资料:CUDA Programming GuideGeForce 8800 GPU Architecture Overview(2006-11);Intel 64 and IA-32 Architectures Optimization Reference Manual

[8] AlexNet前的GPU神经网络研究:Large-scale Deep Unsupervised Learning using Graphics ProcessorsDeep Big Multilayer Perceptrons for Digit Recognition

[9] Krizhevsky等:ImageNet Classification with Deep Convolutional Neural Networks

[10] Chetlur等:cuDNN: Efficient Primitives for Deep Learning

[11] Dao等:FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness

[12] 华为昇腾:CANN商用版9.0.0开发文档

[13] Google TPU / XLA资料:In-Datacenter Performance Analysis of a Tensor Processing UnitTPU ArchitectureXLA Architecture

[14] AMD:HIPIFY Documentation

[15] 可编程AI加速器资料:AWS Trainium ArchitectureIntel Gaudi 3 AI Accelerator White PaperGraphcore IPU Hardware Overview

[16] 专用AI架构资料:Groq Tensor Streaming ProcessorSambaNova Dataflow ArchitectureCerebras Wafer-Scale Engined-Matrix Corsair AI PlatformMatX One

[17] Positron资料:Atlas Inference SystemPositron’s $230M Funding Led By Financial Trading FirmsAsimov

[18] Etched:Etched is Making the Biggest Bet in AI(2024-06-25页面存档)。

[19] NVIDIA:Getting Started with Deep Learning Performance

[20] Whatmough等:FixyNN: Efficient Hardware for Mobile Computer Vision via Transfer Learning

[21] Liu等:Hardwired-Neurons Language Processing Units as General-Purpose Cognitive Substrates

[22] 模型适配GPU案例:Megatron-LMLlama 2DeepSeek-V3 Technical ReportInsights into DeepSeek-V3: Hardware for AI Architectures

[23] 推理负载与瓶颈论文:PagedAttentionSpeculative MoEFast and Memory-Efficient Video DiffusionDistServeEfficiently Scaling Transformer InferenceAtom: Low-Bit Quantization for Efficient and Accurate LLM Serving

[24] AMD:Form 10-K(财年截至2025-12-27)(提交于2026-02-04)。

[25] MLCommons:MLPerf Inference v5.1 Results Comparison(2025)。





       







AMD为什么押注一个违背半导体周期的AI芯片方向?图7
AMD为什么押注一个违背半导体周期的AI芯片方向?图9

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
AI 半导体 芯片 AMD
more
全球首款机器人手机开卖!预订突破40万台,9999元起,终身AI免费用
诚邀您莅临16号馆D28 | 上海永铭AI服务器领域电容解决方案亮相2026深圳PCIM展
谷歌Pixel Tag正式亮相:29美元起售,UWB加持能否撼动AirTag地位?
突发,OpenAI八年元老离职!
2026科学智能大会14场平行会议之十丨从“自动化实验”到“智能表征”:AI如何重塑实验科学?
AI代码狂飙后的“质检”困局:Blacksmith获4500万美元B轮融资,估值半年暴涨近十倍
京东方瞄准苹果iPad Air OLED屏幕订单
从阿里P10到Meta副总裁,两位AI明星为何选择“回到原点”?
估值翻倍至133亿美元,腾讯参投瑞典AI编程新贵Lovable
IFA2026首发前瞻:900+国产品牌狂卷柏林,AI家电不再是概念
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号