因为公众号平台更改了推送规则。记得点右下角的大拇指“赞”和红心“推荐”。这样每次新文章推送，就会第一时间出现在订阅号列表里。
2025年12月，英伟达与Groq达成了一项约200亿美元的授权协议，这表明GPU行业巨头开始认真对待专用推理芯片。2026年8月6日美国市场收盘时，AMD也采取了行动：它收购了位于多伦多的初创公司Taalas，该公司做了一件GPU根本无法实现的事情——直接在芯片上刻写模型的权重。
该交易最初由《The Register》报道，被描述为一次真正的收购而非“租用式收购”，尽管具体条款未公开。预计交易将在2026年第四季度完成，前提是获得监管批准。如果你想弄清楚“将权重刻入硅片”究竟意味着什么、实际速度有多快，以及为何它并不会明天就取代所有GPU，以下是详细解析。
Taalas是什么？“将权重刻入硅片”与普通AI芯片有何不同？
传统GPU或AI加速器（如英伟达的H100、AMD的Instinct MI355X，或目前运行Llama和GPT-5的任何设备）会将模型的权重存储在计算核心旁的独立存储芯片中（如HBM或DRAM）。生成的每个权重都会将数十甚至数百GB的数据从内存流式传输到计算单元中。这种内存带宽瓶颈正是推理芯片与训练芯片存在显著差异的原因——问题更多在于数据传输，而非原始的浮点运算量（FLOPS）。
Taalas则采用了一种截然不同的方法：内存计算。它不再使用独立的存储单元来保存权重值，而是将权重直接存储在执行矩阵乘法的晶体管之间的实际连接中。《The Register》将这种设计称为“模型专用集成电路”（MSIC），即专为特定模型设计的芯片，而不是通用加速器，后者可以加载任意指定的模型。
Taalas芯片包含两个独立区域：
mask-ROM“回读网络”——该区域在制造过程中永久刻录模型的权重。这使得芯片运行速度快：无需内存读取，没有带宽瓶颈，权重本身就是电路的一部分。
SRAM“回读网络”——一个较小且可更新的区域，用于存储KV缓存和微调适配器。与掩码-ROM中的权重不同，这部分内容可在运行时动态修改。
这种差异正是整个故事的缩影：在frozen基础模型上实现惊人的速度，顶部则有一个狭窄的可更新层，用于上下文和光线适应。
它究竟快了多少？
Taalas 的首款测试芯片HC1 于2026年2月发布，并采用TSMC的6纳米工艺制造——这并非最先进的节点，这一点对经济性至关重要（下文将详细说明）。运行Meta 的Llama 3.1 8B 模型时，HC1 每秒可处理16,960个token。在发布时，Taalas声称其性能：
比Nvidia GPU 快48倍
比Cerebras 加速器快8.5倍
这些数据来自Taalas 自2026年2月发布的数字，应视为厂商宣称而非独立审计的基准测试结果。不过，公开的实时演示也大致印证了这一说法。chatjimmy.ai 在真实Taalas 硬件上运行Llama 3.1 8B，而Hacker News 上独立测试的评论者报告称，其速度在每秒14,000至17,000个token之间。一位评论者形容其近乎即时的响应，感觉就像从“拨号上网”跳到了“宽带网络”。
值得坦率指出的是：Llama 3.1 8B 是一个老旧且规模较小的模型。一些在HN 上评论过该演示实际推理能力和知识水平的用户发现，其能力有限，这与任何8B模型在硬件条件下的表现预期一致。该演示验证了速度的宣称，而非证明Taalas芯片能让小型模型变得更智能——这两个问题属于不同范畴，此处仅回答其中一个问题。若想了解其他供应商在原始推理吞吐量方面如何竞争，请参见Cerebras如何利用片上硅（wafer-scale silicon）为Gemma 4 31B提供每秒1851个token的性能——这与目标相似但架构截然不同的方案。
Taalas的第二代芯片HC2预计将于今年夏天（2026年）发布，目标是每颗芯片支持200亿参数，比HC1的80亿参数明显更大。根据Taalas自身的计算，在如此高的参数密度下，大约需要50颗芯片来支持一个万亿参数的模型，并通过流水线并行技术将权重分布在各芯片之间——这一技术目前已被用于在GPU阵列中部署当今最大的模型。
为什么不都这么做呢？
整个Taalas故事的核心矛盾在于速度与灵活性之间的冲突，这体现在三个方面。
1. 被锁定在某个模型版本上。
一旦模型的权重被物理刻录到芯片上，该芯片就会永久运行这个特定模型——直到你更改它为止。Taalas表示，更新模型并不需要从零开始重新制造整个芯片：只需改变两层金属，这比从头开始更快、更便宜。但真正全新的基础模型——而非更新版本，而是完全不同的型号——仍需从零开始重新制造芯片。
考虑到前沿实验室几乎每月都会推出新版本模型，这确实是一个现实的限制。在将模型投入硅片之前，你必须对所选模型充满信心，因为一旦决定更改，就意味着需要重新进行一次完整的制造流程，而不是简单的软件更新。《The Register》称这种限制是真正的制约，而非附注。
2. 这种经济性仅适用于廉价mask-ROM上的权重
Taalas在2026年2月接受The Next Platform采访时指出，将模型的权重刻入硅片的成本大约是从零开始训练前沿模型成本的1/100——这是一项重大声明，但仅适用于芯片中的权重部分。多位Hacker News评论者对这一更广泛的观点提出了质疑：KV缓存和微调适配器仍需要传统的可扩展内存（即SRAM区域），因此一旦考虑到整个芯片面积和制造良率，一个完全“烧制”完成的芯片显然并不比GPU便宜。对于mask-ROM权重模块而言，这种节省确实是现实的，但这并不能自动推广到整个系统的成本。
一位HN评论者估计，运行同等规模模型所需的类似NVIDIA硬件成本约为30万美元——这是论坛上的估算，而非经过验证的数据，但有助于厘清所讨论比较的规模。
3. frozen模型无法进行补丁修复
一旦将模型烧录到硅片中，若发现越狱或提示注入漏洞，便无法发布软件补丁——因为该漏洞已嵌入到你已经部署的硬件中。这在Hacker News 的讨论中被直接指出是一种真实的运营风险，也是每个团队在选择用于生产的量化或蒸馏模型时必须权衡的矛盾：速度更快、成本更低，总是以牺牲后期对故障快速响应的能力为代价。
这种技术会应用于手机或消费类设备吗？
目前尚不可行，也不近可能。HC1级测试芯片体积庞大——一位Hacker News评论者估计，在当前密度下，仅存储4GB权重需要约800 mm²的mask-ROM，而同等容量的传统DRAM则只需约80mm²。这意味着面积大约高出10倍，除非是小型模型，否则显然难以适应手机尺寸的功耗和散热预算。
Hacker News评论者普遍认为真正适合的用例比“更快的ChatGPT”更窄且更具吸引力：
机器人领域——一个固定、经过充分验证的模型，部署后不会悄然改变行为
点餐自助服务及其他窄域语音/视觉代理——在极低延迟和功耗下实现“足够好”的智能
自动驾驶与视觉系统——产品生命周期长，可预测性是安全特性而非限制
换句话说，其定位并非“替换你前沿聊天机器人的GPU”，而是“适用于生命周期长、固定的产品，其中锁定的、快速、低成本、低功耗模型正是你所需要的”——包括可预测性。
AMD实际上打算如何利用这一点？
据《The Register》报道，AMD很可能采用一种混合部署模式：将现有的基于Instinct的Helios机架式AI计算平台（AMD已与Anthropic合作将其扩展至2吉瓦的MI450算力）与基于Taalas的加速器结合，构建一种去中心化的架构。这种架构可能的拆分如下：
提示处理（预填充）——计算密集型，仍运行在GPU上
token生成（解码）——由Taalas加速器承担以提升速度
此外，还有一种合理的“tick-tock”节奏被提出：先在Instinct GPU上验证新模型（此时仍可自由更新），待团队确认该模型稳定且无需频繁调整后，再将经过验证的稳定版本迁移至Taalas芯片。AMD AI SVP Vamsi Boppana对此次合作进行了如下表述：
“AMD正在构建一个全栈式AI平台，让客户能够灵活地为各种AI工作负载部署合适的计算解决方案。”
这种“灵活性”的表述至关重要——这正是AMD在成本/token上赢得推理工作负载、超越NVIDIA Blackwell的逻辑基础，只是将竞争从纯GPU对GPU扩展到了专用芯片这一更深层次。
这能运行像GPT或Claude这样的前沿模型吗？
目前尚无定论，但也不排除这种可能性。AMD主要的Instinct GPU客户已包括OpenAI、Anthropic和Meta。《The Register》甚至推测，未来在Taalas与Instinct加速器的组合上部署GPT或Claude模型“并不令人意外”，但这只是媒体的猜测，并非官方宣布的产品。HC2设定的200亿参数目标，以及针对万亿参数模型约50颗芯片的流水线并行计算方案，表明技术路径是可行的；但鉴于上述锁定效应，实际上是否有前沿实验室将已部署的模型固化到硅片上，则是一个尚无答案的问题。
这对AI推理成本意味着什么？
如果速度和成本的宣称在大规模应用中得以验证，最有趣的二阶影响将是测试时的扩展性——即让模型“多思考”一段时间，生成更多推理token后再作答的技术。这是实验室发现的减少幻觉现象较为可靠的方法之一，但目前该方法效率低且代价高，限制了产品每轮查询可为模型提供多少推理时间。
降低每token成本并提升速度10至20倍，正如Taalas类芯片所宣称的那样，这为模型开发者提供了更大的空间，使其在不增加延迟或成本预算的情况下进一步扩展推理预算——这一动态值得关注。同时，token经济正在重新定义哪些模型被部署于何处。
客观来看
AMD-Taalas并非一款GPU杀手级产品，将其视为如此夸大其词的演示版本并不恰当。这实际上是一种押注：在推理任务中，部分关键领域（如智能代理工具、边缘设备以及部署周期较长的窄域常驻产品）更应通过牺牲模型更新灵活性，换取高达10至50倍的速度提升和每token的成本下降。鉴于NVIDIA已通过其Groq授权协议做出类似押注，尽管架构存在差异，但整个行业的发展方向基本一致：专用推理硅片将与通用GPU并存，而非完全取代它们。
原文链接：
高端微信群介绍 | |
创业投资群 | AI、IOT、芯片创始人、投资人、分析师、券商 |
闪存群 | 覆盖5000多位全球华人闪存、存储芯片精英 |
云计算群 | 全闪存、软件定义存储SDS、超融合等公有云和私有云讨论 |
AI芯片群 | 讨论AI芯片和GPU、FPGA、CPU异构计算 |
5G群 | 物联网、5G芯片讨论 |
第三代半导体群 | 氮化镓、碳化硅等化合物半导体讨论 |
存储芯片群 | DRAM、NAND、3D XPoint等各类存储介质和主控讨论 |
汽车电子群 | MCU、电源、传感器等汽车电子讨论 |
光电器件群 | 光通信、激光器、ToF、AR、VCSEL等光电器件讨论 |
渠道群 | 存储和芯片产品报价、行情、渠道、供应链 |
< 长按识别二维码添加好友 >
加入上述群聊
带你走进万物存储、万物智能、
万物互联信息革命新时代
