刚刚，英伟达新模型上线！4B推理狂飙53倍，全新注意力架构超越Mamba 2

---

  新智元报道  

英伟达最近真的痴迷上「小模型」了。

刚刚，英伟达发布了一个全新的混合架构语言模型系列，Jet-Nemotron。

论文地址：https://arxiv.org/pdf/2508.15884

项目地址：https://github.com/NVlabs/Jet-Nemotron

Jet-Nemotron系列有Jet-Nemotron-2B和Jet-Nemotron-4B大小。

英伟达表示Jet-Nemotron系列「小模型」性能超越了Qwen3、Qwen2.5、Gemma3和 Llama3.2等当前最先进的开源全注意力语言模型。

同时实现了显著的效率提升，在H100 GPU上生成吞吐量最高可提升53.6倍。

在右上角的雷达图中，可以看到Jet-Nemotron简直就是六边形战士。

Jet-Nemotron-4B模型在六个维度MMLU-pro、Math、Retrieval、Commonsense、Code、Long几乎都拉满。

在预填充和解码阶段，Jet-Nemotron-2B在上下文越增加的情况下，相对Qwen 3-1.7B优势越夸张。

一句话总结就是同等硬件与评测设置下，Jet-Nemotron在长上下文的场景里，把吞吐做到了数量级提升（解码可达50倍提升）。

同时在常识/数学/代码/检索/长上下文等维度的准确率不降反升。

相较传统全注意力小模型又快又准。

看来，英伟达盯上了小模型Small Model这个领域。

上一周，他们刚刚发布了只有9B大小的NVIDIA Nemotron Nano 2模型。

在复杂推理基准测试中实现了和Qwen3-8B相当或更优的准确率，并且吞吐量最高可达其6倍。

今天就推出了更小的Jet系列，体量降到了2B和4B模型。

Jet-Nemotron有两项核心创新。

• 后神经网络架构搜索（Post Neural Architecture Search，PostNAS），这是一个高效的训练后架构探索与适应流程，适用于任意预训练的Transformer模型；

• JetBlock，一种新型线性注意力模块，其性能显著优于先前的设计，如Mamba2。

与之前从头开始训练以探索新模型架构的方法不同，PostNAS在预训练的Transformer模型基础上进行构建。

同时支持对注意力块设计的灵活探索，从而大大降低了开发新语言模型架构的成本和风险。

PostNAS首先确定全注意力层的最佳放置位置，然后再搜索改进的注意力块设计。

PostNAS从一个已预训练的全注意力模型出发，并将MLP冻结。

随后对高效注意力块的设计进行由粗到细的搜索：

先确定全注意力层的最优放置位置，再选择最合适的线性注意力块或采用新的线性注意力块，最后搜索最优的架构超参数。

通过将PostNAS应用于基线模型后，在所有基准测试上都取得了显著的准确率提升。

在预训练的Transformer模型中，并非所有注意力层的贡献都是相同的。

PostNAS揭示了预训练Transformer模型中重要的注意力层。

KV缓存大小是影响长上下文和长生成吞吐量的最关键因素。

PostNAS硬件感知搜索能够发现一些架构，在保持相似生成吞吐量的同时，拥有更多参数并实现更高的准确性。

通过PostNAS，引入了JetBlock：一种新颖的线性注意力模块，它将动态卷积与硬件感知架构搜索相结合，以增强线性注意力，在保持与先前设计相似的训练和推理吞吐量的同时，实现了显著的准确率提升。

下方使用完全相同的训练数据和训练方案，对Mamba2 Block与JetBlock进行了公平的对比。

Jet-Nemotron-2B和Jet-Nemotron-4B在全面的基准测试中达到或超过了主流高效语言模型（例如Qwen3）的准确率。

同时运行速度明显更快——分别比Qwen3-1.7B-Base快21倍和47倍。