阶跃星辰开源 Step 5 Preview：600B MoE 权重上线，可跑超长 Agent 任务

北京时间 10 月 15 日晚上大约 9 点，阶跃星辰（StepFun）把旗舰模型 Step 5 Preview 的权重开源了。BF16 和 FP8 已经挂在 Hugging Face 和 ModelScope 上；NVIDIA 还转发了 NVFP4 版本。API 其实前几天就能用，今晚的新闻是：权重可以自己下、自己跑了。

阶跃星辰是上海的一家 AI 实验室，英文名 StepFun，X 账号 @StepFun_ai。他们做大模型和 Agent 相关产品，Step 系列是自家旗舰。官网介绍里，Step 5 Preview 主打「能跑很久」的智能体任务：写代码、做专业知识工作，金融方向他们也专门强调过。

官方公告帖

https://x.com/StepFun_ai/status/2110717330657616092

产品页

https://www.stepfun.com/step-5-preview

项目地址（Hugging Face）

https://huggingface.co/stepfun-ai/Step-5-Preview

项目地址（ModelScope）

https://modelscope.ai/models/stepfun-ai/Step-5-Preview

推理与部署代码（GitHub）

https://github.com/stepfun-ai/Step-5-Preview

开了什么

按官方帖和模型卡，核心规格是这些：

• 稀疏 MoE：总参数约 600B，每个 token 激活约 27B

• 上下文最长到 1M token（输入加输出合计）

• 原生支持文本和视觉输入；模型卡写明输入为 text / image，输出为 text

• 面向长周期 Agent：编程、软件工程、专业知识工作、金融等

权重格式方面，官方宣布的是 BF16 和 FP8；NVIDIA 另外挂了 NVFP4 检查点。BF16 在 Hugging Face 上是单独仓库，不是把 FP8 用参数一改就变成 BF16。

阶跃星辰开源 Step 5 Preview：600B MoE 权重上线，可跑超长 Agent 任务图2

阶跃星辰官网 Step 5 Preview 产品页顶部（截自 stepfun.com）

顺便说一句：他们还给这模型配了开源 Agent 脚手架 Step Code（刚更到 v0.1.4），侧重长任务里盯住目标、持续推进、用可验证结果检查是否做完。那是另一套工具，默认走阶跃的 API，不是今晚权重包本身。

技术博客

https://platform.stepfun.ai/blog/inside-step-5-preview

Step Code

https://github.com/stepfun-ai/Step-Code

NVIDIA 怎么说

NVIDIA AI 账号很快转发了恭喜帖。原话大意是：这是阶跃星辰迄今最大的开源权重发布；这个 600B MoE 被设计成能支撑最长大约 24 小时 的 Agent 任务；在 NVIDIA GB300 上用 NVFP4，吞吐大约能到 每 GPU 近 8K tokens/秒。

阶跃星辰开源 Step 5 Preview：600B MoE 权重上线，可跑超长 Agent 任务图3

NVIDIA 放出的 GB300 NVL72 上 NVFP4 吞吐曲线（图源：X @NVIDIAAI）

NVIDIA AI 转发帖

https://x.com/NVIDIAAI/status/2110730497907216588

NVFP4 检查点

https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4

说明：图上的「近 8K」对应低交互、高吞吐那一端；交互变高时，单卡吞吐会往下掉。这些是 NVIDIA 自己放出的数字，第三方复现还没看到。

怎么自己跑

模型卡写得很清楚：用 vLLM 或 SGLang 可以起 OpenAI 兼容 API；离线推理有独立的 Transformers 实现。官方还推了对应的 Docker 镜像（例如 vllm/vllm-openai:step-5-preview、lmsysorg/sglang:step-5-preview）。

FP8 的参考硬件配置（来自官方模型卡，不是我们测的）：

• vLLM / SGLang：1 台 B300，4 卡（TP4 / TEP4 / DEP4 等）

• 或者 1 台 H200，8 卡

BF16 更吃显存：模型卡示例是 1 台 B300 的 8 卡，或 2 台 H200 共 16 卡。另外写明：这些配置是「能装下权重」的起点，不保证还能塞满 1M 上下文的 KV cache。

BF16 权重

https://huggingface.co/stepfun-ai/Step-5-Preview-BF16

Day-0 生态方面，阶跃还点名了 NVIDIA build.nvidia.com、NeMo AutoModel、以及 Fireworks、Together、Modal、DeepInfra、Featherless 等托管渠道。想少折腾的，可以先用云上 API；想私有化，就按模型卡上的 vLLM / SGLang 命令来。