蚂蚁开源百灵新模型 Ling-3.1-flash，MIT 协议随便用

蚂蚁开源百灵新模型 Ling-3.1-flash，MIT 协议随便用图1

图源：Ant Ling 官方 X

10 月 27 日晚，蚂蚁集团的百灵大模型团队（海外账号叫 Ant Ling）在 X 上宣布：Ling-3.1-flash-1019 正式开源，同时放出它的基座模型 Ling-3.1-flash-base。

先说说百灵是谁。它是蚂蚁集团自研的大语言模型系列，模型都挂在 inclusionAI 这个开源账号下，之前已经陆续开源过好几代 Ling 模型。这次的 Ling-3.1-flash-1019，是在上个版本 Ling-3.1-flash 基础上继续做后训练的升级版。

两个模型的模型卡都写明 MIT 协议，下载、商用、二次训练都没什么限制：

Ling-3.1-flash-1019（Hugging Face）

https://huggingface.co/inclusionAI/Ling-3.1-flash-1019

Ling-3.1-flash-1019（魔搭 ModelScope）

https://modelscope.cn/models/inclusionAI/Ling-3.1-flash-1019

Ling-3.1-flash-base（Hugging Face）

https://huggingface.co/inclusionAI/Ling-3.1-flash-base

分数涨了 3 分

蚂蚁开源百灵新模型 Ling-3.1-flash，MIT 协议随便用图2

图源：Ling-3.1-flash-1019 模型卡

按 Artificial Analysis 智能指数 v4.3.2，新版拿到 44 分，上一版是 41 分。官方图里，44 分和 Kimi K3、Step 5 Preview 并列，比 DeepSeek V4.1 Flash 1017、GLM-5.3 低 1 分。

模型卡还列了几项细分提升：

• AA-Briefcase：约 1400 → 1524 Elo

• AutomationBench-AA：62% → 68%

• CritPt：18% → 26%

• SciCode：54% → 57%

官方的说法是，这次主要强化推理和真实场景里的智能体（Agent）能力，也就是多步骤干活的本事。

模型长什么样

蚂蚁开源百灵新模型 Ling-3.1-flash，MIT 协议随便用图3

图源：Hugging Face 模型卡截图

总参数 560B，每个 token 只激活 25B，是一个大号 MoE 模型：512 个路由专家，每次挑 8 个，外加 1 个共享专家。模型卡标注的上下文窗口是 100 万 token。

蚂蚁开源百灵新模型 Ling-3.1-flash，MIT 协议随便用图4

图源：Ling-3.1-flash 模型卡

注意力部分是“混合线性”的：72 层里 63 层用 KDA（Kimi Delta Attention，线性注意力，长文本更省算力），9 层用 Gated MLA，比例 7:1。前 4 层用普通的稠密 FFN，后面才是 MoE。训练目标除了预测下一个 token，还加了多 token 预测（MTP），推理时可以拿来做投机解码加速。

发布的 1019 权重是 FP8 格式（config 里 quant_method 为 fp8）；base 模型则是 BF16 权重，官方说训练本身用的是 FP8，适合拿去继续预训练、领域适配或做自己的后训练。

怎么跑起来

这个体量单卡肯定不行。模型卡推荐用 SGLang，官方给了专门镜像，示例是 8 张 H200（TP8 + EP8），4 张 GB300 则用 --tp 4 --ep 4：

docker pull lmsysorg/sglang:dev-ling-3.1-flash

docker run --gpus all --network host --ipc=host --rm \
lmsysorg/sglang:dev-ling-3.1-flash \
python3 -m sglang.launch_server \
--model-path inclusionAI/Ling-3.1-flash \
--tp 8 --ep 8 \
--speculative-algorithm NEXTN \
--host 0.0.0.0 --port 30000

注：模型卡示例里的路径写的是 Ling-3.1-flash，想跑新版换成 inclusionAI/Ling-3.1-flash-1019 即可。

也支持 vLLM（目前需要从 vllm 仓库的 vllm 分支源码安装），启动时带上 --tool-call-parser ling3、--reasoning-parser ling3，以及 MTP 投机解码配置。起好服务后就是标准的 OpenAI 兼容接口：

curl -s http://localhost:30000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "Ling-3.1-flash",
"messages": [{"role": "user", "content": "你好"}],
"chat_template_kwargs": {"enable_thinking": true},
"temperature": 1.0, "top_k": 20, "top_p": 0.95}'

官方建议采样参数用 temperature=1.0、top_p=0.95、top_k=20，并打开 enable_thinking。没有显卡的话，模型卡也挂了 OpenRouter 的在线接口。

分数涨了 3 分

模型长什么样

怎么跑起来

相关链接