Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺

量子位 2026-08-11 17:06
鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI

Meta,欢迎重返开源群聊。

兜兜转转,Llama的开源剧本,由MSL接棒——

小扎的亿元俱乐部首次上新开源模型Muse Glimmer,主打消费级运行的本地Agent。

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图1

模型参数仅30B,经量化后,一块24GB的消费级显卡就能跑通

小归小,但这次MSL开源的是一个真正能干活的Agent,拥有从规划、工具调用到自我检查和故障恢复的完整Agent能力。

BTW,这还是前菜:

Meta同时预告,Muse Spark 1.2的开放权重版本也将在不久后发布。

不仅如此,小扎还特意写了一篇小作文,内容就更直白了。

限制开源是大错特错!MSL已步入正轨,公司将恢复发布部分开放模型

好好好!北美开源之光,小扎他又回来了!

这波老黄「开源协议」上大分:

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图2

Meta前知名同事LeCun也迅速赶到评论区力挺:

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图3

MSL接棒开源

Meta这次开源的是一款基础小钢炮模型。

模型卡显示,Muse Glimmer总计约296亿参数,其中包括一个约18亿参数的视觉编码器,上下文长度超13万Token,支持文本和图像输入

可搭配单块消费级显卡运行,支持本地Agent、工具函数调用、本地代码开发、大模型裁判评测等各类应用场景。

简单来说,设计Muse Glimmer的目的就是在本地硬件内存和计算限制下,平衡Agent多种功能需求。

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图4

为此,Meta将训练过程分成了三个阶段:

先从更大的Muse Spark中蒸馏能力,再增加长上下文和Agent任务,最后通过监督微调、在线蒸馏和强化学习补足推理、编程与工具调用。

说白了,就是让大模型先示范怎么做,再把这套办事方法压进更小的模型里。

这里Meta做了两层压缩:

完整精度的300亿参数模型需要超过55GB内存,而17GB版本可以直接落进24GB显存。

Meta称,这一版本在15项常用评测上的平均准确率损失约为1%;面向32GB设备,平均损失约为0.2%。这意味着部署门槛得以大幅度降低。

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图5

普通模型一个Token一个Token往外吐,DFlash则先一次性提出一组候选Token,再由主模型并行核对。

根据测试,Muse Glimmer在RTX 5090上的生成速度由74.9 Token/s提升至233.4 Token/s,达到3.1倍;在M4 Max和M5 Max上也分别获得1.5倍和1.8倍加速。

官方测评里,Muse Glimmer的表现也相当不错。

在多个考察Agent能力的基准测试上,均略优于Gemma4-31B和Qwen3.6-27B。

不过它也不是同尺寸全能冠军。在OSWorld-Verified、SWE-Bench Verified和TerminalBench 2.1等测试中,Qwen3.6-27B仍然领先。

Meta自己也明确表示,Muse Glimmer整体能力弱于Muse Spark,并未达到前沿AI标准。

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图6

所以Muse Glimmer最准确的定位是低门槛Agent,能力未必处处第一,但该有的都有,而且24GB显存可用。

Muse Glimmer只是开场

事实上,Muse Glimmer还只是小扎重回开源路线的急先锋。

如果只看参数,这是一款工程取舍非常明确的本地模型,但如果把它和小扎的最新文章放在一起看,事情就变得有趣了起来。

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图7

扎克伯格在文章中将AI公司的选择分成了两边:

一边是把超级智能集中在少数实验室、企业和政府手中,用统一规则决定模型能力;另一边则是把能力广泛分发,让每个人拥有与自己目标一致的个人Agent

显然,Meta选择了后者。

小扎认为,未来的个人Agent需要全天候理解用户的健康、工作、财务、家庭和兴趣,甚至能观察训练状态、安排食谱、购买食材。

Agent越有用,需要接触的个人信息就越深。

因此,他承诺Meta将会提供公司自己也无法查看的完全隐私模式,同时让超级智能免费或以尽可能低的价格覆盖数十亿人。

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图8

未来Meta将继续开源部分模型,模型发布标准会先交由独立董事会审批,并保留相关安全评估。

他给出的理由也很直接,不仅是为了开发者生态,也是因为开放模型是产业竞争的关键。

这和英伟达老黄前段时间提出的开源倡议理念如出一辙,都是强调开放权重模型对AI生态健康的重要性

彼时几乎所有硅谷AI公司都签名了,Anthropic除外

不过签名是一回事,做是另一回事。

打响开源第一枪的,意料之外又情理之中,还是Meta MSL

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图9

参考链接:
[1]https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model
[2]https://www.meta.com/thefutureisforeveryone/
[3]https://x.com/alexandr_wang/status/2086756152034066792
[4]https://x.com/finkd/status/2086755195535413696

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—  —


📪 量子位AI主题策划正在征集中!欢迎参与专题365行AI落地方案,一千零一个AI应或与我们分享你在寻找的AI产品,或发现的AI新动向

💬 也欢迎你加入量子位每日AI交流群,一起来畅聊AI吧~

Meta重返开源!30B本地Agent塞进24GB显存,LeCun火速力挺图10


一键关注 👇 点亮星标

科技前沿进展每日见

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
开源
more
Agent成本暴降几十倍!LlamaFactory作者开源新工具:0.2元自动造Agent
开源版Claude Science来了!零依赖、MIT协议,内置30+项科研Skills
Meta推轻量级开源模型,扎克伯格吁美放宽监管以抗衡中国AI势力
OpenAI补齐最后一块拼图:ChatGPT桌面版正式登陆Linux,开源开发者终获“原生”支持
美科技界联名抵制对华AI禁令,开源生态成博弈关键变量
FPGA开源示波器
京东开源JoyAI-Video-Edit:视频“边播边改”成现实,流式编辑性能全球领跑
阿里拟对千问大模型商业化用户收取分成,开源免费时代或迎变局
美政客欲立法封堵RISC-V,开源架构成地缘博弈新焦点
英伟达发布Nemotron 3.5 Lightning,开源模型再提速
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号