刚刚，Mac Studio 迎来小扎最强开源模型，苹果等来了最意外的助攻

扎克伯格曾嘲讽苹果，在 iPhone 之后就没发明过什么了不起的东西。如今，他却主动晒出 Meta AI 在 Mac 上工作的照片，感谢苹果和新任 CEO John Ternus 的支持。

让双方走到一起的，是一个拥有 8160 亿参数的大模型，以及把它搬上用户书桌的共同目标。

今天凌晨，Meta 发布开放权重模型 Muse Spark Open，并与苹果共同展示了它在两台或四台 Mac Studio 上运行的方案。开发者可以在本地使用模型编写代码、分析视频、执行智能体任务，推理过程无需经过模型厂商的服务器。

随着 AI 开始处理私人文件和企业资料，数据在哪里处理、由谁掌握，正变得越来越重要。开放模型与本地 AI 恰好相互成就，让用户能够自行部署模型，将推理留在自己的设备上。

苹果多年投入的自研芯片、统一内存和开发工具，也因此有了施展空间。如今，8160 亿参数的模型在桌面上运行，让 Mac 距离成为 AI 时代的首选个人电脑，又近了一步。

小扎送来新模型，苹果准备好了电脑

Muse Spark Open 的发布，兑现了扎克伯格此前的一项承诺。

今年 8 月，Meta 推出规模较小的开放权重模型 Muse Glimmer，扎克伯格当时表示，之后还会开放更大、更强的模型。如今，这份承诺变成了拥有 8160 亿参数的 Muse Spark Open。

新模型 Muse Spark Open 的能力接近 Muse Spark 1.3，Meta 更是将其称为目前能力最强的美国开发的开放权重模型。

开发者可以下载模型权重，在自己的硬件上部署，也可以通过云服务商和开发工具使用。其许可证允许一定范围内的商业使用，为企业自行部署和开发应用留出了空间。

Meta AI 负责人 Alexandr Wang 表示，Muse Spark Open 的能力仍低于本周早些时候发布的闭源模型 Muse Wonder。不过，开放权重赋予了它另一种吸引力，开发者能够自己选择运行环境、研究模型，并按照实际需求组织应用。

Meta 希望这些尝试从小规模开始，随后逐渐扩大。苹果的加入，则为开发者提供了一套明确的本地运行方案。

扎克伯格在 X 上晒出 Meta 智能体在 Mac 上工作的照片，表示 Muse Spark Open 当天开放权重，得益于与 Ternus 和苹果的合作，它在新款 Mac Studio 上运行得很好。

Ternus 随后回应，能够在书桌上如此高效地运行这种规模和能力的模型，令人振奋，并称 Mac Studio 正在继续拓展设备端 AI 的边界。

Wang 对两家公司的合作给出了一个更生活化的评价。他向 Axios 开玩笑，看到「爸爸妈妈终于又能好好相处」，大家都很高兴。

据他介绍，双方已经合作数月，曾在苹果任职、如今加入 Meta 的 Daniel Gross，在其中发挥了重要作用。尤其是，Meta 今年早些时候已经购入数百台 Mac，供超级智能团队探索本地 AI 和智能体应用。

合作最值得关注的一点，是模型能力与用户数据之间，可以建立一种新的关系。

按照 Wang 的说法，开发者在自己的设备上运行模型时，Meta 无法看到或控制其使用内容。用户可以获得 Meta 的模型能力，同时将提示词和推理过程留在自己掌握的环境里。

对个人而言，本地运行可以减少私人资料向外部服务器传输；对企业而言，代码、文档和业务数据也能留在自主管理的设备上。隐私与安全需求因此成为推动本地 AI 的实际动力，而开放权重让这条路具备了可操作性。

8160 亿参数，怎么装进几台 Mac

把如此庞大的模型搬上书桌，需要解决两个问题，电脑能否装得下，以及装下以后能否足够快地工作。

Muse Spark Open 采用混合专家架构，也就是 MoE，总参数量达到 8160 亿，每次推理激活约 420 亿参数。

它像一个规模庞大的专家团队，处理不同内容时，只调动其中一部分专家参与计算。模型因此可以保留较大的总容量，同时减少每一步实际需要完成的计算。

不过，没有参与当前计算的参数，仍然需要存储起来，供后续调用。MoE 降低了计算负担，容纳整套模型的内存需求依然可观。

按照苹果技术博客的数据，在原生 BF16 精度下，Muse Spark Open 仅模型参数就需要超过 1.6TB 内存。

苹果使用 NVFP4 四位量化版本，将模型内存占用压缩至约 493GB。量化相当于用更精简的数值表示方式存储参数，通过降低数值精度，换取更小的内存占用。

即便如此，单台配备 512GB 统一内存的 Mac Studio 依然难以做到游刃有余。模型权重之外，推理过程中的临时计算数据、KV Cache（键值缓存），以及操作系统和运行框架，都需要占用额外内存。

多台 Mac 协同工作，便成了下一步。

在苹果展示的多机推理方案中，MLX 主要采用两种并行方式，其中较容易理解的是流水线并行。模型前一部分放在一台 Mac 上，后一部分放在另一台上，第一台完成计算后，再把结果交给第二台继续处理。

这种方式能够让两台电脑共同容纳一个大型模型，但计算存在前后依赖，后一台机器需要等待前一台的结果，设备无法始终同时投入工作。

张量并行则将同一层里的计算分配给多台机器，让它们共同参与，再交换和汇总结果。

更多设备可以同时工作，机器之间也就需要更频繁地交换数据。如果传输太慢，增加的计算能力就会消耗在等待中。

苹果为此使用雷雳 5 上的 RDMA 通信，降低多机交换数据的延迟，再由 MLX 协调计算。在博客展示的双机配置中，两台 Mac 通过两根雷雳线连接，以增加链路带宽。

最终的性能差距，清楚地体现了这种协作方式的价值。

在输入上下文为 8192 tokens、随后生成 128 tokens 的测试中，两台 M5 Ultra Mac Studio 使用流水线并行时，Muse Spark Open 的生成速度约为每秒 15.74 tokens。

改用张量并行后，双机速度提高到每秒 24.99 tokens，提升接近六成。进一步增加到四台机器，速度达到每秒 36.73 tokens，首个 token 的等待时间也从双机张量并行的约 8.2 秒，缩短至约 4.8 秒。

从存得下，到能够以实际可用的速度交互，背后依靠的是一整套软硬件配合。

统一内存架构让 CPU 和 GPU 能够共享内存资源，大容量配置为模型提供存储空间，高带宽支持持续读取数据，而 MLX 与雷雳互联则让多台电脑能够协同承担任务。

M5 Ultra 进一步将统一内存带宽从 M3 Ultra 的 819GB/s 提高至 1.2TB/s。M5 系列 GPU 加入的 Neural Accelerators，则用于加速矩阵运算，改善处理输入上下文时的计算效率。

两项变化对应着用户能够感受到的两个环节，提交一大段材料后，需要等多久才开始回答，以及开始回答以后，内容输出有多快。

在苹果针对 Qwen 3.8 和 Mistral Medium 3.5 的单机测试中，M5 Ultra 相比 M3 Ultra，首个 token 等待时间对应的速度提升最高约为 4.6 倍，文字生成速度约为 1.6 倍。

向左滑动查看更多内容

苹果还展示了如何把本地模型服务用于 OpenCode 等编程工具。开发者可以继续通过智能体界面提交任务，让模型处理上下文、生成代码，而背后的推理工作由桌上的 Mac 完成。

由此来看，Muse Spark Open 在 Mac 上运行，也是一场对苹果既有投入的集中检验。芯片、内存、互联和软件工具各自解决一部分问题，最终共同决定了桌面 AI 能走多远。

目前，这套方案仍主要面向专业开发者和团队。搭载 M5 Ultra 的 Mac Studio 起售价为 46999 元，512GB 版本将于本月晚些时候上市，运行 Muse Spark Open 还需要根据内存需求配置多台设备。

大型模型进入个人电脑的过程，显然还有门槛。但苹果已经展示出一条具体路径，让需要自主掌握模型和数据的用户，能够在桌面上构建自己的 AI 运行环境。

苹果连闲着的 Mac 也惦记上了

几台高配 Mac Studio 组成集群，解决了大型模型如何进入桌面的问题。苹果研究人员近期发表的另一篇论文，则将目光投向办公室里已经存在、却经常没有充分使用的电脑。

名为 Minions 的系统，尝试把 Apple Silicon 设备闲置的 GPU 组织起来，形成一个共享的推理资源池。

图｜🔗https://machinelearning.apple.com/research/distributed-gpu-cloud

研究人员观察到一种常见的资源错配。一边是团队申请集中式 GPU 时，需要长时间排队；另一边，大量 Mac 正在处理邮件、文档等日常工作，GPU 仍有不少空闲。

Minions 希望让这些已有设备分担任务，减少团队对新增 GPU 采购的依赖。

团队提交工作后，系统会将其分成多个子任务，由参与的 Mac 主动领取，使用本机 GPU 完成计算，再把结果上传至指定存储位置。

向左滑动查看更多内容

与前文多台 Mac 紧密协作运行同一个大型模型的方式不同，Minions 主要面向能够分别执行的任务，让不同电脑各自处理一部分工作，提高整体处理量。

目前，系统支持生成文本向量，以及通过 Ollama 调用本地大模型完成文本生成。前者可以用于检索等场景，后者适合批量处理大量独立请求。

员工电脑的使用状态随时可能变化，有人会合上笔记本，有人会断开网络，也有人需要优先处理自己的工作。

Minions 因此设置了任务回收机制，监测正在执行任务的设备，一旦设备失去响应，就将未完成的子任务重新交给其他电脑。

设备拥有者还可以设置优先参与的团队、项目或任务。论文提到，团队有时会通过 Slack 临时招呼同事，请大家启动执行程序，共同处理某项工作。

原本需要排队申请的计算资源，就这样变成了同事之间可以临时组织的协作。

按照论文披露的使用情况，过去因集中式 GPU 紧张而需要等待十多个小时的部分任务，使用 Minions 后，往往几分钟内就能开始执行。闲置设备的加入，让团队更早获得了可用算力。

数据如何管理，也被纳入系统设计。Minions 支持在指定团队或组织内部独立部署，将任务限制在各自管理的设备范围内，让共享算力与数据管理要求相适应。

研究人员还计划探索分布式模型训练，而现阶段的重点，是让已有 Mac 成为集中式 GPU 基础设施的补充。

从 Muse Spark Open 到 Minions，苹果正在挖掘个人电脑在 AI 时代的两种价值。一种通过大内存和高速互联，让桌面设备承担更大的模型；另一种利用闲置时间，让更多已有电脑参与计算。

端侧 AI 的发展也因此拥有了更具体的形态。它可以是一台设备独立处理私人任务，也可以是几台电脑共同运行大型模型，或者由一个团队内部的设备协作完成批量工作。

当 AI 接触的数据越来越私人、承担的任务越来越深入，用户对隐私、安全和自主控制的需求，也会不断推动本地部署。开放模型提供了选择权，能够高效运行它们的硬件，则把选择权变成了实际能力。

苹果与 Meta 的合作，正是两股趋势的一次汇合。对于努力争取 AI PC 位置的 Mac 而言，多年来投入的芯片、统一内存和开发生态，终于开始以一种足够直观的方式得到回报，越来越大的模型，正在它的桌面上运行起来。

技术博客参考地址：

https://machinelearning.apple.com/research/mlx-distributed-inference

我们正在招募伙伴

📮 简历投递邮箱hr@ifanr.com

✉️ 邮件标题「姓名+岗位名称」（请随简历附上项目/作品或相关链接）