从 GPU 共享到异构算力底座：为什么我看好 HAMi？

一直以来，我都很关注 HAMi 。

昨天收到 Jimmy Song 老师的邀请，再谈一下 HAMi 这个项目吧。从 GPU 共享到异构算力底座：为什么我看好 HAMi？图1

首先，抛出我的观点，相对于 K8s=“云原生”事实的代名词，我非常看好 HAMi后续成为 “异构算力”的代名词。

因为GPU、NPU、DCU 等异构算力正在从少数团队的专用资源，变成越来越多企业必须长期管理和持续运营的基础设施，HAMi简直是为解决异构算力而生的。从 GPU 共享到异构算力底座：为什么我看好 HAMi？图2

2026 年 7 月 2 日，HAMi 正式晋升为 CNCF Incubating（孵化）项目。

这对 HAMi 社区来说，是一个很重要的里程碑。它意味着 HAMi 已经从早期探索阶段，进入了更成熟、更稳定，也更受全球云原生生态认可的新阶段。

但这件事的意义，不只是“一个开源项目升级了”。

HAMi 的成长，正好发生在 AI 基础设施快速重构的关键时期。GPU、NPU、DCU 等异构算力正在越来越多地进入企业生产系统。随之而来的问题也越来越清晰：资源如何共享？任务如何隔离？不同厂商的加速器如何统一管理？AI 工作负载如何真正像普通云原生应用一样被调度、治理和运营？

这些问题，正是 HAMi 一直在解决的问题。

从“整卡独占”到“共享调度”

HAMi 的全称是 Heterogeneous AI Computing Middleware，是面向 Kubernetes 的异构 AI 算力虚拟化与调度中间件。

过去，Kubernetes 对 GPU 的管理通常比较粗粒度。一个 Pod 独占一张 GPU，是很多场景下的默认方式。对于大规模训练任务来说，这种方式可以理解；但在推理服务、开发测试、CI 流水线、多租户平台等场景中，整卡独占往往会造成明显浪费。

一张 GPU 可能只使用了一部分显存和算力，却无法再被其他任务使用。资源被占住了，但并没有被充分利用。

HAMi 的价值就在这里。

它通过容器级的显存和算力隔离，让多个任务可以共享同一张 GPU，同时尽量避免彼此影响。对业务来说，不需要大规模改造应用；对平台团队来说，可以把异构算力纳入 Kubernetes 的统一调度体系；对企业来说，则意味着更高的资源利用率和更低的算力成本。

这也是 HAMi 能够进入大量生产环境的根本原因：它解决的不是实验室里的问题，而是企业在 AI 落地过程中每天都会遇到的真实问题。

晋升孵化，意味着更高层次的认可

CNCF 的项目成熟度体系并不是简单的“挂牌”。

Sandbox 更像是一个开放试验场，适合有潜力的新项目进入社区视野；而 Incubating 阶段，则要求项目在技术成熟度、生产采用、安全实践、社区治理和生态集成等方面经受更严格的检验。

HAMi 从 2024 年 8 月加入 CNCF Sandbox，到 2026 年 7 月晋升 Incubating，用了不到两年时间。这说明它不只是有关注度，而是在真实场景中完成了持续验证。

目前，HAMi 已支持 NVIDIA、华为昇腾、寒武纪、海光 DCU、摩尔线程、燧原、昆仑芯、MetaX、AWS Neuron 等多种加速器。对今天的 AI 基础设施来说，异构已经是长期现实。未来不会只有一种芯片，也不会只有一种硬件架构。如何把不同类型的加速器纳入统一资源池，正在成为平台能力的重要分水岭。

HAMi 选择的方向，不是绑定某一种硬件，而是从 Kubernetes 和云原生生态出发，做异构算力的统一抽象。

这也是它能够被 CNCF 生态认可的重要原因。

HAMi 的价值，不只是提升利用率