HAMi 晋升 CNCF 孵化项目：异构 AI 计算中间件
HAMi 晋升 CNCF 孵化项目：异构 AI 计算中间件
发布时间： 2026年7月2日（晋升 CNCF Incubating）
来源： GitHub: HAMi · 官网
配图： 无
概述
2026年7月2日，HAMi（异构 AI 计算中间件）正式从 CNCF Sandbox 晋升为 Incubating（孵化）项目，CNCF TOC 全票通过。从 2021 年 7 月首次开源至今，HAMi 已成为云原生 GPU 虚拟化领域覆盖硬件最广的开源方案之一，支持 NVIDIA、华为昇腾、寒武纪、海光、摩尔线程、燧原、昆仑芯等 10+ 种加速器。
一、什么是 HAMi？
HAMi（Heterogeneous AI Computing Middleware）是一个开源的、云原生的 GPU 虚拟化中间件，运行在 Kubernetes 上。核心能力：
| 能力 | 说明 |
|---|---|
| GPU 切分 | 将一块物理 GPU 按显存（MB 级）和算力精细切分，多个 Pod 共享 |
| 异构加速器 | 支持 10+ 种国内外 AI 芯片（详见下方列表） |
| K8s 原生调度 | 通过 Device Plugin/DRA/CDI 标准接口集成 |
| 硬隔离 | 容器级显存和算力硬隔离，超分配直接 OOM |
| 无需改应用 | 对已有工作负载零改动 |
二、核心架构
HAMi 通过 CUDA API 拦截在软件层实现 GPU 虚拟化，不走驱动改造路线：
| 层 | 角色 |
|---|---|
| MutatingWebhook | 准入入口，拦截 Pod 创建请求 |
| HAMi Scheduler | 自定义调度器（binpack/spread/拓扑感知） |
| Device Plugin + CDI | 设备注入与发现 |
| HAMi Core | 运行时显存/算力隔离核心库 |
三、支持设备列表
| 类型 | 制造商 | 显存隔离 | 算力隔离 |
|---|---|---|---|
| GPU | NVIDIA 全系列 | ✅ | ✅ |
| MLU | 寒武纪 370/590 系列 | ✅ | ✅ |
| DCU | 海光 全系列 | ✅ | ✅ |
| NPU | 华为昇腾 910B/910C/310P | ✅ | ✅ |
| GPU | 摩尔线程 MTT S4000 | ✅ | ✅ |
| XPU | 昆仑芯 P800 | ✅ | ✅ |
| GCU | 燧原 S60 | ✅ | ✅ |
| GPU | 壁仞 全系列 | ✅ | ✅ |
| GPU | 沐曦 MXC500 | ✅ | ✅ |
| GPU | 登临 全系列 | ✅ | ✅ |
| - | AWS Neuron | ✅ | ✅ |
四、社区规模
- GitHub Stars：3,721
- 贡献者：近 500 名
- 企业用户：数百家，包含招商银行、蔚来汽车、贝壳找房、道客、顺丰科技、好未来等
- CNCF 案例研究：招商银行（5 万+ Pod 调度）、蔚来（40 集群 GPU 利用率提升至 85%+）
五、战略意义
- 国产芯片统一管理：唯一能统一管理 10+ 种国产 AI 芯片的开源方案
- NVIDIA 官方认可：NVIDIA KAI Scheduler 已合并 HAMi-core 作为内置硬隔离方案
- CNCF 中立治理：确保没有单一厂商锁定
- 出口管制背景下的关键基础设施：美国芯片出口管制越严，HAMi 的战略价值越大
本文基于 GitHub 仓库、CNCF 公告、官方文档等公开资料整理。