版本:下一个
什么是 HAMi?
HAMi(异构 AI 计算虚拟化中间件)是一个用于管理 Kubernetes 集群中异构 AI 计算设备的开源平台。前身为 k8s-vGPU-scheduler,HAMi 可在多个容器和工作负载之间实现设备共享。
HAMi 是云原生计算基金会(CNCF)的 Sandbox 项目,并被收录于 CNCF 技术全景图和 CNAI 技术全景图。
核心特性
设备共享
- 多设备支持:兼容多种异构 AI 计算设备(GPU、NPU 等)
- 共享访问:多个容器可同时共享设备,提高资源利用率
内存管理
- 硬限制:在容器内强制执行严格的内存限制,防止资源冲突
- 动态分配:根据工作负载需求按需分配设备内存
- 灵活单位:支持按 MB 或占总设备内存百分比的方式指定内存分配