IT之家 11 月 21 日消息,在今日的 AI 容器应用落地与发展论坛上,华为发布 Flex:ai AI 容器软件,通过算力切分技术,将单张 GPU / NPU 算力卡切分为多份虚拟算力单元,切分粒度精准至 10%,实现了单卡同时承载多个 AI 工作负载,并可聚合集群内各节点的空闲 XPU 算力聚合形成“共享算力池”。
Flex:ai 是一款基于 Kubernetes(开源容器编排平台)构建的 XPU(各种类型处理器)池化与调度软件,主要是通过对 GPU、NPU 等智能算力资源的精细化管理与智能调度,实现对 AI 工作负载与算力资源的“精准匹配”。
相比英伟达旗下 Run:ai 公司的核心技术,华为认为 Flex:ai 具备两大独特优势:
IT之家从发布会获悉,Flex:ai 将在发布后同步开源在魔擎社区中。
下一篇:没有了