华为发布并开源Flex:ai AI容器,单卡同时承载多个AI工作负载
创始人
2025-11-21 18:45:41
0

IT之家 11 月 21 日消息,在今日的 AI 容器应用落地与发展论坛上,华为发布 Flex:ai AI 容器软件,通过算力切分技术,将单张 GPU / NPU 算力卡切分为多份虚拟算力单元,切分粒度精准至 10%,实现了单卡同时承载多个 AI 工作负载,并可聚合集群内各节点的空闲 XPU 算力聚合形成“共享算力池”。

Flex:ai 是一款基于 Kubernetes(开源容器编排平台)构建的 XPU(各种类型处理器)池化与调度软件,主要是通过对 GPU、NPU 等智能算力资源的精细化管理与智能调度,实现对 AI 工作负载与算力资源的“精准匹配”。

相比英伟达旗下 Run:ai 公司的核心技术,华为认为 Flex:ai 具备两大独特优势:

  • 一是虚拟化。除了在本地虚拟化技术中实现算力单元的按需切分,Flex:ai 独有的“拉远虚拟化”技术,可以不做复杂的分布式任务设置,将集群内各节点的空闲 XPU 算力聚合形成“共享算力池”。
  • 二是智能调度。Flex:ai 的智能资源和任务调度技术,可以自动感知集群负载与资源状态,结合 AI 工作负载的优先级、算力需求等多维参数,对本地及远端的虚拟化 GPU、NPU 资源进行全局最优调度,满足不同 AI 工作负载对资源的需求。

IT之家从发布会获悉,Flex:ai 将在发布后同步开源在魔擎社区中

相关内容

消息称Meta下月启动首轮...
IT之家4月18日消息,北京时间今天(4月18日)凌晨,据路透社援...
2026-04-18 11:16:43
魏牌V9X预售价37.18...
魏牌V9X正式开启预售,共推出3款车型,预售价37.18万-41....
2026-04-18 11:15:34
Cloudflare公测邮...
IT之家 4 月 18 日消息,Cloudflare 于 4 月 ...
2026-04-18 11:15:33
AI不是侵权“挡箭牌”
王 铎作 名人声音被AI“克隆”,是侵权吗?由AI生成的视频文案与...
2026-04-18 11:14:46
AI税宣“潮”出圈,南山区...
“看!这张‘诚信纳税’的AI贴纸,拍得真好!”4月16日,在南山区...
2026-04-18 11:14:44
AI+不起火:下一代“超级...
一个长约6米、宽约2.5米、高近3米的标准20英尺集装箱储能系统,...
2026-04-18 11:14:10

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯(记者魏蔚)9月20日,阿里云无影AI云电脑在2024云栖大会上展出,该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电,2025世界移动通信大会(MWC 2025)上,荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息,摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...