华为云发布AI原生云基础设施架构CloudMatrix,新一代昇腾AI云服务将于年底上线
创始人
2024-09-20 21:22:08
0次

新浪科技讯 9月20日下午消息,在华为全联接大会2024上,华为云发布AI原生云基础设施架构CloudMatrix,以满足AI时代企业对于算力的大规模、高效稳定、弹性灵活的需求。

如今,AI算力需求高速增长,正在超越对通用算力的需求。构建弹性、高效的多元算力基础设施是AI发展的关键。为了进一步提升AI原生基础设施的效能,华为云推出AI原生云基础设施CloudMatrix,将CPU、NPU、DPU、存储和内存等资源全部互联和池化,构建“一切可池化、一切皆对等、一切可组合”的分布式对等全互联架构,实现了单体算力向矩阵算力的演进,为客户提供澎湃的AI算力。

一切可池化:华为通过CPU、NPU为客户提供通用计算和智能计算。同时,华为云分布式QingTian技术帮助突破单服务器的能力边界,将服务器内的CPU、NPU、DPU、存储和内存等多样资源的统一池化并灵活配置,以此形成大规模、紧耦合的多元算力池化架构,算力得到大幅提升。

一切皆对等:CloudMatrix通过超高带宽ScaleUp网络从“传统以太网”向“共享总线以太网”演进,实现池化算力的高速互联,同时通过自适应拓扑感知打破集群线性度瓶颈。能够降大模型训练集群的线性度提升至95%,网络故障分钟级恢复。

一切可组合:在统一多元算力逻辑池化、高速全对等互联的基础上,通过瑶光智能云脑对云上资源进行多元算力统一建模、灵活调度组合,按需提供给应用。覆盖大模型和小模型的训练和推理,同时,还能够用在数据分析、媒体内容生成等更多应用场景。

华为云宣布,基于CloudMatrix的新一代昇腾AI云服务将于年底上线。

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com

相关内容

热门资讯

国产大模型下调推理服务价格,南... 近日,国内某大模型企业宣布下调其flash系列模型服务价格,输入缓存命中、输入缓存未命中及输出价格最...
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息,OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5,图像生成延...
探索AI供应链产业化路径京东推... 2026年以来,人工智能应用范围加速拓展,持续从数字空间走向现实生活,广泛融入生产线、仓储厂房、配送...
教育部发文!AI生成内容,教师... 一篇论文,因为AI使用不当,相关高校师生被通报处理。 9月2日,安徽财经大学公布“教师与学生涉嫌学术...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手,开发出一款 人工智能(AI)工具,能从数千万种...
搭上低空经济、AI文旅?两连板... 桂林旅游(000978)回应市场热点。 9月8日,桂林旅游再度涨停,斩获2连板。当天晚间,该公司披露...
硅谷:我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章,题目叫《An ...