百度百舸AI计算平台4.0发布：模型训练有效时长达99.5%
创始人
2024-09-25 11:23:16
0次
9月25日，在2024百度云智大会上，百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。升级后的百舸，围绕落地大模型全旅程的算力需求，在集群创建、开发实验、模型训练、模型推理四大方面，为企业提供“多、快、稳、省”的AI基础设施。
为了解决算力资源短缺的问题，百舸4.0对“多芯混训”能力进行了重点升级，实现了在万卡规模集群上95%的多芯混合训练效能，达到业务最领先水平。
在集群部署环节，升级后的百舸能够实现工具层面的秒级部署，将万卡集群运行准备时间从数周最快缩减至1小时，极大地提升部署效率，缩短业务上线周期。
针对大模型训练过程中故障频发的问题，百舸4.0全面升级了故障检测手段和自动容错机制，可以有效降低故障发生频次，大幅减少集群故障处置时间，在万卡集群上实现了超过99.5%的有效训练时长。
在模型推理上，最重要的是速度和成本。现在长文本推理逐渐成为主流，百舸4.0整体上做了推理速度和成本优化，长文本推理效率提升了1倍以上。
相关内容
热门资讯
原创 华...
想在竞争残酷的市场中发力，必须要带来一些激进的卖点，但是随着功能特性的提升，硬件也必须要进行给力才可...
支持 AI 扩图，华为 Pur...
2024-07-28 09:05:02作者：姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1：允许...
苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/...
国漫女神｜《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神｜《吞噬星空》维妮娜美图...
原创 苹...
前言 IQUNIX在做好看的桌面产品上，一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商...
最近，各家的AI 9笔记本开始陆续登场，其实大家并不一定非选AI 9 HX 370，主要是这颗CPU...
AI智能+高效清洁！萤石RS2...
目前扫拖机器人市场的竞争非常激烈，在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...