百度百舸AI计算平台4.0发布:模型训练有效时长达99.5%
创始人
2024-09-25 11:23:16
0

9月25日,在2024百度云智大会上,百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。升级后的百舸,围绕落地大模型全旅程的算力需求,在集群创建、开发实验、模型训练、模型推理四大方面,为企业提供“多、快、稳、省”的AI基础设施。

为了解决算力资源短缺的问题,百舸4.0对“多芯混训”能力进行了重点升级,实现了在万卡规模集群上95%的多芯混合训练效能,达到业务最领先水平。

在集群部署环节,升级后的百舸能够实现工具层面的秒级部署,将万卡集群运行准备时间从数周最快缩减至1小时,极大地提升部署效率,缩短业务上线周期。

针对大模型训练过程中故障频发的问题,百舸4.0全面升级了故障检测手段和自动容错机制,可以有效降低故障发生频次,大幅减少集群故障处置时间,在万卡集群上实现了超过99.5%的有效训练时长。

在模型推理上,最重要的是速度和成本。现在长文本推理逐渐成为主流,百舸4.0整体上做了推理速度和成本优化,长文本推理效率提升了1倍以上。

相关内容

AI将成为医疗资源普惠的强...
在中国,儿科医生资源短缺的问题长期存在。国家卫生健康委数据显示,截...
2025-03-17 08:42:49
海富通基金经理林立禾:AI...
在量化投资领域,AI技术的融入正掀起一场变革,而海富通基金经理林立...
2025-03-17 08:13:48
数字孪生黄河加速迈入AI时...
本报讯(记者 谭勇 通讯员 黄梦思)基于微调的DeepSeek大模...
2025-03-17 08:11:47
企业级AI应用的10个问题
不管我们是哪种姿态,AI都不再是天外飞仙,而是全方位、深层次、大范...
2025-03-17 06:42:03
刚刚通知:退钱了!退钱了!...
“与辉同行”宣布:退一赔三,已开始打款! 3月16日,与辉同行发布...
2025-03-17 06:10:31
年度活跃买家数突破1亿,阿...
钛媒体App 3月16日消息,3月16日消息,阿里巴巴集团旗下源头...
2025-03-16 23:12:05

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...