linux办公网
最高提升 20 倍吞吐量，字节豆包大模型团队开源全新 RLHF 框架
创始人
2024-11-03 16:01:56
0次

IT之家 11 月 3 日消息，字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。

官方宣称，HybridFlow（开源项目名：veRL）是一个灵活且高效的大模型 RL 训练框架，兼容多种训练和推理框架，支持灵活的模型部署和多种 RL 算法实现。

该框架采用混合编程模型，融合单控制器（Single-Controller）的灵活性和多控制器（Multi-Controller）的高效性，可更好实现和执行多种 RL 算法，显著提升训练吞吐量，降低开发和维护复杂度。

▲ 3D-HybridEngine（训练推理混合技术）一次迭代的流程

实验结果表明，HybridFlow 在各种模型规模和 RL 算法下，训练吞吐量相比其他框架提升了 1.5 倍至 20 倍。

目前，该论文已被 EuroSys 2025 接收，代码仓库也对外公开，IT之家附相关链接如下：

  • 论文链接：https://arxiv.org/abs/2409.19256

  • 代码链接：https://github.com/volcengine/veRL

字节 算法 代码 团队 模型 训练 控制器 吞吐量 框架 veRL https 香港大学

上一篇：-2℃冰冻+6～7级阵风！刚刚，济南发布寒潮蓝色预警信号

下一篇：微软AI主管谈AI趋势：大小模型将“齐头并进”，“规模法则”远没有到极限

相关内容

百度AI，“单干”创业
文 | 象先志 百度又调整了AI组织。 最新变化是，设置百度模型...
2026-05-17 01:51:00
蚂蚁百灵开源Ring-2....
钛媒体App 5月15日消息，蚂蚁百灵宣布开源旗舰推理模型Ring...
2026-05-15 22:20:22
硬核AI＋三维CAD！新迪...
日前，由东莞市人民政府、数字化工业软件联盟、华为云联合主办的「第五...
2026-05-14 22:59:48
快手为何计划分拆可灵AI？
文｜投资时间网 李路 当漫剧百强榜中AI仿真人短剧的占比从7%激...
2026-05-14 17:38:53
速递｜Anthropic发...
图片来源：Anthropic 据知情人士透露，Anthropic ...
2026-05-14 17:28:33
雷军：小米自动驾驶模型Xi...
5月14日消息，小米创办人、董事长兼CEO雷军日前在社交平台发文称...
2026-05-14 17:27:29

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日，AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案，以下是几款备受推崇的工具： 触站AI：强烈推荐！...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
骁龙本这么猛？联想YOGA A... 在人人都是自媒体的时代，一部手机可以解决出镜拍摄问题，而商务出差、大量码字、图像处理等需求用笔记本则...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域，CentOS与Ubuntu...
苹果macOS 15.1：允许... 苹果公司在其最新的macOS 15.1版本中，推出了一项引人注目的新功能——允许用户将Mac App...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...