linux办公网
最高提升 20 倍吞吐量，字节豆包大模型团队开源全新 RLHF 框架
创始人
2024-11-03 16:01:56
0次

IT之家 11 月 3 日消息，字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。

官方宣称，HybridFlow（开源项目名：veRL）是一个灵活且高效的大模型 RL 训练框架，兼容多种训练和推理框架，支持灵活的模型部署和多种 RL 算法实现。

该框架采用混合编程模型，融合单控制器（Single-Controller）的灵活性和多控制器（Multi-Controller）的高效性，可更好实现和执行多种 RL 算法，显著提升训练吞吐量，降低开发和维护复杂度。

▲ 3D-HybridEngine（训练推理混合技术）一次迭代的流程

实验结果表明，HybridFlow 在各种模型规模和 RL 算法下，训练吞吐量相比其他框架提升了 1.5 倍至 20 倍。

目前，该论文已被 EuroSys 2025 接收，代码仓库也对外公开，IT之家附相关链接如下：

  • 论文链接：https://arxiv.org/abs/2409.19256

  • 代码链接：https://github.com/volcengine/veRL

字节 算法 代码 团队 模型 训练 控制器 吞吐量 框架 veRL https 香港大学

上一篇：-2℃冰冻+6～7级阵风！刚刚，济南发布寒潮蓝色预警信号

下一篇：微软AI主管谈AI趋势：大小模型将“齐头并进”，“规模法则”远没有到极限

相关内容

AI时代需要什么样的人：从...
最近，DeepSeek在官网发布了一张招聘清单。表面上看，这是一次...
2026-07-14 13:48:00
AI早报 | 字节跳动回应...
字节跳动回应：没有做智能驾驶业务的计划 7月13日，据科创板日报，...
2026-07-14 13:45:07
日媒：越来越多美企转向使用...
参考消息网7月14日报道据《日本经济新闻》网站7月10日报道，美国...
2026-07-14 13:42:58
Hugging Face ...
在TechCrunch的Equity播客节目中，Hugging F...
2026-07-14 13:37:23
奇富科技正式开源Model...
7月13日，奇富科技正式开源面向业务场景的自动建模Agent——M...
2026-07-14 13:36:45
智能体时代，重构企业AI算...
2026年，AI的发展正迎来一个关键拐点：大语言模型的应用迈入智能...
2026-07-14 13:33:29

热门资讯

2024云栖大会|阿里云升级无... 北京商报讯（记者魏蔚）9月20日，阿里云无影AI云电脑在2024云栖大会上展出，该版本基于最新的终端...
MWC2025荣耀多款AI技术... 人民财讯3月6日电，2025世界移动通信大会（MWC 2025）上，荣耀MagicBook Pro ...
摩尔线程AI生图摩笔马良全新升... 快科技8月7日消息，作为国产GPU的杰出代表，摩尔线程在当下火爆的AIGC浪潮中也推出了自己的软硬一...
原创 2... #春日生活好物种草季#近年来，笔记本电脑市场迎来技术爆发期，尤其在手机厂商跨界入局后，轻薄本在性能、...
微软 Azure AI 语音服... IT之家 8 月 23 日消息，微软Azure AI 语音服务允许开发者构建多语言生成式 AI 语音...
摩尔线程发布AI算力笔记本MT... 钛媒体App 12月20日消息，摩尔线程创始人、董事长兼CEO张建中在摩尔线程首届MUSA开发者大会...
Macos系统上一款强大的卸载... App Cleaner mac中文版是Mac os系统上一款强大 的mac卸载工具，以帮助您完全卸载...
谷歌打磨 Gemini AI ... IT之家 8 月 31 日消息，谷歌于 8 月 27 日发布博文，宣布旗下 Gemini AI 支持...
青云QingCloud Kub... 日前，青云科技宣布开源 Thanos 的企业级发行版 Whizard，为企业带来真正高可用、可扩展、...
8月20日基金净值：前海开源中... 证券之星消息，8月20日，前海开源中国稀缺资产混合A最新单位净值为1.43元，累计净值为1.43元，...