linux办公网
最高提升 20 倍吞吐量，字节豆包大模型团队开源全新 RLHF 框架
创始人
2024-11-03 16:01:56
0次

IT之家 11 月 3 日消息，字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。

官方宣称，HybridFlow（开源项目名：veRL）是一个灵活且高效的大模型 RL 训练框架，兼容多种训练和推理框架，支持灵活的模型部署和多种 RL 算法实现。

该框架采用混合编程模型，融合单控制器（Single-Controller）的灵活性和多控制器（Multi-Controller）的高效性，可更好实现和执行多种 RL 算法，显著提升训练吞吐量，降低开发和维护复杂度。

▲ 3D-HybridEngine（训练推理混合技术）一次迭代的流程

实验结果表明，HybridFlow 在各种模型规模和 RL 算法下，训练吞吐量相比其他框架提升了 1.5 倍至 20 倍。

目前，该论文已被 EuroSys 2025 接收，代码仓库也对外公开，IT之家附相关链接如下：

  • 论文链接：https://arxiv.org/abs/2409.19256

  • 代码链接：https://github.com/volcengine/veRL

字节 算法 代码 团队 模型 训练 控制器 吞吐量 框架 veRL https 香港大学

上一篇：-2℃冰冻+6～7级阵风！刚刚，济南发布寒潮蓝色预警信号

下一篇：微软AI主管谈AI趋势：大小模型将“齐头并进”，“规模法则”远没有到极限

相关内容

热门资讯

国产大模型下调推理服务价格，南... 近日，国内某大模型企业宣布下调其flash系列模型服务价格，输入缓存命中、输入缓存未命中及输出价格最...
AI新手用拼豆庆祝教师节
解码青年人AI生活《2026有... 中新网深圳9月5日电(记者索有为)《2026有意思生活方式报告》(下称《报告》)4日在全国首个有意思...
OpenAI 最强 AI 生图... 9月9日消息，OpenAI 9 月 9 日官宣发布 ChatGPT Images 2.5，图像生成延...
探索AI供应链产业化路径京东推... 2026年以来，人工智能应用范围加速拓展，持续从数字空间走向现实生活，广泛融入生产线、仓储厂房、配送...
教育部发文！AI生成内容，教师... 一篇论文，因为AI使用不当，相关高校师生被通报处理。 9月2日，安徽财经大学公布“教师与学生涉嫌学术...
夏夜逛吃记 #剪映让好作品告别...
AI识别出近800种可充当乳化... 英国利兹大学食品科学与营养学院和爱丁堡大学科学家携手，开发出一款 人工智能（AI）工具，能从数千万种...
搭上低空经济、AI文旅？两连板... 桂林旅游（000978）回应市场热点。 9月8日，桂林旅游再度涨停，斩获2连板。当天晚间，该公司披露...
硅谷：我们不能被硅谷“AI刹车... 【文/底线思维】 OpenAI首席科学家Jakub Pachocki最近写了一篇文章，题目叫《An ...