图森未来发布图生视频开源大模型“Ruyi”:RTX 4090 就能运行
创始人
2024-12-17 13:12:12
0

IT之家 12 月 17 日消息,图森未来今日发布“Ruyi”图生视频大模型,并将 Ruyi-Mini-7B 版本开源,用户可以从 huggingface 上下载使用。

据介绍,Ruyi 是一个基于 DiT 架构的图生视频模型,它由两部分构成:

  • 一个 Casual VAE 模块负责视频数据的压缩和解压

  • 一个 Diffusion Transformer 负责压缩后的视频生成

模型的总参数量约为 7.1B,使用了约 200M 个视频片段进行训练。“Ruyi”专为在消费级显卡(例如 RTX 4090)上运行而设计,并提供部署说明和 ComfyUI 工作流,以便用户能够快速上手。

  • 多分辨率、多时长生成:Ruyi 支持最小 384*384,最大 1024*1024 分辨率,任意长宽比,最长 120 帧 / 5 秒的视频生成。

  • 首帧、首尾帧控制生成:Ruyi 可以支持最多 5 个起始帧、最多 5 个结束帧基础上的视频生成,通过循环叠加可以生成任意长度的视频。

  • 运动幅度控制:Ruyi 提供了 4 档运动幅度控制,方便用户对整体画面的变化程度进行控制。

  • 镜头控制:Ruyi 提供了上、下、左、右、静止共 5 种镜头控制。

Ruyi 是图森未来正式发布的第一款“图生视频”模型。Ruyi 目前仍然存在手部畸形、多人时面部细节崩坏、不可控转场等问题,图森未来称正在改进这些缺点,在日后的更新中对它们进行修复。

图森未来表示,公司致力于利用大模型降低动漫和游戏内容的开发周期和开发成本。本次发布的 Ruyi 大模型,已经可以实现输入关键帧后,生成之后 5 秒的内容,或输入两个关键帧,由模型生成中间的过渡内容,降低开发周期。在下一次的发布中,图森未来将同时发布两个版本,为不同需求的创作者提供更加灵活的选

IT之家附 Ruyi-Mini-7B 开源链接如下:

相关内容

中绿讯科重磅发布AI生态平...
智东西 作者 | 程茜 编辑 | 漠影 智东西3月17日报道,近日...
2025-03-17 23:13:31
“AI假人”冒充专家推销,...
“AI假人”冒充专家推销产品,佛山市市场监管局出手了。3月16日,...
2025-03-17 22:43:36
全系标配图灵AI智驾+5C...
【2025年3月13日,广州】今日,小鹏汽车开启了春天里的第一场发...
2025-03-17 21:43:59
“重估阿里”的焦点:AI时...
AI时代风卷云涌,阿里云不仅被视为阿里的新增长引擎,更成为投资者重...
2025-03-17 18:40:43
第一批用AI干活的人,已经...
如果后人回顾2025年,一定会认为我们度过了一个赛博朋克的春天。 ...
2025-03-17 18:13:19
对话傅盛:AI时代的超级应...
当AI进入拼应用的阶段,中国企业比美国企业更有机会 文|吴俊宇 编...
2025-03-17 13:42:22

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...
2024年度中国银行业发展报告... 21世纪经济报道 记者李愿 北京报道 10月19日,中国银行业协会在2024金融街论坛年会·金融街之...