AI视频ChatGPT时刻到来,昆仑万维发布全球首款AI短剧平台
创始人
2024-08-19 13:12:45
0

8月19日,昆仑万维发布全球首个集成视频大模型与3D大模型的AI短剧平台SkyReels。SkyReels平台集剧本生成、角色定制、分镜、剧情、对白/BGM及影片合成于一体,让创作者“一键成剧”,轻松制作高质量AI视频。奇幻大片、凄美虐恋、爆笑喜剧……只要输入一个简单创意,SkyReels就能完成从剧本到成品短剧制作全流程,AI视频ChatGPT时刻到来。

SkyReels平台集成了昆仑万维自研剧本大模型Sky、自研分镜大模型StoryboardGen、自研3D生成大模型Sky3DGen、以及业界首个将AI 3D引擎与视频大模型深度融合的创新平台WorldEngine。

SkyReels在剧本质量、分镜质量、人物表演等各维度质量评估上均领先于GPT-4o等大模型

SkyReels能够通过AI一键生成完整剧本、分镜、人物对白与BGM,支持角色形象、音色与分镜的自定义调整,并能够自动将内容转换为1080P 60帧的高清视频,单次可生成视频长度达180秒,相比Sora单次可生成60秒视频、可灵单次可生成10秒视频,有显著突破。一键整合所有创作成果,极大提高视频的创作效率,降低创作成本,推动“一人一剧”时代加速来临。

同时,WorldEngine结合了引擎的精确可控能力(如光照模拟、物理模拟、3D空间、实时交互等) 以及AI视频大模型的幻想生成能力,提供了全新的线上混合视频创作模式,让视频创作从模糊生成迈向更加精确可控。

SkyReels的AI剧本生成功能基于昆仑万维自研剧本大模型Sky打造。为了让AI生成的剧本具备短剧的高密集爽点剧情,昆仑万维首先构建了亿级的高质量短剧结构化数据集Sky-100M,该数据集针对海量精彩短剧的剧情节奏、爽点、情绪变化进行了高质量标注;

其次算法团队设计了渐进式生成的剧本生成框架,实现了模型能够输出高度结构化的精彩剧本,无论是新手作者还是资深剧作家,都能通过它激发创意,轻松创作出引人入胜的短剧剧本。

Sky剧本大模型技术原理图

短剧创作的另一重要环节——分镜生成,则由昆仑万维自研分镜生成大模型StoryboardGen提供底层技术。StoryboardGen是昆仑万维首创的的基于DiT-MoE架构(基于Diffusion Transformer技术的Mixed-of-Experts混合专家架构)的分镜生成模型,能够实现高密度分镜信息生成,大幅增强视觉叙事表达能力。

输入剧本后,StoryboardGen模型会将剧本拆解成全局与主体两部分,全局部分包括场景、景别、构图等对分镜的整体描述,主体部分包括角色形象、动作人物角色的定制,最终汇集至故事板(Storyboard)智能体生成完整分镜。StoryboardGen的专项多智能体架构,能够有效保证人物与场景的可控性和一致性,创造出高质量的工业级分镜。

昆仑万维StoryboardGen分镜大模型技术原理图

在最终的影像生成环节,WorldEngine是业界首个将AI 3D引擎与视频大模型深度融合的创新平台。这是一项划时代的技术创新,WorldEngine以图层融合技术为桥梁,打造出前所未有的3D与视频混合创作模式。

用户使用SkyReels生成AI视频时,可以对任意元素自由选择使用3D AI引擎生成或者视频大模型生成,该创新模式突破了当前AI视频大模型时常出现的“穿模”、“反地心引力”等反物理规律现象,最大程度实现了物理模拟的精细度与视频大模型的幻想创造力的完美融合。自此,AI视频生成大模型将从“模糊控制”时代走向“精确可控”时代。

在3D AI引擎方面,昆仑万维自研的Sky3DGen大模型能够生成多样化的3D元素和场景,从自然景观到未来都市,从静态物体到动态角色,并提供了实时的3D场景交互能力,使得用户可以即时看到调整和编辑的效果,加快创作流程。在WorldEngine的加持下,用户还可以轻松构建3D虚拟影棚,实现虚拟拍摄的梦幻体验。

人物表演是短剧画面呈现的核心环节之一。因此,在AI人物表演方面,昆仑万维SkyReels团队专门研发了ActorShow人物生成模型,使得SkyReels所生成的AI人物有着更强的口型表情和肢体动作的可控生成能力,角色呈现更自然。

而针对视频后期合成中遇到的光照差异、风格差异等需求,昆仑万维SkyReels团队单独训练了专门的融合生成模型,使得图层融合后的视频呈现良好的一致性。

昆仑万维AI短剧平台SkyReels的推出,标志着全球AI短剧创作的一次技术飞跃,它将对视频内容创作流程进行全面颠覆,让创作者从繁琐、复杂的制作流程中解放出来,专注于创意实现与灵感表达,让“一人一剧”的梦想成为现实。

SkyReels AI短剧平台不仅为专业内容创作者提供了强大的创作工具,更极大地降低了AI短剧创作的门槛,使得非专业用户也能轻松上手。这一革命性的工具有望带来AI短剧用户生成内容(UGC)与专业用户生成内容(PUGC)的爆发式增长,为短剧内容生态注入前所未有的活力,推动短剧内容创作与消费市场的进一步快速增长。一个由AI技术驱动的短剧创作与消费的时代,正在到来。

昆仑万维始终致力于通过先进的AIGC技术,为全球内容创作者提供更加智能、高效、个性化的工具。在“All in AGI与AIGC”战略的推动下,昆仑万维始终以“实现通用人工智能,让每个人更好地塑造和表达自我”为使命。未来,昆仑万维将持续创新,通过对全球市场的深入开拓,为用户提供优质的AIGC产品与服务。

相关内容

阿里巴巴开源视频生成与编辑...
5 月 14 日消息,据《科创板日报》报道,阿里巴巴正式开源通义万...
2025-05-15 13:47:56
2025 年 Q1 财报 ...
【5 月 14 日下午消息,2025 年第一季度财报发布】报告期内...
2025-05-14 20:48:43
阿里开源全功能视频大模型,...
5月14日,阿里巴巴正式开源通义万相Wan2.1-VACE。据了解...
2025-05-14 20:47:29
手机AI技术难投入大,谁敢...
2024年被称为AI手机的元年,手机厂商纷纷发力相关功能应用。而普...
2025-05-14 20:18:18
华为昇腾芯片遭美国全球禁止...
当地时间5月13 日,美国商务部正式发布文件废除拜登政府的人工智能...
2025-05-14 19:47:31
基于开源鸿蒙的移动警务终端...
IT之家 5 月 14 日消息,据开放原子开源基金会 OpenAt...
2025-05-14 11:48:42

热门资讯

原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
支持 AI 扩图,华为 Pur... 2024-07-28 09:05:02作者:姚立伟 华为Pura 70 Pro手机今日推出鸿蒙Ha...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
吞噬星空维妮娜美图/高清壁纸/... 国漫女神|《吞噬星空》维妮娜美图/高清壁纸/AI手机壁纸/无水印 国漫女神|《吞噬星空》维妮娜美图...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 商... 最近,各家的AI 9笔记本开始陆续登场,其实大家并不一定非选AI 9 HX 370,主要是这颗CPU...
AI智能+高效清洁!萤石RS2... 目前扫拖机器人市场的竞争非常激烈,在上下水扫拖一体机市场也出现了很多所谓的创新产品。但是对于这些产品...