采用「MyTwins.ai」数字分身,「开学季 Ai 第一课」为直播行业带来了新场景 | 早期项目
创始人
2024-09-02 08:59:44
0

9月1日,「阿里云-云工开物」邀请了4位院士/教授,用“自己的数字分身”给大家讲授AI相关的知识。此次「开学季 Ai 第一课」采用的技术,是由36氪此前曾报道的「数字生命技术领域创新企业「MyTwins.ai」提供的。

张亚勤院士的数字人(采用MyTwins.ai数字分身技术生成) 图片来源:MyTwins.ai

本次公开课导师包括图灵奖得主John E. Hopcroft,中国工程院院士、清华大学智能产业研究院(AIR)院长张亚勤,浙江大学人工智能研究所所长吴飞,复旦大学计算机学院教授黄萱菁,阿里云高校合作部负责人李贝,向观众展示了教育领域可以用老师的数字分身来给学生讲课。

作为数字分身直播产品的提供方,MyTwins.ai在年初与淘宝知名头部主播陈洁Kiki合作后,持续进行了一系列技术迭代,现阶段已经能够让数字分身以不同的体态、表情、拍摄角度“出镜”,适应更多视频及直播环境。

数字人直播带货的概念在近年来逐渐火爆,成为电商竞争新赛道的同时,也掀起了数字人技术新一轮的发展浪潮。而在AI技术的支持下,数字人主播以其低成本的优势,吸引了大量的关注。

图片来源:MyTwins.ai

早期很多数字人产品,只能让数字人保持单一体态,根据口播内容做一些简单的口型变化和上肢动作。MyTwins.ai相关负责人告诉36氪,早期数字人受限技术而无法做到声音与口型同步,比如发“阿”的声音,嘴巴应该是张大的,数字人的嘴巴却是闭着的。

“后来我们采用3D Flame技术对人脸建模,通过声音驱动3D几何表征形变,再使用3D Gaussian进行渲染。在口型、表情、姿态的精准度上,远远高于传统的纯2D技术路线所展现的效果。”

此外,为了让用户快速拿到生成好的数字分身,降低产品的使用门槛,MyTwins.ai研发了一套通用模型。

该通用模型由两个模块构成:基于VAE的Audio2Motion(声音到3D几何驱动)算法,在3D几何空间上实现对口型、表情的驱动;3D->2D的人脸生成算法,渲染出高清晰度、口型贴合的数字人。

以前需要2-3分钟的视频素材,花费数小时的时间训练数字人;在技术组合迭代后,MyTwins.ai已实现用30秒的视频素材进行小样本微调,训练时间缩短到5分钟,有效提升了效率。

举例而言,在此次的「AI第一课」中,John E. Hopcroft数字分身建模的原视频便只有30秒,且在原视频清晰度较低的情况下,数字人精准还原了“表情、口型”等面部微变化。

当然,数字分身若想适应更多场景,还有很长的路要走。对于MyTwins.ai而言,现阶段直播带货依然是团队主攻的研发方向之一。

为了能够帮商家直播卖货做成交,MyTwins.ai自研了一整套直播行业AI解决方案,特别是针对直播行业的主播大语言模型。

对于很多商家——尤其是没做过直播电商的商家来说,从零搭建直播团队的成本和风险都不小。如果初期效果差,人员工资便是一笔不小的固定支出;效果好了,如果主播团队选择跳槽,那商家便又要从头开始。

MyTwins.ai基于多年在直播领域的数据积累,研发了直播行业主播大语言模型。商家只要输入“商品名称、卖点”即可用头部主播的讲品方法论,由AI自动撰写头部主播风格的商品卖货讲稿,还能在直播间实时回复用户的问题,促进成交转化。

“从海量的直播数据中,我们构建了优质的直播行业数据集,微调开源LLM,并从讲品风格、场景营造、深挖卖点、诱导消费等维度,让模型学习到头部主播带货的讲品精髓。”MyTwins.ai相关负责人表示。

艾媒咨询数据显示,2023年中国数字人带动的产业市场规模和核心市场规模分别为3334.7亿元和205.2亿元,预计2025年将分别达到6402.7亿元和480.6亿元。随着数字人产业的不断成熟,对于商家来说,数字人直播将有机会成为卖货的核心渠道。

相关内容

香港维尔利与联合国健康技术...
香港维尔利健康科技集团正式宣布,已与联合国健康技术基金(Unite...
2025-07-12 15:13:30
上海中华职院:百人精培,瞄...
2025年,迁址上海崇明区的上海中华职业技术学院(简称“中华职院”...
2025-07-12 14:42:12
因为微软,OpenAI收购...
OpenAI收购AI编程助手Windsurf的谈判因微软知识产权担...
2025-07-12 13:14:23
美工课程视频讲解:零基础也...
你是不是也这样:收藏夹里塞满了各种“美工入门教程”、“PS速成课”...
2025-07-12 13:14:12
看了AI生成的ASMR吃播...
前段时间,一条用 AI 生成的切水果 ASMR 短视频,在洋抖上爆...
2025-07-12 13:13:44
上海AI实验室团队:如何优...
这项由上海AI实验室和复?dan大学联合开展的突破性研究发表于20...
2025-07-12 13:13:26

热门资讯

原创 2... #春日生活好物种草季#近年来,笔记本电脑市场迎来技术爆发期,尤其在手机厂商跨界入局后,轻薄本在性能、...
AMD锐龙AI 9 HX 37... 2024年6月3日,AMD正式发布全新的锐龙AI 300系列处理器。该系列处理器一经发布就引发大家的...
骁龙本这么猛?联想YOGA A... 在人人都是自媒体的时代,一部手机可以解决出镜拍摄问题,而商务出差、大量码字、图像处理等需求用笔记本则...
5个AI模特生成软件推荐 当前AI模特生成软件市场提供了多样化的解决方案,以下是几款备受推崇的工具: 触站AI:强烈推荐!...
2023年CentOS与Ubu... CentOS与Ubuntu的市场格局与技术特性探讨 在服务器操作系统领域,CentOS与Ubuntu...
苹果macOS 15.1:允许... 苹果公司在其最新的macOS 15.1版本中,推出了一项引人注目的新功能——允许用户将Mac App...
原创 苹... 前言 IQUNIX在做好看的桌面产品上,一直都给我留下非常深刻的印象。而且早期和苹果产品的设计风格...
原创 华... 想在竞争残酷的市场中发力,必须要带来一些激进的卖点,但是随着功能特性的提升,硬件也必须要进行给力才可...
原创 华... 在2024年这个被誉为"AI元年"的关键时刻,随着生成式AI的流行,各家手机厂商都在积极备战AI手机...