阿里开源动作生成模型Wan2.2
9月19日消息,阿里阿里开源全新动作生成模型通义万相Wan2.2-Animate,开源该模型同时支持动画和替换两种模式,动作输入一张角色图片和一段参考视频,生成可将视频角色的模型动作、表情迁移到图片角色中,阿里赋予图片角色动态表现力;同时还可在保留原始视频的开源动作、表情及环境的动作基础上,将视频中的生成角色替换为图片中的角色。该模型支持驱动人物、模型动漫形象和动物照片,阿里可应用于短视频创作、开源舞蹈模板生成、动作动漫制作等领域。生成
去年年初,阿里推出了Animate Anyone模型,基于该模型的「全民舞王」功能一度火爆全网,兵马俑、萌宠跳科目三的视频在社交平台刷屏。但此前的技术框架无法同时控制动作、表情和环境交互,生成的视频依旧存在不自然的问题。
此次,通义万相团队构建了一个涵盖说话、面部表情和身体动作的大规模人物视频数据集,并基于通义万相图生视频模型进行后训练。Wan2.2-Animate将角色信息、环境信息和动作等,规范到一种统一的表示格式,实现了单一模型同时兼容两种推理模式;针对身体运动和脸部表情,分别使用骨骼信号和隐式特征,配合动作重定向模块,实现动作和表情的精准复刻。在替换模式中,团队还设计了一个独立的光照融合LoRA,用于保证完美的光照融合效果。
实测结果显示,Wan2.2-Animate在视频生成质量、主体一致性和感知损失等关键指标上,超越了StableAnimator、LivePortrait等开源模型,是目前性能最强的动作生成模型,在人类主观评测中,Wan2.2-Animate甚至超越了以 Runway Act-two代表的闭源模型。
自今年 2 月以来,通义万相已连续开源20多款模型,在开源社区和三方平台的下载量已超3000万,是开源社区最受欢迎的视频生成模型之一。通义万相模型家族已支持文生图、文生视频、图生视频、人声生视频和动作生成等10多种视觉创作能力。
- ·《尼尔》系列15周年PV温情回顾 玩家最期待的新作依旧成谜
- ·中粮集团参加第二届进博会国际海运年会
- ·中英人寿 “She's她享荟” 斩获年度创新营销奖
- ·中粮集团参加第二届中国国际进口博览会
- ·微软全面重构Win11开始菜单 终于能自定义了
- ·中粮集团参加第二届进博会中外企业合作论坛
- ·两市下跌 汽车零部件板块逆势上涨
- ·中粮酒业集体亮相秋季糖酒会
- ·各保险公司短期重疾险,2022各保险公司短期重疾险
- ·中国食品获纳入“恒生可持续发展企业基准指数”成份股
- ·大悦城控股子公司获8亿美元银团低息贷款,开启多元融资渠道
- ·中粮资本正式亮相A股
- ·太平人寿滁州中心支公司:高效理赔开通绿色通道 上门服务为客户纾困解难_
- ·迟京涛同志职务任免
- ·中粮集团旗下各上市公司2020年1月20日-1月24日收盘情况
- ·中粮福临门成为中国女子排球队官方赞助商
