Siren实时表演——UnrealEnigne:
《Siren》——Epic Games公司在2018年GDC大会上展示的实时真实感数字人演示视频。CubicMotion公司刚刚发布了Persona,Persona是基于演示视频中技术开发的一款新型无标记面部捕捉系统。
面部运动捕捉专业公司Cubic Motion发布了Persona,基于Epic Games公司2018年GDC大会演示技术,而创建的新型无标记面部捕捉系统。
该系统包括头戴式红外摄像系统、佩戴在演员身体上的无线处理包和配套软件。
该系统使用机器学习技术为演员创建自定义的面部解算,同时可以实时将生成的动画数据流式传输到Unreal Engine中,或者将其离线输出到Maya软件中。
EpicGames公司GDC大会演示视频中的面部捕捉技术
Cubic Motion公司于2016年与面部绑定专业公司3Lateral(现已被Epic公司收购)合作,根据Ninja Theory公司的游戏《地狱之刃:苏纽尔的献祭(Hellblade:Senua’s Sacrifice)》,创建了一个演示视频。
上述三家公司去年再次合作《Siren》,其中Cubic Motion的技术被用来将现场演员的面部表情以60帧/秒的速度转换为3D角色。
然而,Cubic Motion公司作为一个面部动画服务公司,也有着很好的业绩记录,尤其是在游戏行业表现尤为突出,除了《地狱之刃:苏纽尔的献祭》,该公司还参与制作了《使命召唤:二战(Call of Duty:WW2)》、《地铁:逃离(Metro:Exodus)》和2018年的《战神(God of War)》。
CubicMotion公司——Persona技术解析:
一体式无标记面部捕捉系统,能够将数据实时传输到UE4中
Persona将这项技术(或者至少是该技术的一个版本)变成了现成的无标记面部运动捕捉系统。
这是一个一体化解决方案,包括一个头戴式摄像系统,一个佩戴在演员身体上的专用硬件处理单元,以及配套的软件。
与Faceware的竞争产品不同,该解决方案中的头戴式摄像系统(HMC)是双摄像头系统,前端和侧面的红外摄像头都以1K的分辨率拍摄。
头戴式摄像头的头盔有多种尺寸,而且高度也可调。
Persona的其他硬件组件是Performance Pipeline,这是戴在演员身体上的专用处理和数据存储单元。
该技术能够以每秒60帧的速度跟踪和解算面部表情,并将动画数据无线传输到Unreal Engine中,或者将其存储在计算机中供离线使用。
头戴式摄像机和PerformancePipeline都可以与全身运动捕捉套装搭配使用。
该硬件配有Performance Manager(性能管理器),这是Cubic Motion用于启动和监视捕获会话的桌面软件,能够同时捕获多个演员的动作。
更高级的应用程序处理将动画数据流式传输到UnrealEngine中的过程,并离线输入到Maya软件中。
面部解算自定义演员和角色
Persona真正有趣的功能是该系统是为每个演员定制的。
捕捉动作之前,用户可以记录演员的一组标准动作,然后将训练视频素材和将要传输动画的3D角色,一起发送给Cubic Motion。
Cubic Motion的机器学习系统处理这些数据,为演员创建自定义的“身份”(Identity):这是在捕捉动作之前,载入到PerformancePipeline中的个性化配置文件。
配置文件将Persona使用的跟踪模型调整以适应演员的面部,并让解算模型适应3D角色绑定,为每一对“演员和数字角色”创建自定义设置。
2019年5月2日更新:我们联系Cubic Motion公司咨询身份(Identity)是如何创建的。
该公司告诉我们这个过程部分是自动化的,但是仍然需要一些手动输入:生成跟踪模型的情况下,需要标记演员的视频素材;生成解算器模型的情况下,需要为角色匹配实时素材创建姿势或短动画视频。
产品经理Tony Lacey表示处理工作所需时长取决于演员和角色,但“在许多情况下,我们可以在几天内创建初始身份”。
|