转自:新智元

还记得复仇者联盟4最终大战那个恢弘的场面吗?

‍又或是在阿凡达星球上的奇遇?

这些精彩的画面,总是让人非常好奇:如此叹为观止的震撼的视觉特效,究竟是出自谁之手呢?

答案揭晓!

这些经典电影背后强大的渲染技术正是来自曾6次获得奥斯卡最佳视觉效果奖,由著名导演Peter Jackson创建的Weta Digital(维塔数字)。

而就在11月9日,这家工作室被全球交互式实时3D(Real Time 3D,RT3D)内容创作和运营平台Unity出资16.25亿美元收购。

根据公告的说法,本次收购是为了将 Weta Digital 的独家视觉特效(VFX)工具集成到Unity平台,为实现新一代3D创意内容和塑造「元宇宙」的未来提供帮助。

那么就是说,未来Unity要在「元宇宙」这条路上大步流星。

二次元!会生气卖萌的「真人老婆」

要建立元宇宙,打造数字人类化身是最重要的核心难点之一。

但是,或许你无法想象,数字化身的逼真度目前已经可以无限逼近人类。

下面这位真人小姐姐便是由 Unity 用时2个月打造。

她会嘟嘴卖萌,也会紧皱眉头生气,如果有了她你还需要再捏造二次元老婆么。

‍前段时间,Unity技术开放日上揭秘了数字人的部分制作流程,主要分为两个主题,一个是渲染,一个是流程。

上面这个虚拟小姐姐的制作用到的就是人脸扫描+FACS表情编码技术来进行实时高清渲染。

虚拟人头发渲染是通过机器扫描一位真人,之后再用Unity最近发布了全新的头发系统进行渲染。

在设置中可以将不同的配置进行分组,每个配置文件都可以调细节。

Unity团队介绍道,「关于数字人脸部动画的制作,我们是用手机苹果 ARKit 方法进行面部表情捕捉的。」

关于面部表情捕捉,这其实是另外一项技术,需要搭配苹果手机并使用 Face Cap 软件,面部表情捕捉可以提供更高精度和细节的面部表情。

通过使用 FBX 文件导件,可以用左边的白模把动作移动到角色上。

‍还有,数字人眼睑的几何形状这一部分的制作并非易事。

由于在捕获真人数据的过程中睫毛部分遮挡了眼睑,数据难免存在噪音。

‍结果就会导致眼睑的几何形状不准确,这意味着必须找到一种方法来重建这些区域的几何形状。

Unity 可以将这些数据输入系统,并使用差分网格处理技术(Differential Mesh Processing tech)进行了特定区域的降噪和重建。

那么,Unity 如何通过技术来抚平皱纹?

面部图像中的特征在输入序列中就存在遗漏的表面细节,比如皱纹和毛孔的拉伸。

为了处理这些细致的表面细节,Unity 将导入序列的几何图形与来自 Snappers Systems 的混合形状基于面部的特征映射结合起来。

前后额部皱纹贴合

眼镜着色部分是 Unity 通过眼睛着色器有效地将眼睛模拟为两层,其中第一层用于描述角膜和表面的液体,第二层用于描述巩膜和虹膜,通过第一层可见。

照明在两层之间被分开,镜面照明是专门为顶层评估的,而漫射照明只是为底层评估的。

‍包括泪线这么一个微小细节也不能放过。

就那下面两个对比图来说,左边没有泪线,右边添加了泪线,并且进行了阴影处理,哪个更真实也就不言而喻。

添加泪线前后对结果

Unity介绍自己的数字人生产全量流程包括了:4D真人扫描,高精度面部建模等等。

可能以后甚至不需要真人演员,用数字人就可以拍出一线大片,也不用考虑会有绯闻、合同等各种问题。

对于Unity来说,其自身还有一套HDRP高清渲染管线,这是专为高端硬件上的高画质渲染量身定制的工具,可以充分挖掘PC和主机的全部视觉保真度。

可以看到,用Unity HDRP可以打造出影视大片级的画面。

Unity的渲染能力已经可以傲视群雄了。

而这次收购更是强强联合,Unity将Weta Digital的技术整合到自己的平台后,或许未来我们会在更多的游戏和元宇宙场景中看到这两家公司带来的呈现效果。

那么,Weta Digital 能够为Unity带来什么样的技术呢?

Unity+Weta Digital,如虎添翼

Weta Digital成立于1993年,成立多年来一直是视觉特效(VFX)设计领域的前沿创新者之一。

截至2017年,Weta Digital 已经获得了6项奥斯卡最佳视觉效果奖,其中就包括《指环王:指环王:护戒使者》(2001)、《指环王:双塔》(2002)、《指环王:王者归来》(2003)、《金刚》(2005)、《阿凡达》(2009) 和《丛林王子》(2016)。

「Weta Digital的技术代表了有史以来最完整的三维创建、模拟和渲染工具链。Peter Jackson和Weta Digital整个团队的才华对Unity公司的所有人来说都是难以置信的鼓舞。」

Weta Digital 15年的深度研发,带来了数十种行业领先的工具,如Manuka、Gazebo、Barbershop、Lumberjack、Loki、Squid、Koru等,这些工具都无缝集成到了Weta Digital的生产流水线中。

这些工具是获奖电视和电影的基础,如《阿凡达》、《黑寡妇》、《权力的游戏》、《指环王》、《猩球崛起》、《神奇女侠》、《X特遣队》等等。

Weta Digital的视觉特效(VFX)工具在动作捕捉、表演捕捉和CGI技术上颇有建树。

‍ 为了完美捕捉演员面部细节,技术人员会先使用Koru,一个先进的木偶操纵系统,可以捕捉多角色的表演并且支持高性能动画、布料模拟和类似应用。

在创建好木偶后,需要用演员的牙齿和牙龈的模具建立面部肌肉系统,完成面部表情人偶(数字替身),用来建立表情库。

这时就用到了Facial Tech。Facial Tech提供了高级面部捕捉和操作工作流,并且使用机器学习来支持面部肌肉的直接操作,可以将演员面部捕捉转移到目标人偶模型上。

‍然后,还要再建立一个合适的脸部表面,包括肌肉上面的脂肪组织、表面的皮肤层等等。

Tissue工具可以让艺术家和动画师能够创建生物学上精确的解剖角色模型,精确地表示肌肉和皮肤的行为,并将生成的角色转移到模拟工具中。

‍精细的头发渲染也是一大难题。

Weta Digital的视觉特效(VFX)工具中有一套头发和毛皮工具:Barbershop,支持从生长到梳理的整个工作流程。

艺术家可以使用程序工具和艺术家指导工具的组合来生长头发和毛发,调整生长模式,并修饰最终模型,高级的程序工具甚至还支持编发之类的概念。而且生成的模型是实时模拟的,可以提供由运动和风产生的真实动态。

最终,通过这样一步一步的建模,就可以塑造一个有血有肉的人物形象。

值得一提的是,将面部捕捉投影到动作捕捉木偶上这一过程是可以实时观看的,计算机生成的内容和现场摄像机输入也支持现场混合进行现场观看。

‍除了这些工具外,Unity此次收购Weta Digital,还将从Weta Digital那里拿到成千上万的素材库库,其中包括城市和自然环境、动植物、人类、人造物体、材料、纹理等。

WetaFX团队将继续进行电影和电视的视觉特效制作,并在未来几年继续为这个资源库提供素材。

‍而Unity的目标是将这些工具变成云支持的,并确保它们能够轻松地集成在目前的工作流和Unity引擎中。这样就可以将世界级的视觉特效工具交到全球数百万创作者和艺术家的手中,让下一代实时3D(Real Time 3D,RT3D)发挥创造力,从而塑造元宇宙的未来。

‍「Weta Digital的工具为我们创造了无限的可能性,让原本生活在我们想象中的世界和生物栩栩如生,」仍然担任Weta Digital董事长的彼得·杰克逊说。

「Unity和Weta Digital可以共同为任何行业的任何艺术家创造一条道路,让他们能够利用这些极具创造力的工具,这无异于改变游戏规则,Unity正是将这一愿景变为现实的公司。」

参考资料:

https://blog.unity.com/technology/making-of-the-heretic-digital-human-tech-package

http://www.gamelook.com.cn/2021/09/455604

https://blog.unity.com/news/welcome-weta-digital

http://www.0478114.com/u19806/cc8c906235844b6990f863b492f3a542.html

https://www.shacknews.com/article/127602/unity-u-to-acquire-weta-digital-for-1625-billion-in-cash-and-stock

推荐阅读

  • 【重磅】斯坦福李飞飞《注意力与Transformer》总结,84页ppt开放下载!

  • 一文总结微软研究院Transformer霸榜模型三部曲!

  • Swin Transformer为主干,清华等提出MoBY自监督学习方法,代码已开源

  • 加性注意力机制!清华和MSRA提出Fastformer:又快又好的Transformer新变体!

  • MLP进军下游视觉任务!目标检测与分割领域最新MLP架构研究进展!

  • 周志华教授:如何做研究与写论文?(附完整的PPT全文)

  • 都2021 年了,AI大牛纷纷离职!各家大厂的 AI Lab 现状如何?

  • 常用 Normalization 方法的总结与思考:BN、LN、IN、GN

  • 注意力可以使MLP完全替代CNN吗? 未来有哪些研究方向?

欢迎大家加入DLer-计算机视觉&Transformer群!

大家好,这是计算机视觉&Transformer论文分享群里,群里会第一时间发布最新的Transformer前沿论文解读及交流分享会,主要设计方向有:图像分类、Transformer、目标检测、目标跟踪、点云与语义分割、GAN、超分辨率、视频超分、人脸检测与识别、动作行为与时空运动、模型压缩和量化剪枝、迁移学习、人体姿态估计等内容。

进群请备注:研究方向+学校/公司+昵称(如Transformer+上交+小明)

元宇宙大战,一触即发!Unity豪掷16亿美元收购阿凡达幕后特效公司Weta相关推荐

  1. 工赋开发者社区 | Adobe豪掷200亿美元收购Figma,开发者却将其骂上了“热搜”

    Adobe 公司计划豪掷 200 亿美元,收购大受欢迎的 Web 协作设计工具 Figma. 9 月 15 日,Figma 公司联合创始人兼 CEO Dylan Field 在一篇帖子中指出,&quo ...

  2. 屠龙少年终成恶龙!Adobe豪掷200亿美元收购Figma,设计圈炸了!

    来源:新智元 前段时间,设计圈整了一个大新闻: Adobe拿200亿美金买了Figma! 对于这次收购只能用「灾难」2字形容. 就连Figma首席执行官Dylan Field去年发的一条推文都被网友挖 ...

  3. 数据趣事:豪掷2200亿美元举办的世界杯有多精彩!世界杯趣事你知道哪些

    2022卡塔尔世界杯正如火如荼的进行着,此次的卡塔尔世界杯也是中东和阿拉伯地区首次举办,为此卡塔尔更是豪掷2200亿美元,远超历届主办国. 本届世界杯共有32支来自不同国家的队伍,他们都有一个共同的奋 ...

  4. 2022全球移动市场预测:元宇宙应用用户支出将超30亿美元

    近日,App Annie发布了<2022年全球移动市场预测>报告.报告就TikTok的活跃用户数.突破10亿下载量的应用.元宇宙移动游戏年度用户支出.Z世代金融科技应用使用率.娱乐应用增长 ...

  5. 豪掷 5 亿美元,国外支付巨头 CEO 帮助斯坦福女友实现科研自由!

    来自亿万富翁的高级浪漫:爱她,便是帮她实现科研自由. 整理 | 苏宓 出品 | CSDN(ID:CSDNnews) 支付巨头,内有支付宝.微信支付,外就有 Stripe.今天想要分享的主人公便是来自 ...

  6. 扎克伯格Meta元宇宙被质疑:年均烧百亿美元,货要等十年

    来源:新智元 公司内部业务混乱.公司外部观感酷似曾经的雅虎,这些与扎克伯格的元宇宙发力结合在一起,让Meta的新老员工都怨声载道. 不少Meta的员工,现在都在抱怨老板的元宇宙项目顾头不顾腚.在公司内 ...

  7. Kakao拟16亿美元收购韩国最大音乐流媒体服务

    1月13日,据国外媒体报道,韩国移动信息服务提供商Kakao Corp宣布,将以1.9万亿韩元(约合16亿美元)的价格收购韩国顶级音乐流媒体服务提供商Loen Entertainment,以此开拓新的 ...

  8. 硬盘老大哥被曝豪掷200亿美元,要收了全球第二大闪存芯片厂,外媒:半导体行业秩序要变...

    金磊 发自 凹非寺 量子位 报道 | 公众号 QbitAI "这会进一步调整全球半导体行业的秩序." 就在刚刚发生的一件事情,让外媒作出了如此评价. 可想而知,事件的"主 ...

  9. 豪掷197亿美元!微软收购Siri背后的语音技术研发公司

    作者 | Carol 出品 | CSDN(ID:CSDNnews) 4月12日,微软宣布:将以每股56美元的价格收购语音识别巨头Nuance Communications,交易价值达197亿美元. 收 ...

  10. 沈腾自比元宇宙DogKing,小扎变身「光头强」!Meta推出3D化身

      视学算法报道   编辑:桃子 拉燕 [新智元导读]继联手英伟达推出超级计算机后,Meta布局元宇宙的下一个大动作,为旗下平台加入3D头像.此外,Meta将在周三公布第四季度业绩.全力奔向元宇宙,M ...

最新文章

  1. windows xp远程桌面没有反应
  2. jQuery序列化表单
  3. Web前端学习有哪些技巧?
  4. server.mapPath(.mdb)
  5. python为什么这么火 知乎-没想到 Google 排名第一的编程语言,为什么会这么火?...
  6. CentOS7安装xfce桌面环境
  7. CDH6.2.1安装Kafka出现的问题
  8. 计算机如何分屏操作步骤,windows怎么分屏|windows系统开启分屏显示功能方法
  9. Egret引擎学习笔记
  10. LTM系统并联接入方式数据包交互分析
  11. 核只有单位元等价于映射是单射
  12. pycharm中的红色小闪电
  13. md5编码java_MD5编码工具类 MD5Code.java
  14. 【ps】使用shotoshop按比例缩小图片
  15. 零基础学前端- 01- HTML基础--基本概念(建议收藏)
  16. finereport与finebi差别_一篇文章说清FineReport和FineBI的联系与差别
  17. android用来管理通知,Android 中通知的基本使用
  18. 最大化最小值和最小化最大值
  19. Fabrice Bellard其人 ---- FFMPEG及其他……
  20. 【Linux基础】文件权限(待补充)

热门文章

  1. 配置管理工具应该具有的一般特性
  2. 微信公众号服务器管理员权限,公众号管理员和运营者的区别是什么?公众号管理员需要承担责任吗?...
  3. 入职直接给事业编, 90万补贴+50万科启,重庆高校
  4. 值得注意的两个friendster新服务:校友和web共享搜索
  5. Word插入高分辨率图片无法显示
  6. 计算机键盘盲打方法,【字母键盘练习方法指导】教你如何快速打字
  7. JAVA计算机毕业设计基于web的民宿预定系统源码+数据库+系统+lw文档
  8. 迅为4412开发板上的步进电机小知识
  9. FileUpload上传过大文件异常
  10. 【数据库系统概念】数据库基本概念