视学算法报道  

编辑：Joey 如願

【新智元导读】刚刚，救治林志颖的林口长庚医院公布了他的面部手术方案，其中一项3D人脸重建技术或将拯救他的神仙颜值？

7月22日，林志颖在驾驶特斯拉ModelX时发生车祸，据报道，事故造成林志颖颜面骨折、肱骨粉碎性骨折……

曾经拥有不老容颜的他，现在可能面临「毁容」风险，不少网友感慨，时间都带不走的东西，却被命运带走了。

不过今年一项3D人脸重建技术的出现，或许可以让亚洲小旋风重获受伤前的神颜。

图源：林志颖Facebook

据报道，本次林志颖的面部重建方案已经出炉，简单来说就是钛合金植入加面部重建。

图源：联合报

由于小志这次颜面部存在粉碎性骨折，面部一部分较大的骨骼通过钛合金植入。

毕竟骨头都碎了，总要有个支架，把余下的骨骼都连接起来。

而另一部分较精细的骨骼将通过3D打印重建，重建后的骨骼与肌体接触后，骨细胞可以附着生长进去，从而将植入物与骨骼融为一体。

是不是听起来有点渗人。

但其实这项技术在国外已经得到了成熟的发展，根据医生的描述，这次面部重建手术只需10个小时就能完成。

近年来，随着深度学习和图像处理单元的不断发展，3D人脸重建技术也逐渐成熟。

它可以通过人脸2D的图像，有效还原人脸的3D信息，包括人脸几何重建与纹理重建等。

过去五年里，深度学习领域关注3D人脸重建的论文和学者也越来越多。

那么，这项化腐朽为神奇的换脸大法究竟是啥样呢？

谜底马上揭晓~

人脸怎么3D重建

优秀的技术和有价值的成果，自然是离不开高性能硬件的支持！

3D人脸重建研究取得良好的进展主要也是依赖于多核CPU、GPU、AWS等云应用的可用性。

通常，3D数据会用体素、点云或GPU可以处理的3D网格进行表示。

接下来我们简单了解一下3D人脸重建的不同类别。

3DMM

3DMM是较为基础的、一种人脸外观和形状的生成模型。所有要生成的人脸都是密集的点对点对应。它的核心思想就是人脸可以在三维空间中进行一一匹配。

基于3DMM求解3D人脸要解决的问题就是完成对纹理、表情等系数的估计，它还侧重于将面部颜色和形状与其他因素（例如照明，亮度，对比度等）分开。

拿BFM来说，它是一个公开可用的3DMM模型，该模型用ICP和PCA得到的扫描人脸对应的模板网格来构建模型。

下图显示了近20年来3DMM的逐步改进。

基于深度学习的3D重建技术

3DGAN和3DCNN是基于深度学习的三维人脸重建技术。

这些方法的主要优点是保真度高，在精度方面有较好的性能。不过，训练GAN依旧要花费大量的时间，而且很难进行，所以应用到实时3D人脸解决方案还是很困难的。

3D人脸重建当然不止这两个类别，小编在此就不一一展开了。

那么在人脸重建过程中，最重要的性能指标是MAE、MSE、NME、RMSE和对抗损失。

应用

面部木偶、视频配音和虚拟化妆等都是3D人脸重建技术中一些比较火的应用。

游戏和电影工业在基于视频的面部动画中使用面部木偶。具体操作是通过视频流将用户的表情和情绪传递给目标人物。此外，当艺术家为电影中的动画角色配音时，3D面部重建可以帮助艺术家将表情传递给角色。

再比如虚拟妆容，它在网络会议和视频聊天等平台上常被使用。

它包括数字图像的变化，如使用合适的颜色的口红，口罩等。

看下边的这个例子，合成的虚拟纹身，它可以根据面部表情进行调整。

3D人脸重建的应用还有很多很多，比如面部置换、人脸老化等等，这些技术极大地丰富了我们的日常生活。

林志颖的此次事故令无数人揪心，好在可以进行脸部3D重建。这项技术是否能让「亚洲小旋风」重回受伤前的神颜呢？让我们耐心等待。

参考资料：

https://link.springer.com/article/10.1007/s11831-021-09705-4

点个在看 paper不断！