CVPR2021最佳论文：当GAN遇到3D场景，无需监督就学会“动态抠图”、360度展示对象...

月石一发自凹非寺
量子位报道 | 公众号 QbitAI

GAN又又又有新玩法了！

人脸？NO，NO，NO~

这回，开发者利用「3D+GAN」生成了汽车大片，还是能360度展示、随手换背景那种。

只需无监督训练，模型就可以产出几百万张新车硬照！

不只是车，还有人脸、猫咪、建筑、家具等等……（好家伙，利好设计师~）

无论是换背景、改外观，还是在场景中添加、平移、旋转对象，或者改变视角，都能搞定。

这项研究摘得CVPR2021最佳论文奖，现已开源，研究团队来自马普所和图宾根大学。

在此前的研究中，深度生成模型虽然可以合成高分辨率的图像，但生成过程的可控性不足。

而对变化因素的研究大多局限于2D空间，很少考虑场景的组成。

研究人员在GAN中加入了3D场景，新模型能够生成更可控、质量更高的图像，并且模型参数量更少。

那么3D与GAN是如何结合起来的？

GAN+3D：合成可控

研究人员将神经渲染管道与场景表示结合，把场景表示为合成的生成性神经特征场，就得到了一个真实、高效的图像合成模型——GIRAFFE。

具体而言，首先要为场景和对象采样单独的潜在编码，为正则空间提供特征字段。

将3D点和观察方向映射到密度值和特征向量的函数，即为特征场。

接下来，为每个对象采样一个视角，生成器将对象和背景合成到一个场景中。

将生成器生成的图像与真实图像输入判别器，再利用对抗性损失进行无监督训练。

虽然训练集使用了原始、未定位的图像，但在测试时，包括相机和物体的视角，以及物体的形状、外观，都能够得到控制。

最后，利用2D神经渲染网络，对相机视角、体积渲染场景的特征图像进行采样，将其转换为最终的具有3×3卷积的RGB渲染图像。

△神经渲染网络

与其他模型对比

研究人员将GIRAFFE与基于2D的GAN进行了比较。

平移单个对象时，二者的效果对比情况：（右图为新模型）

相比之下，新模型还能够实现更复杂的操作，比如循环移动、改变背景、添加对象等。

此外，研究人员还分别使用64×64和256×256像素的图像，对不同模型进行了对比。

在固定背景的情况下旋转对象，新模型的效果比其他模型更优：

在定量分析中，新模型在不同像素下的FID分数都更低，说明生成效果更好：

（FID分数是通过生成图像与真实图像的“距离值”，得到的评估分数，数值越小越好。）

并且，新模型的参数量也更少：（单位：百万）

泛化能力如何？

此外，模型还能在训练数据之外进行泛化。

比如增加水平和深度平移范围：

合成比训练时更多对象的场景：（训练集图像中仅一辆汽车）

开发者表示，这项技术可以应用在动画和游戏制作中。3D动画师们离解放又近了一步~

GIRAFFE已经在GitHub上开源，感兴趣的小伙伴可戳文末链接了解~

相关链接：
[1]https://arxiv.org/abs/2011.12100
[2]https://autonomousvision.github.io/giraffe/
[3]https://m-niemeyer.github.io/project-pages/giraffe/index.html
[4]https://m-niemeyer.github.io/slides/#/
[5]https://github.com/autonomousvision/giraffe

本文仅做学术分享，如有侵权，请联系删文。

下载1

在「3D视觉工坊」公众号后台回复：3D视觉，即可下载 3D视觉相关资料干货，涉及相机标定、三维重建、立体视觉、SLAM、深度学习、点云后处理、多视图几何等方向。

下载2

在「3D视觉工坊」公众号后台回复：3D视觉github资源汇总，即可下载包括结构光、标定源码、缺陷检测源码、深度估计与深度补全源码、点云处理相关源码、立体匹配源码、单目、双目3D检测、基于点云的3D检测、6D姿态估计源码汇总等。

下载3

在「3D视觉工坊」公众号后台回复：相机标定，即可下载独家相机标定学习课件与视频网址；后台回复：立体匹配，即可下载独家立体匹配学习课件与视频网址。

重磅！3DCVer-学术论文写作投稿 交流群已成立

扫码添加小助手微信，可申请加入3D视觉工坊-学术论文写作与投稿微信交流群，旨在交流顶会、顶刊、SCI、EI等写作与投稿事宜。

同时也可申请加入我们的细分方向交流群，目前主要有3D视觉、CV&深度学习、SLAM、三维重建、点云后处理、自动驾驶、多传感器融合、CV入门、三维测量、VR/AR、3D人脸识别、医疗影像、缺陷检测、行人重识别、目标跟踪、视觉产品落地、视觉竞赛、车牌识别、硬件选型、学术交流、求职交流、ORB-SLAM系列源码交流、深度估计等微信群。

一定要备注：研究方向+学校/公司+昵称，例如：”3D视觉 + 上海交大 + 静静“。请按照格式备注，可快速被通过且邀请进群。原创投稿也请联系。

▲长按加微信群或投稿

▲长按关注公众号

3D视觉从入门到精通知识星球：针对3D视觉领域的视频课程（三维重建系列、三维点云系列、结构光系列、手眼标定、相机标定、orb-slam3等视频课程）、知识点汇总、入门进阶学习路线、最新paper分享、疑问解答五个方面进行深耕，更有各类大厂的算法工程人员进行技术指导。与此同时，星球将联合知名企业发布3D视觉相关算法开发岗位以及项目对接信息，打造成集技术与就业为一体的铁杆粉丝聚集区，近2000星球成员为创造更好的AI世界共同进步，知识星球入口：

学习3D视觉核心技术，扫描查看介绍，3天内无条件退款

圈里有高质量教程资料、可答疑解惑、助你高效解决问题

觉得有用，麻烦给个赞和在看~