光场相机重聚焦原理③——Matlab光场工具包使用重聚焦及多视角效

光场相机重聚焦原理③——Matlab光场工具包使用、重聚焦及多视角效果展示

目录

1.从相机里导出白图像(White Images)：

2.处理白图像：

3.利用白图像对光场文件进行解码得到rawImage：

4.对rawImage进行去马赛克操作(demosaic)：

5.对去马赛克后的图像进行色彩校正(color correction)：

这一小节说一下Matlab光场工具包的使用，展示重聚焦和多视角的效果。

从Lytro illum中导出的raw数据为.lfp格式的光场图像文件(约52M大小)，该文件包含以下几部分：光场图像数据rawdata；metadata；相机序列号 serials；光场图像大小imgSize；拜尔格式 ‘grgb’。为了从.lfp文件中提取出光场图像rawdata，需要用到Matlab光场工具包，该工具包由D. G. Dansereau等人开发，目前有toolbox0.3，toolbox0.4两个版本，toolbox0.4的下载地址为：

https://images1.tqwba.com/20200610/j2u1pjrjisi

这个网址还有配套的示例图片(sample 压缩包，另行下载就可以了)，工具包的使用教程在工具包解压出来的文件夹里面(.pdf文件)。接下来就是对光场文件进行解码得到光场图像，并对光场图像进行去马赛克，色彩校正等操作得到RGB的彩色光场图像。

关于工具包的详细设置和使用方法，强烈建议参考这篇文章

https://www.vincentqin.tech/posts/LightField-Toolbox/，

作者写的很详细，我就不赘述了，当时刚开始使用工具包的时候向该文作者请教了很多东西，在此表示感谢~

从.lfp格式的光场文件中解析出RawImg到最终得到RGB图像有以下几个步骤，刚开始请仔细阅读工具包里的PDF文件：

1.从相机里导出白图像(White Images)：

根据matlab工具包解释，白图像是用光场相机在不同的曝光条件下拍摄白色平面得到的图像，这些图像主要有两个作用，一是可以用来校正由镜头阴影造成的图像四角偏暗现象；二是帮助定位微透镜中心的坐标。Lytro illum相机内置了34幅白图像，可以通过相机“导出配对数据”导出到本地。白图像是Raw图，可以通过PhotoShop打开，下面是我用PhotoShop CS5打开后的图像。

2.处理白图像：

通过对每一幅白图像进行处理，分别得到每一幅白图像对应的微透镜网格模型(lenslet grid model)，如下图所示，并建立一个WhiteImagesdatabase映射表。

3.利用白图像对光场文件进行解码得到rawImage：

输入.lfp文件，工具包读取WhiteImagesDataBase映射表，工具包选取最合适的白图像和微透镜网格模型进行光场文件的解码，得到拜尔格式的光场图像(图像尺寸为7728*5368)，如下图左所示，光场工具包中获取光场Raw图是一个中间过程，在LFLytroDecodeImage()函数里面的这条语句LensletImage = LFP.RawImg，保存LensletImage就是了。放大后可以看到每一个微透镜图像，如下图右所示。

4.对rawImage进行去马赛克操作(demosaic)：

Lytro Illum中拜尔格式分布为‘gbgr’，根据此格式对解码出的光场图像进行去马赛克操作，得到RGB彩色图像。

5.对去马赛克后的图像进行色彩校正(color correction)：

对上一步得到的图像进行色彩校正，得到色彩校正后的图像。

好了，现在已经从Lytro Illum光场相机的.lfp文件得到我们想要的RGB光场图像(图像大小是7728*5368)了。

得到RGB光场图像后就可以做重聚焦了，我用的是空域重聚焦方法就是shift-sum，先对子孔径图像按照重聚焦公式进行平移然后相加求平均，我设置的alpha值为0.2F-2F，中间的步长可以自己设置从而得到不同数量的重聚焦图片。我生成了256张重聚焦图片，用其中的50张做成了gif动图，如下图，展示一下重聚焦的效果。

子孔径图像是由物体发出的不同方向的光线成像得到的，在视角上会有差别，Lytro Illum一共有15*15=225个不同视角下的图像，做成gif动图展示一下效果：

通过5D光场数据矩阵得到多视角图像的代码如下，路径啥的自己设置：

光场相机也是可以算深度图的，而且方法还不止一种，简单提一下，以后或许还会继续研究：

1.利用双目视觉的方法，根据不同视角下的子孔径图像匹配得出深度图。

2.利用聚焦法，根据不同深度下每一个像素点处的梯度或者纹理的不同，算出最清晰的那张图片对应的alpha值就可以得到深度图。

学习Lytro Illum光场相机基本流程就是这样了，当然难免有很多理解不到位和错误的地方，诸位大侠如有发现，请多多指正！谢谢~~~