双目视觉几何框架详解（玉米专栏8篇汇总）
一、图像坐标：我想和世界坐标谈谈(A)
玉米竭力用轻松具体的描述来讲述双目三维重建中的一些数学问题。希望这样的方式让大家以一个轻松的心态阅读玉米的《计算机视觉学习笔记》双目视觉数学架构系列博客。这个系列博客旨在捋顺一下已标定的双目视觉中的数学主线。数学推导是有着几分枯燥的，但奇妙的计算机视觉世界是建立在严密的数学架构之上的。所以对数学框架的理解是理解双目视觉的必由之路。不过请大家放心，接下来玉米会以尽量有趣，尽量更接地气儿的方式，阐释一下自己对双目视觉数学或者说是投影几何的理解。
先来张《计算机视觉：算法与应用》中的3D重建示例图镇楼！
好吧，现在言归正传，来看看几何学上世界是怎样投影进摄相机里的吧！接下来让我们来看一下本系列博客的第一“搏”：
图像坐标：我想和世界坐标谈谈(A)
首先，我先解释一下这个题目吧。题目的字面意义是说：图像坐标系想和世界坐标系谈谈。这里面包含着两个问题：
A、谈话对象：视觉系统的三大坐标系：世界坐标系，摄像机坐标系和图像坐标系。这是玉米在本文《我想和世界坐标谈谈 (A)》中想要和大家分享的内容。其中主要包含：三大坐标系的位置、作用和应用场景。
B、谈话方式：两个不同的坐标系之间该如何沟通呢？玉米将在《我想和世界坐标谈谈(B)》中和大家分享一下刚体变换和透视 投影变换。连起两个坐标系之间这不在一个参考系的“世界上最远的距离”。
好吧，下面让我们来揭开三大坐标系的庐山真面目。
上图是三个坐标的示意简图，通过它大家可以对三个坐标有一个直观的认识。下面来看看三个坐标系的骨子里藏了什么。
世界坐标系（XW,YW,ZW）：其是目标物体位置的参考系。除了无穷远，世界坐标可以根据运算方便与否自由放置。在双目视觉中世界坐标系主要有三个用途：
1、标定时确定标定物的位置
2、作为双目视觉的系统参考系，给出两个摄像机相对世界坐标系的关系，从而求出相机之间的相对关系
3、作为重建得到三维坐标的容器，盛放重建后的物体的三维坐标。世界坐标系是将看见中物体纳入运算的第一站。
摄像机坐标系(XC,YC,ZC)：其是摄像机站在自己角度上衡量的物体的坐标系。摄像机坐标系的原点在摄像机的光心上，z轴与摄像机光轴平行。它是与拍摄物体发生联系的桥头堡，世界坐标系下的物体需先经历刚体变化转到摄像机坐标系（旋转和平移），然后再和图像坐标系发生关系。它是图像坐标与世界坐标之间发生关系的纽带，沟通了世界上最远的距离。哈哈
图像坐标系(x,y)米/(u,v)像素 :其是以摄像机拍摄的二维照片为基准建立的坐标系。用于指定物体在照片中的位置。
将(x,y)称为连续图像坐标或空间图像坐标，将(u,v)称为离散图像坐标系或者是像素图像坐标系（虽然这样的称呼未经考证，但更能传达二者的物理意义）。
(x,y)坐标系的原点位于摄像机光轴与成像平面的焦点O’(u0,v0)上，单位为长度单位(米)。(u,v)坐标系的原点在图片的左上角（其实是存储器的首地址）如上图所示，单位为数量单位(个)。(x,y)主要用于表征物体从摄像机坐标系向图像坐标系的透视投影关系。而(u,v)则是实实在在的，我们能从摄像机中得到的真实信息。
(x,y)与(u,v)存在如下转换关系：
dx代表x轴方向一个像素的宽度，dy代表y轴方向上一个像素的宽度。dx、dy为摄像机的内参数。(u0,v0)称为图像平面的主点，也是摄像机的内参数。其实相当于对x轴和y轴的离散化。其可以运用齐次坐标，将上式写成矩阵形式，如下：
（1）式运用了齐次坐标，初学者可能会感到有些迷惑。大家会问：怎样将普通坐标转换为齐次坐标呢？齐次坐标能带来什么好处呢？
玉米在这里对齐次坐标做一个通俗的解释。此处只讲怎么将普通坐标改写为齐次坐标及为什么引入齐次坐标。这里只做一个通俗但不太严谨的表述。力求简单明了。针对齐次坐标的严谨的纯数学推导，可参见“周兴和版的《高等几何》---1.3拓广平面上的齐次坐标”。玉米曾详细读过《高等几何》这本书，但觉得离计算机视觉有点远，是讲纯数学的投影关系的，较为生涩难懂。
齐次坐标可以理解为在原有坐标后面加一个“小尾巴”。将普通坐标转换为齐次坐标，通常就是在增加一个维度，这个维度上的数值为1。如图像坐标系(u,v)转换为(u,v,1)一样。对于无穷远点，小尾巴为0。注意，给零向量增加小尾巴，数学上无意义。
那么，为什么计算机视觉在坐标运算时要加上这个“小尾巴”呢？
玉米看来有两点原因：
1、 将投影平面扩展到无穷远点。如对消隐点(vanishing point)的描述。
2、 使得计算更加规整
如式（1）如果用普通坐标来表达的话，会是下面的样子：
这样的运算形式会给后与运算带来一定的麻烦，所以齐次坐标是一个更好的选择。
齐次坐标还有一个重要的性质，伸缩不变性。即：设齐次坐标M，则αM=M。
玉米才疏学浅，笔记中如有纰漏指出，希望大家不吝指出。玉米在这里拜谢啦！
二、图像坐标：我想和世界坐标谈谈(B)
玉米将在这篇博文中，对图像坐标与世界坐标的这场对话中涉及的第二个问题：谈话方式，进行总结。世界坐标是怎样变换进摄像机，投影成图像坐标的呢？
玉米做了一个简单的图示，在这里做一个提纲。图中显示，世界坐标系通过刚体变换到达摄像机坐标系，然后摄像机坐标系通过透视投影变换到达图像坐标系。可以看出，世界坐标与图像坐标的关系建立在刚体变换和透视投影变换的基础上。为了奖励刚体变和透视投影变换沟通了“世界上最远的距离”，玉米在图上奖励了他们两朵小红花。哈哈
首先，让我们来看一下刚体变换是如何将世界坐标系与图像坐标系联系起来的吧。这里，先对刚体变换做一个介绍：
刚体变换(regidbody motion):三维空间中， 当物体不发生形变时，对一个几何物体作旋转， 平移的运动，称之为刚体变换。
因为世界坐标系和摄像机坐标都是右手坐标系，所以其不会发生形变。我们想把世界坐标系下的坐标转换到摄像机坐标下的坐标，如下图所示，可以通过刚体变换的方式。空间中一个坐标系，总可以通过刚体变换转换到另外一个个坐标系的。转一转，走一走，就到另外一个坐标系下了。以前可能是面朝大海，经过平移旋转，最终可能只能面朝冰山了，哈哈
下面让我来看一下，二者之间刚体变化的数学表达。
其中，XC代表摄像机坐标系，X代表世界坐标系。R代表旋转，T代表平移。R、T与摄像机无关，所以称这两个参数为摄像机的外参数(extrinsic parameter)可以理解为两个坐标原点之间的距离，因其受x,y,z三个方向上的分量共同控制，所以其具有三个自由度。
R则为分别绕XYZ三轴旋转的效果之和。如下面所示：
R=r1*r2*r3.其由三个方向的θ控制，故具有三个自由度。
好了，刚体变换就讲完了。大家应该都了解，世界坐标系到摄像机坐标系之间的转换过程了吧。
接下来，让我们看看摄像机坐标下的坐标如何投影到图像坐标系下，最终变为照片中的一个像素。这其中包含两个过程：一是从摄像机坐标到“空间图像坐标”（x,y）所发生的透视投影；二是从“连续图像坐标”到“离散图像坐标”(u,v)。后者我们已经在第一篇博文中解释过。所以在这里，主要介绍一下透视投影。
透视投影(perspective projection): 用中心投影法将形体投射到投影面上，从而获得的一种较为接近视觉效果的单面投影图。有一点像皮影戏。它符合人们心理习惯，即离视点近的物体大，离视点远的物体小，不平行于成像平面的平行线会相交于消隐点(vanish point)。
啰嗦这么多，其实大家看看示意图，看看公式，秒懂。
以图中B(XB,YB)点为例，在小孔成像摄像机模型下（几何分析的最常用模型）。这里的f为摄像机的焦距，其属于摄像机的内参数(intrinsic parameter)。其在成像平面上的投影点b(xb,yb)的坐标利用简单的相似三角形比例关系很容易求出：
上面两式也阐明了摄像机坐标与图像坐标之间的透视投影关系。
好吧，现在玉米已经把图像坐标与世界坐标之间的这场对话所需经历的三个波折的过程加以了解释。即：刚体变换、透视投影、(x,y)换(u,v)（ps.这个在上一篇博文中讲过）。接下来玉米用一张图把三个过程连接起来。实现从世界坐标(X,Y,Z)到(u,v)之间的转换。让图像坐标与世界坐标直接对话。
下图中的转换关系，都是用齐次坐标表达的，大家会发现这样的表达非常整洁。
其实这张图显示的过程还有一个名字：摄像机模型(camera model)。其实也就是摄像机的几何模型了。
将三者相乘，可以把这三个过程和在一起，写成一个矩阵：
P就是世界坐标到图像坐标的直接联系人，P就表示了一个投影相机，有下面公式：
注意在表示齐次坐标时，需要在符号上面加个小帽子。除去齐次坐标控制位P23，P具有11个自由度。
(世界坐标系 ---刚体变换--->摄像机坐标系---透视投影--->图像坐标---离散化--->数字图像坐标)
摄像机模型及其中涉及的坐标系等，是弄清3D重建几何框架的基础。可以把它们视为基本运算关系。后面对于三维重建几何框架的推导，都是要用到三个基本坐标系和摄像机模型的。
到这里玉米就顺利搭建起了图像坐标与世界坐标间的这场对话。如有纰漏还请大家担待，并指正！
三、致敬“张正友标定”
此处“张正友标定”又称“张氏标定”，是指张正友教授于1998年提出的单平面棋盘格的摄像机标定方法。张氏标定法已经作为工具箱或封装好的函数被广泛应用。张氏标定的原文为“A Flexible New Technique forCamera Calibration”。此文中所提到的方法，为相机标定提供了很大便利，并且具有很高的精度。从此标定可以不需要特殊的标定物，只需要一张打印出来的棋盘格。So great! 这样的方法让人肃然起敬。所以玉米的这篇博客的题目是：致敬“张氏标定”。
当然，此博的内容也是围绕着“张氏标定”进行的，在这里，玉米主要介绍一下，“张氏标定”的数学思路。因为标定在整个基于标定摄像机的三维重建的几何过程占有最重要最核心的地位。如下图：
从图中明显可以看出，标定得到的内参、外参和畸变系数，是双目视觉进行图片矫正，摄像机校正和3D恢复的基础。没有好的标定，双目视觉系统就无法完成3D重建。
既然标定对双目视觉如此重要，我们有必要对数学的深层含义多加理解。以张氏标定为例，让我们挖开工具箱，看看其数学本质吧。因为张教授的论文中对标定方法的讲述是循序渐进的，所以玉米在这里将按照张教授论文中的顺序，为大家讲述一下，张氏标定的脉络。
1、标定平面到图像平面的单应性
因为张氏标定是一种基于平面棋盘格的标定，所以想要搞懂张氏标定，首先应该从两个平面的单应性(homography)映射开始着手。
单应性(homography)：在计算机视觉中被定义为一个平面到另一个平面的投影映射。首先看一下，图像平面与标定物棋盘格平面的单应性。
由上两篇博文中讲到的摄像机模型，肯容易得到：
其中m的齐次坐标表示图像平面的像素坐标(u,v,1)，M的齐次坐标表示世界坐标系的坐标点(X,Y,Z,1)。A[R t]即是上面一篇博客推出的P。R表示旋转矩阵、t表示平移矩阵、S表示尺度因子。A表示摄像机的内参数,具体表达式如下：
α=f/dx，β=f/dy,因为像素不是规规矩矩的正方形，γ代表像素点在x,y方向上尺度的偏差。
这里还有一个“梗儿”，就是S。它只是为了方便运算，对于齐次坐标，尺度因子不会改变坐标值的。
因为标定物是平面，所以我们可以把世界坐标系构造在Z=0的平面上。然后进行单应性计算。令Z=0可以将上式转换为如下形式：
既然，此变化属于单应性变化。那么我们可以给A[r1 r2 t]一个名字：单应性矩阵。并记H= A[r1 r2 t]。
那么现在就有：
大家可以分析一下，H是一个三3*3的矩阵，并且有一个元素是作为齐次坐标。因此，H有8个未知量待解。
(x,y)作为标定物的坐标，可以由设计者人为控制，是已知量。(u,v)是像素坐标，我们可以直接通过摄像机获得。对于一组对应的(x,y)-à(u,v)我们可以获得两组方程。
现在有8个未知量需要求解，所以我们至少需要八个方程。所以需要四个对应点。四点即可算出，图像平面到世界平面的单应性矩阵H。
这也是张氏标定采用四个角点的棋盘格作为标定物的一个原因。
在这里，我们可以将单应性矩阵写成三个列向量的形式，即：
2、利用约束条件求解内参矩阵A
从上面可知，应用4个点我们可以获得单应性矩阵H。但是，H是内参阵和外参阵的合体。我们想要最终分别获得内参和外参。所以需要想个办法，先把内参求出来。然后外参也就随之解出了。我们可以仔细的“观摩”一下下面的式子。
从中可以得出下面两个约束条件，这两个约束条件都是围绕着旋转向量来的。
1、r1,r2正交 得：r1r2=0。这个很容易理解，因为r1,r2分别是绕x,y轴旋转的。应用高中立体几何中的两垂直平面上（两个旋转向量分别位于y-z和x-z平面）直线的垂直关系即可轻松推出。
2、旋转向量的模为1，即|r1|=|r2|=1。这个也很容易理解，因为旋转不改变尺度嘛。如果不信可以回到上一篇博客，找到个方向的旋转矩阵化行列式算一下。
通过上面的式子可以将r1,r2代换为h1,h2与A的组合进行表达。即 r1=h1A-1，r2=h2A-1.根据两约束条件，可以得到下面两个式子：
大家从上面两个式子是不是看出一点端倪了。式子中，h1,h2是通过单应性求解出来的那么未知量就仅仅剩下，内参矩阵A了。内参阵A包含5个参数：α，β，u0，v0，γ。那么如果我们想完全解出这五个未知量，则需要3个单应性矩阵。3个单应性矩阵在2个约束下可以产生6个方程。这样可以解出全部的五个内参了。大家想一下，我们怎样才能获得三个不同的单应性矩阵呢？答案就是，用三幅标定物平面的照片。我们可以通过改变摄像机与标定板间的相对位置来获得三张不同的照片。（当然也可以用两张照片，但这样的话就要舍弃掉一个内参了γ=0）
到这里，大家应该就明白我们在张氏标定法时为什么要不断变换标定板的方位了吧。当然这只是一个原因。第二个原因，玉米会在讲极大似然时讲到。
下面在对我们得到的方程做一些数学上的变化，这些变化都是简单的运算变化了，相信大家动动笔，一算就可以算出。这些变化都是为了运算方便的，所以也没什么物理意义。
首先令：
很容易发现B是一个对称阵，所以B的有效元素只剩下六个（因为有三对对称的元素是相等的，所以只要解得下面的6个元素就可以得到完整的B了），让这六个元素构成向量b。
接下来在做一步纯数学化简：
可以计算得：
利用约束条件可以得到下面，方程组：
这个方程组的本质和前面那两个用h和A组成的约束条件方程组是一样的。在此重复一遍解释：如果我们想完全解出这五个未知量，则需要3个单应性矩阵。3个单应性矩阵在2个约束下可以产生6个方程。这样可以解出全部的五个内参了。大家想一下，我们怎样才能获得三个不同的单应性矩阵呢？答案就是，用三幅标定物平面的照片。我们可以通过改变摄像机与标定板间的相对位置来获得三张不同的照片。（当然也可以用两张照片，但这样的话就要舍弃掉一个内参了γ=0）
通过至少含一个棋盘格的三幅图像，应用上述公式我们就可以估算出B了。得到B后，我们通过cholesky分解 ，就可以轻松地得到摄像机的内参阵A。
3、基于内参阵估算外参阵
通过上面的运算，我们已经获得了摄像机的内参阵。那么对于外参阵，我们很容易通过下面的公式解得：
对上面公式进行化简，可以得到：
至此，玉米已经将张氏标定的主体数学框架已经讲完了。介于篇幅关系（怕太长大机会读的昏昏欲睡，哈哈）。但其实我们做了这么多推导，仅仅是为后面的极大似然参数估计提供初值。但当然这个初值也是不可或缺的，因为没有这个初值，就无法估计出更为准确的参数。玉米将张氏标定中用于提高标定精度的极大似然算法，放到下一篇博客中进行讲解。
还是老话：玉米才疏学浅，讲解之中难免有纰漏，请大家谅解，并指正。
四、极大似然参数估计
此篇博文，玉米将和大家分享一下“张氏标定”除几何推导外的另外一大精髓：参数估计。
张教授在大作“A Flexible New Technique for Camera Calibration”中的原话如下：” The above solution is obtained through minimizing an algebraic distancewhich is not physically meaningful. We can refine it through maximum likelihoodinference”.意思是：上面的几何推导仅仅是纯代数上的拟合，没有物理意义。下面让我们通过极大似然理论对得到的结果进行改善。
顺着张教授的意思，玉米先在这里为大家从概念上讲述一下极大似然估计。
极大似然估计是一种估计总体未知参数的方法。它主要用于点估计问题。所谓点估计是指用一个估计量的观测值来估计未知参数的真值。说穿了就一句话：就是在参数空间中选取使得样本取得观测值的概率最大的参数。
我们定义似然函数：
总体分布为离散型的：（p是已知的分布律）
总体分布为连续性的：（f为概率密度函数）
极大似然法就是在的可取范围内，挑选出来的使L达到最大的未知参数的估计值。
如果在内：，那么就称为极大似然估计值。
列了这么一大圈儿概念，估计大家看的都昏昏入睡了。玉米在这里用通俗点儿的方式解释一下极大似然估计：
对很多实验，我们可以观察到样本，但影响样本的参数却是未知的。那我们就得对样本进行估计。既然我们要去估计，那么就想要估计的准。极大似然法就只在概率分布的观念下，指导我们估计的更准的方法。现实世界中，存在着一条普遍规律：与现实相差越远的概率越小。这就相当于人群中，非主流总是比主流要少一样，偏差大的总是占少数。所以，可能发生的概率越大就会越接近真实值。极大似然法就是应用这种思想，认为可能性最大的就是最优的估计值。即极大似然估计值就是最接近真实值的参数值。
那么，极大似然为什么有这么一个别致的名字呢？什么是似然呢？是因为估计值不是随机变量，所以不能把它的可能性称为概率，那么数学家们就想了这样(likelihood)一个名字来代表可能性。
极大似然法的一些概念上的问题玉米就讲到这里了。下面然玉米带这大家分析一个具体问题：张教授在张氏标定法中所用的极大似然估计。
首先来看一下，为什么标定的内外参数可以用极大似然法进行估计：
因为我们是假定图像上的角点是被噪声干扰的，且我们认为这些噪声是高斯噪声。那么对于噪声的幅度就是给观测值造成的误差。但高斯噪声的概率密度我们是已知的，所以我们可以用前面所述的极大似然估计的思想去“猜”真值。
那么接下来我们就需要构造一个似然函数，然后寻找其最大值了。张教授在文章中直接略过推导，直接给出了公式：
说当此式取得最小值时，就是参数的最大似然估计值。
玉米在这里为大家讲一下自己的理解：
设，角点附近的噪声服从高斯分布
则：角点mij的样本值服从如下，概率密度函数：
现在构造，似然函数：
现在让L取得最大值，则可令下式最小：
那么怎么令上面这个目标函数达到最小值呢，张氏标定法运用了可以用来解决多参数非线性系统优化问题的Levenberg-Marquardt算法。对于该方法，详细的介绍大家可以参照《The levenberg-marquardt algorithm, implementation andtheory》一文进行深入了解。这里给出下载本文的链接：
http://link.springer.com/chapter/10.1007%2FBFb0067700
那么张氏标定法在不考虑镜头畸变的情况下的，获取摄像机内外参数的数理推导过程。玉米就为大家讲到这里了。下面一篇博文，玉米会给大家分析一下，张氏标定法是怎样分析摄像机的非线性畸变的。
还是老话：玉米才疏学浅，讲解之中难免有纰漏，请大家谅解，并指正。
五、畸变矫正
这篇博文所要讲述的内容，是标定的主要用途之一：矫正摄像机的畸变。对于图像畸变矫正的方法，张正友教授也在其大作“A Flexible New Technique forCamera Calibration”中给出。
玉米在这里先为大家介绍一下，摄像机畸变主要有哪几种以及这些讨厌的畸变从何而来。
摄像机畸变主要包含：镜像畸变、切向畸变。玉米在这里分别讲述一下，并引用一些图片，使大家对他们有一个直观的认识。
1．径向畸变：产生原因是光线在远离透镜中心的地方比靠近中心的地方更加弯曲径向畸变主要包含桶形畸变和枕形畸变两种。下面两幅图是这两种畸变的示意：
它们在真实照片中是这样的：
2.切向畸变：产生的原因透镜不完全平行于图像平面，这种现象发生于成像仪被粘贴在摄像机的时候。下面图片来自于《学习opencv》p413。
畸变矫正，首先应该知道畸变系数，然后做与畸变相反的变换，消除畸变。
张氏标定法中只关注径向畸变。我们是按照张氏标定，计算畸变系数的。那么，下面让我们来看一下径向畸变的数学表达。
因为在实际情况下，径向畸变较小，所以其可以用主点(principle point)周围的泰勒级数展开的前几项进行描述。张氏标定法，利用前两项来确定径向畸变的畸变系数。数学表达式如下：
其中，代表理想无畸变的像素坐标，代表实际径像畸变的情况下的像素坐标，代表主点，代表理想无畸变时的连续图像坐标，代表实际径像畸变的情况下的连续图像坐标。K1,k2代表前两阶的畸变参数。。
那么对于图像上的任意一点，我们有两个个等式。化成矩阵形式：
通过前面两篇博文所介绍的内容，求得的摄像机模型，我们可以计算出（可通过摄像机模型直接解出）、（与是否畸变无关，直接在已求得的内参阵中得到）、（即直接读取的有畸变的像素坐标），（由摄像机模型可以通过物体的世界坐标点解出）。那么，两个方程两个未知数，我们用一点就可以求的径向畸变了。因为我们有n张图片，每张图片上有m个点，所以我们可以得到2mn个等式。运用最小二乘法对结果进行优化。可用下式解径向畸变k=[k1,k2]。
其中，D等式左边的方程的系数矩阵，d是等式右边的有畸变的像素坐标与无像素坐标之差构成的矩阵。有上式，一步到位，计算出畸变系数。
但是，但是，大家先别急。我们的参数求解之路还没有结束。为了使标定得到的估算实际的、存在径向畸变的摄像机参数。我们需要把，刚刚求解得到的畸变参数，连同前面得到的理想无畸变条件下的内外参数一起，进行极大似然估计。
这里的极大似然估计方法与上一篇博文《极大似然参数估计》相同，玉米在这里就不在赘述。
依然是以最小化下列函数为目标，只不过此次参数估计中又多加了k1,k2：
然后，仍然用Levenberg-Marquardt算法进行计算。最终就得到了，我们想要在考虑畸变情况下，摄像机的参数。
张氏标定，大功告成！
下面让我们矫正畸变：
就是这样一个简单的公式，就完成了畸变矫正。代表矫正畸变后的像素坐标，代表实际径像畸变的情况下的图像的像素坐标。
最后给大家展示两幅图，让大家看一下畸变矫正的成果：
这就是张氏标定带给我们的第一个直观的好处，后面还有两个大好处，玉米将为您介绍。
玉米才疏学浅，恳请请大家批评指正！
六、张正友标定法小结
这一博文，是玉米后补上的。因为觉得前面用了三篇博文来描述张氏标定法，略显散乱。在这里总结一下，使条理清晰一点。另外关于张氏标定所得参数也还有两点需要澄清。下面这个总结，其实也是在“A Flexible New Technique forCamera Calibration”中出现的。
一、张氏标定的过程：
1. 打印一张棋盘格，把它贴在一个平面上，作为标定物。
2. 通过调整标定物或摄像机的方向，为标定物拍摄一些不同方向的照片。
3. 从照片中提取特征点（如角点）。
4. 估算理想无畸变的情况下，五个内参和所有外参。
5. 应用最小二乘法估算。实际存在径向畸变下的畸变系数。
6. 极大似然法，优化估计，提升估计精度。
通过这样的过程，我们就获得了具有高估计精度的五个内参，三个外参和两个畸变系数。利用这些信息，我们可以进行畸变矫正、图像校正和最终的三维信息恢复。
二、以下是对于张氏标定求得的内参，需要注意的一点：
通过张氏标定，我们并不能得到：焦距(f)和像素的物理尺寸(sx,sy)两个参数。因为我们在求解内参阵A时，求解出的是α和β。
α=f/ sx,β= f/ sy 。分别代表焦距长度上，x轴和y轴像素的个数。
虽然，没有求得焦距，但这并不影响，我们在三维坐标恢复时，进行三角运算。因为彼时，我们的计算中用到的也是α和β。
大家可能会有疑问，既然我们无法得到焦距(f)和像素的物理尺寸(sx,sy)两个参数。那么在opencv中，调用的cvCalibrateCamera2时返回的参数中是包含焦距(f)的。Opencv的这个函数也是用了张氏标定法。为什么可以得到f呢？
答案是这条opencv函数对内参阵做了简化，其认为γ=0即像素的物理尺寸(sx,sy)两个参数相等。然后统一约掉物理尺寸s。得到的B阵如下：
这样我们就可以解出f了。
张氏标定的精确度可达到0.5个像素，这样的指标已经可以满足绝大多数的应用了。所以如此简单的方法，得到了这么高的精度。这样的方法是值得人们膜拜的。在此，在次向张正友教授致敬！
在此，玉米又对张氏标定法进行了一个总结。张氏标定的原理分析就到此为止了。但是它的作用还会延续到下面两篇博文中。
玉米才疏学浅，文中如有纰漏，请大家批评指正。
七、立体标定与立体校正
这篇博文中，让玉米和大家一起了解一下，张氏标定是怎样过渡到立体标定的？在这里主要以双目立体视觉进行分析。对于双目立体视觉，我们有两个摄像头。它们就像人的一双眼睛一样，从不同的方向看世界。两只眼睛中的图像的视差，让我们对世界有了三维的认识。
那么，想要知道视差，首先应该知道双目视觉系统中两个摄像头之间的相对位置关系。我们可以通过同时对两个摄像头进行标定，分别得到二者相对同一坐标系的旋转矩阵和平移矩阵。获得这两个矩阵的过程，就是立体标定的过程。也即是：从张氏标定走向立体标定！
两摄像头之间的旋转矩阵和平移矩阵可以由下式求出：
其中，R为两摄像头间的旋转矩阵，T为两摄像头间的平移矩阵。Rr为右摄像头经过张氏标定得到的相对标定物的旋转矩阵，Tr为右摄像头通过张氏标定得到的相对标定物的平移向量。Rl为左摄像头经过张氏标定得到的相对相同标定物的旋转矩阵，Tl为左摄像头经过张氏标定得到的相对相同标定物的平移向量。
两个式子是可以通过数学代换推导来的。但玉米觉得对这样有明显物理意义并且空间过程简单的计算式。物理上的空间想象，比纯代数代换，要生动的多。并且有利于大家揣摩整个物理过程。
在玉米眼里，这两个式子是这样的：
对于R，首先用T把左摄像机坐标系平移到右摄像机坐标系上（即两坐标系远点重合）。然后在同一参考系下的两个旋转矩阵相乘，表示世界坐标先向右旋转到Rr ，再向左旋转Rl。那么两次旋转后得到的旋转，就是有摄像机旋转到左摄像机所需的旋转矩阵R。
对于T，那就更容易理解了，先用R对左坐标系旋转一下，把左右两摄像机调成平行，然后直接平移向量相减，即得到。两摄像机之间的平移向量T。
上面求得的R和T就是立体标定得到的参数了。
那么运用的立体标定所得的参数了，下一步我们该做什么呢？答案是：立体校正。
在介绍立体校正的具体方法之前，让我们来看一下，为什么要进行立体校正？
因为当两个图像平面是完全共面行对准时，计算立体视差是最简单的。但是，在现实的双目立体视觉系统中，是不存在完全的共面行对准的两个摄像机图像平面的。所以我们要进行立体校正。立体校正的目的就是，把实际中非共面行对准的两幅图像，校正成共面行对准。如下面示意图所示。（共面行对准是指：两摄像机图像平面在同一平面上，且同一点投影到两个摄像机图像平面时，应该在两个像素坐标系的同一行）
有了上述铺垫，下面让玉米给大家陈述一下基于立体标定所获参数的立体校正的数学原理，或者说是几何原理。但玉米在这里，主要和大家分享一下，如此校正的物理意义。
立体校正应该分两步走：
1、 将两个图像平面拉回同一平面。
这一步，该怎么做呢？玉米相信，经过这么多铺垫，大家应该早就心里有数了。这一步很简单。可以这样：两个平面在方向上 之间不是相差一个旋转矩阵R吗，那么我们让两个相机个旋转一半，但需注意二者的旋转，应该是反向的。如下式所示：
上面的这个公式是玉米根据物理意义自己总结的。rl 、rr 分别代表左摄像机和右摄像机为达到共面所需的旋转矩阵。rl、rr程度 相同，但旋转方向相反。左右相机分别经历了这样的旋转之后，二者就已经共面了。大家应该明白了吧？
2、 旋转图像使得同行对准
玉米在这里先为大家展示一个，校正成功的图吧。
大家可以像小学时候写看图说话作文一样，观察一下图中校正前和校正后左右两摄像机的图像到底发生了什么本质的变 化。
玉米的答案是：左右两图分别绕光轴作了旋转，旋转过后两摄像机的主点连线平行像素坐标的行线。
玉米的答案也是自己对行对准的理解，比较通俗。这与很多书上用极几何术语描述的有些不同，大家可以思考一下，玉米 说的有没有道理。
好，既然已经明确了，要达到行对准，图像所需发生的变化。那么就让我们用数学表达式来表达它们吧。
玉米画了一个简单的示意图，画的丑大家不要见笑。
红色的线表示的是校正后的行线，其是左右对准的。大家可以看到，从原图像的行线转到校正后图像的行线，左图像转动了α，右图像转动了θ。那么怎样来确定两个旋转角度呢？
大家可以回忆一下，我们在本系列博文中的第二篇中讲述刚体变换时，把旋转矩阵按不同轴分解的方法。可以看做是沿光轴旋转，旋转目的是与主点连线平行。先以左图像为例：
那么我们设旋转矩阵为Rh ,
则Rh可以表示为以归一化T（平移向量）：e1为旋转的指针,则随之e2为e1与光轴的叉积，e3为e2与e1的叉积：
大家可以进一步算一下：
我们发现，其实行对准就是绕e3方向，转了α。同样的，对右图就是转了θ。
通过上面的推导，我们就把立体标定与立体校正中的数学思想理清楚了。其实，立体匹配是有很多种方法的，玉米在里只是介绍了立体校正的基本原理。其他方法中，有一些可以不依赖标定参数，如果大家想要对立体校正进行深入研究，大家可以搜索一些经典论文进行深入学习。如：A. Fusiello, E. Trucco, and A. Verri.写的 Acompact algorithm for rectification of stereo pairs.等等
截止目前对于三维重建的所有准备工作，都已完成。几何框架也仅剩下最后一步：立体成像。（因为本系列博文只介绍双目视觉的几何架构，所以跳过匹配不谈）玉米在下一篇博文中将与大家分享一下，几何脉络的最终果实：立体成像。这也是我们对于双目视觉几何框架推导和理解的最终目标。
玉米才疏学浅，文中如有纰漏，请大家批评指正！
八、走向三维
我们前面花了七篇博文做铺垫，我们所做的一切努力都是为了最后的这一击——立体成像。因为玉米的这个系列文章是对双目视觉几何框架的总结。此处跳过匹配，假设左右图像点的完美匹配的。只看在几何上，三维坐标是如何被还原的。相对来说，最后的这一步，比前面是要轻松许多的，因为我们前面已经做了大量的工作。这些工作使得最后的这一步，由不可能称为可能，由复杂变得简单，吧啦吧啦。好吧，闲话少说，让我们一起来见证这一时刻吧。
此处我们按opencv中cvcalibratecamera2()函数得到的焦距f进行三维坐标的求解。
请大家看下面示意图（莫怪，玉米的图一向画的丑）：
根据最简单的相似三角形关系，我们就可以求出，物点坐标(X,Y,Z)。
首先，
其中，s为像素的物理尺寸，d就是两个摄像机间的视差，d=(uL-uR)s。
我们得到的这个三维坐标，相当于是在右摄像机的摄像机坐标系上的。
那么重建就是透视投影的逆过程，我们可以把这个过程表示成矩阵形式。我们定义Q为反投影矩阵。那么依照上式：
齐次坐标形式的三维坐标恢复，矩阵形式如下：
至此，玉米的《计算机视觉学习笔记》双目视觉几何框架系列文章顺利收尾。希望这八篇博文对大家，尤其是计算机视觉的初学者有所帮助。
在行文过程中，玉米引用了网络上的一些图片，但大多找不到出处，所以未给出引用表。如这些图片的主人，发现了自己的图片在这个博客上，请和玉米联系，玉米会将引用出处，重新给出！
本系列博文中涉及的数学运算颇多，玉米才疏学浅，中间若有理解上的错误，恳请大家批评指正！
转载自大神博客：
http://blog.csdn.net/onthewaysuccess/article/details/40709745
https://www.cnblogs.com/dverdon/p/5609124.html
侵删。
双目视觉几何框架详解（玉米专栏8篇汇总）相关推荐
- 双目视觉集合框架详解
双目视觉几何框架详解 一.图像坐标:我想和世界坐标谈谈(A) 玉米竭力用轻松具体的描述来讲述双目三维重建中的一些数学问题.希望这样的方式让大家以一个轻松的心态阅读玉米的<计算机视觉学习笔记> ...
- 双目立体视觉几何框架详解
一.图像坐标系:世界坐标系 (1)图像坐标和世界坐标(A) 视觉系统的三大坐标系:世界坐标系,摄像机坐标系和图像坐标系. 世界坐标系(XW,YW,ZW):其是目标物体位置的参考系.除了无穷远, ...
- 双目视觉标定原理详解（张氏标定）
一.图像坐标:我想和世界坐标谈谈(A) 玉米竭力用轻松具体的描述来讲述双目三维重建中的一些数学问题.希望这样的方式让大家以一个轻松的心态阅读玉米的<计算机视觉学习笔记>双目视觉数学架构系列 ...
- （七）立体标定与立体校正 【计算机视觉学习笔记--双目视觉几何框架系列】
七.立体标定与立体校正 这篇博文中,让玉米和大家一起了解一下,张氏标定是怎样过渡到立体标定的?在这里主要以双目立体视觉进行分析.对于双目立体视觉,我们有两个摄像头.它们就像人的一双眼睛一样,从不同的方 ...
- 框架详解_Qt开发技术：QtCharts（一）QtCharts基本介绍以及图表框架详解
若该文为原创文章,未经允许不得转载 原博主博客地址:https://blog.csdn.net/qq21497936 原博主博客导航:https://blog.csdn.net/qq21497936/ ...
- jQuery Validate验证框架详解
2019独角兽企业重金招聘Python工程师标准>>> 一.导入js库 <script type="text/javascript" src="& ...
- shiro放行_Shiro框架详解 tagline
部分面试资料链接:https://pan.baidu.com/s/1qDb2YoCopCHoQXH15jiLhA 密码:jsam 想获得全部面试必看资料,关注公众号,大家可以在公众号后台回复" ...
- [Cocoa]深入浅出 Cocoa 之 Core Data（1）- 框架详解
深入浅出 Cocoa 之 Core Data(1)- 框架详解 罗朝辉(http://blog.csdn.net/kesalin) CC 许可,转载请注明出处 Core data 是 Cocoa 中处 ...
- WebDriver自动化测试框架详解
webDriver自动化测试框架详解 一. 简介 WebDriver API相对于Selenium Remote Control API来说,虽然同样是控制浏览器,但它的编程接口更加简洁 WebDri ...
最新文章
- PanoNet3D：一种3D目标检测方法
- STM32的抢占优先级和响应优先级
- 飞哥：程序员完全没时间提升自己该怎么办?
- 全国计算机一级考试试题大题,2016年全国计算机一级考试试题汇集
- 自动划分-------训练集+验证集+测试集（code，自己设置比例）
- 会议室分配时间最长_突破大设计1：时间分配
- 微服务分布式基础项目(免费答疑)：SpringBoot2.X+SpringCloud+SpringDataJPA+Consul+Feign+Swagger (还会持续更新，不懂的可以问博主)
- 在JS中关于堆与栈的认识function abc(a){ a=100; } function abc2(arr){ arr[0]=0; }
- matlab模拟方孔衍射,基于MATLAB的圆孔衍射实验模拟.pdf
- endnote 参考文献加序号_两招搞定参考文献自动编号与格式编排
- 计算机二级操作题相关笔记
- android代码控制组件的移动,Android自定义控件实现随手指移动的小球
- MySQL - 8 递归查询树结构
- ISIS路由协议(1)
- 计算机芯片的主要用途,汽车电脑芯片30343的主要作用是什么？？
- Centos7.6 安装cmatrix黑客帝国代码屏保
- eclipse建立Flex项目之Blazeds篇1(测试成功完整版)
- Python+OpenCV3.3图像处理视频教程 贾志刚 代码笔记1
- ERC 和 EIP 代表什么呢？
- Typora主题代码更改(引用块颜色, 标题样式和颜色, 行内代码样式)