鱼眼摄像头的畸变矫正方法-python+opencv

鱼眼摄像头畸变校正的方法：

1. 棋盘矫正法

2. 经纬度矫正法。

相机为什么会出现畸变？

当前相机的畸变主要分为径向畸变和切向畸变两种。

径向畸变产生的原因：相机的光学镜头厚度不均匀，离镜头越远场景的光线就越弯曲从而产生径向畸变。

切向畸变产生的原因：镜头与图像传感器不完全平行造成的。

图一径向畸变图二切向畸变

相机参数有哪些？

相机内参：主要包括相机矩阵（包括焦距，光学中心，这些都是相机本身属性）和畸变系数（畸变数学模型的5个参数 D = {K1,K2,K3,P1,P2}）。

相机外参：通过旋转和平移将实际场景3D映射到相机的2D坐标过程中的旋转和平移就是外参。（他描述的是世界坐标转化成相机坐标的过程）

相机的标定流程

相机标定流程就是4个坐标系在转换过程中求出计算机的外参和内参的过程。四个坐标系分别是：世界坐标系（真实的实际场景），相机坐标系（摄像头镜头中心），图像坐标系（图像传感器成像中心，图片中心，影布中心），像素坐标系（图像左上角为原点）。如图三所示，O1是图像坐标系，O0 是像素坐标系，两者之间的区别只是原点发生了变化。

世界坐标系 -》相机坐标系求解外参（旋转和平移）

相机坐标系 -》图像坐标系求解内参（摄像头矩阵，畸变系数）

图像坐标系 -》像素坐标系求解像素转化矩阵（可简单理解为原点从图片中心到左上角，单位厘米变行列）

图三图像坐标系和像素坐标系

一、基于棋盘的相机畸变校正方法

打印棋盘并采集鱼眼摄像头下的棋盘图片：

1. 棋盘获取：链接: https://pan.baidu.com/s/14qB3kQ_MbWORay1i0GFm1A 提取码: ksqw 复制这段内容后打开百度网盘手机App，操作更方便哦

2. 采集图片，采集图片如下图所示，可以多采集一些，标注的会更加准确。

3. 使用采集的图片求出相机的内参和矫正系数（DIM, K, D），然后使用得到的（DIM, K, D）再进行测试，代码如下。

import cv2
import numpy as np
import globdef get_K_and_D(checkerboard, imgsPath):CHECKERBOARD = checkerboardsubpix_criteria = (cv2.TERM_CRITERIA_EPS+cv2.TERM_CRITERIA_MAX_ITER, 30, 0.1)calibration_flags = cv2.fisheye.CALIB_RECOMPUTE_EXTRINSIC+cv2.fisheye.CALIB_CHECK_COND+cv2.fisheye.CALIB_FIX_SKEWobjp = np.zeros((1, CHECKERBOARD[0]*CHECKERBOARD[1], 3), np.float32)objp[0,:,:2] = np.mgrid[0:CHECKERBOARD[0], 0:CHECKERBOARD[1]].T.reshape(-1, 2)_img_shape = Noneobjpoints = []imgpoints = []images = glob.glob(imgsPath + '/*.png')for fname in images:img = cv2.imread(fname)if _img_shape == None:_img_shape = img.shape[:2]else:assert _img_shape == img.shape[:2], "All images must share the same size."gray = cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)ret, corners = cv2.findChessboardCorners(gray, CHECKERBOARD,cv2.CALIB_CB_ADAPTIVE_THRESH+cv2.CALIB_CB_FAST_CHECK+cv2.CALIB_CB_NORMALIZE_IMAGE)if ret == True:objpoints.append(objp)cv2.cornerSubPix(gray,corners,(3,3),(-1,-1),subpix_criteria)imgpoints.append(corners)N_OK = len(objpoints)K = np.zeros((3, 3))D = np.zeros((4, 1))rvecs = [np.zeros((1, 1, 3), dtype=np.float64) for i in range(N_OK)]tvecs = [np.zeros((1, 1, 3), dtype=np.float64) for i in range(N_OK)]rms, _, _, _, _ = cv2.fisheye.calibrate(objpoints,imgpoints,gray.shape[::-1],K,D,rvecs,tvecs,calibration_flags,(cv2.TERM_CRITERIA_EPS+cv2.TERM_CRITERIA_MAX_ITER, 30, 1e-6))DIM = _img_shape[::-1]print("Found " + str(N_OK) + " valid images for calibration")print("DIM=" + str(_img_shape[::-1]))print("K=np.array(" + str(K.tolist()) + ")")print("D=np.array(" + str(D.tolist()) + ")")return DIM, K, Ddef undistort(img_path,K,D,DIM,scale=0.6,imshow=False):img = cv2.imread(img_path)dim1 = img.shape[:2][::-1]  #dim1 is the dimension of input image to un-distortassert dim1[0]/dim1[1] == DIM[0]/DIM[1], "Image to undistort needs to have same aspect ratio as the ones used in calibration"if dim1[0]!=DIM[0]:img = cv2.resize(img,DIM,interpolation=cv2.INTER_AREA)Knew = K.copy()if scale:#change fovKnew[(0,1), (0,1)] = scale * Knew[(0,1), (0,1)]map1, map2 = cv2.fisheye.initUndistortRectifyMap(K, D, np.eye(3), Knew, DIM, cv2.CV_16SC2)undistorted_img = cv2.remap(img, map1, map2, interpolation=cv2.INTER_LINEAR, borderMode=cv2.BORDER_CONSTANT)if imshow:cv2.imshow("undistorted", undistorted_img)return undistorted_imgif __name__ == '__main__':# 开始使用图片来获取内参和畸变系数DIM, K, D = get_K_and_D((6,9), '')# 得到内参和畸变系数畸变矫正进行测试'''DIM=(2560, 1920)K=np.array([[652.8609862494474, 0.0, 1262.1021584894233], [0.0, 653.1909758659955, 928.0871455436396], [0.0, 0.0, 1.0]])D=np.array([[-0.024092199861108887], [0.002745976275100771], [0.002545415522352827], [-0.0014366825722748522]])img = undistort('../imgs/pig.jpg',K,D,DIM)cv2.imwrite('../imgs/pig_checkerboard.jpg', img)'''

二、基于经纬度的矫正方法

1. 算法原理：经纬度矫正法，可以把鱼眼图想象成半个地球，然后将地球展开成地图，经纬度矫正法主要是利用几何原理，对图像进行展开矫正。（此算法操作简单不需要使用棋盘来进行数据采集）

2. 代码实现：

import cv2
import numpy as np
import time# 鱼眼有效区域截取
def cut(img):img_gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)(_, thresh) = cv2.threshold(img_gray, 20, 255, cv2.THRESH_BINARY)contours, hierarchy = cv2.findContours(thresh, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)cnts = sorted(contours, key=cv2.contourArea, reverse=True)[0]x,y,w,h = cv2.boundingRect(cnts)r = max(w/ 2, h/ 2)# 提取有效区域img_valid = img[y:y+h, x:x+w]return img_valid, int(r)# 鱼眼矫正
def undistort(src,r):# r： 半径， R: 直径R = 2*r# Pi: 圆周率Pi = np.pi# 存储映射结果dst = np.zeros((R, R, 3))src_h, src_w, _ = src.shape# 圆心x0, y0 = src_w//2, src_h//2# 数组， 循环每个点range_arr = np.array([range(R)])theta = Pi - (Pi/R)*(range_arr.T)temp_theta = np.tan(theta)**2phi = Pi - (Pi/R)*range_arrtemp_phi = np.tan(phi)**2tempu = r/(temp_phi + 1 + temp_phi/temp_theta)**0.5tempv = r/(temp_theta + 1 + temp_theta/temp_phi)**0.5# 用于修正正负号flag = np.array([-1] * r + [1] * r)# 加0.5是为了四舍五入求最近点u = x0 + tempu * flag + 0.5v = y0 + tempv * np.array([flag]).T + 0.5# 防止数组溢出u[u<0]=0u[u>(src_w-1)] = src_w-1v[v<0]=0v[v>(src_h-1)] = src_h-1# 插值dst[:, :, :] = src[v.astype(int),u.astype(int)]return dstif __name__ == "__main__":t = time.perf_counter()frame = cv2.imread('../imgs/pig.jpg')cut_img,R = cut(frame)t = time.perf_counter()result_img = undistort(cut_img,R)cv2.imwrite('../imgs/pig_vector_nearest.jpg',result_img)print(time.perf_counter()-t)

感谢一下几位大佬资源支持：

https://blog.csdn.net/hpuhjl/article/details/80899931

https://blog.csdn.net/waeceo/article/details/50580808

https://zhuanlan.zhihu.com/p/55648494

http://www.expoon.com/wenda/20180427218.html