看完原论文后(英语不太好，只看懂了个大概)，大致上明白了它是做什么以及如何实现的等，于是决定写一篇博客，所以该篇文章简单介绍一下 SSIM(有能力的话，看原论文或维基比我来介绍更好)，并给出我用 opencv 在 C++ 中的 SSIM 算法实现。

首先什么是 SSIM 算法，该算法主要用于检测两张尺寸相同的图像的相似度，但注意到论文标题的中的 Structural，所以实际上它主要通过分别比较两个图像的亮度(l)、对比度(c)、结构(s)，然后对这三个要素加权并乘积表示，而在论文中这三个要素用下面公式来表示：

$$l(x, y) = \frac{(2\mu _x\mu _y + C_1)}{(\mu _{x}^{2} + \mu _{y}^{2} + C_1)}$$

$$c(x, y) = \frac{(2\sigma _{x}\sigma _{y} + C_2)}{(\sigma _{x}^{2} + \sigma _{y}^{2} + C_2)}$$

$$s(x, y) = \frac{(\sigma _{xy} + C_3)}{(\sigma _{x} \sigma _{y} + C_3)}$$

这里 $\mu _x$ 为均值，$\sigma _{x}$ 为方差，$\sigma _{xy}$ 表示协方差。这里 $C_1$、$C_2$、$C_3$ 是为了避免当分母为 0 时造成的不稳定问题(所以写算法的时候可以放心，一定不会出现除 0 的情况)

而 SSIM 的一般方程为：

$$ssim(x, y) = [l(x, y)^\alpha \cdot c(x, y)^\beta \cdot s(x, y)^\gamma ]$$

这里一般 $\alpha$，$\beta$，$\gamma$ 取 $1$，并且令 $C_3 = \frac{C_2}{2}$，这样就得到简化的 SSIM 公式：

$$ssim(x, y) = \frac{(2\mu _x\mu _y + C_1)(\sigma _{xy} + C_2)}{(\mu _{x}^{2} + \mu _{y}^{2} + C_1)(\sigma _{x}^{2} + \sigma _{y}^{2} + C_2)}$$

论文中还指出该公式满足下面三个条件：

1.对称性，即 $ssim(x, y) = ssim(y, x)$.

2.有界性，即 $ssim(x, y) <= 1$.

3.有唯一最大值，即 $ssim(x, y) <= 1$，这里当且仅当 $x = y$ 时取等并且这里还有一点是说：两个矩阵的每个矩阵元素都一一对应相等.

上面三个条件很容易理解，对称性保证了当两张图交换位置带入公式时，显然测量指标不应该发生变化，有界性保证了归一化到 0 ~ 1(话说我觉得应该不可能出现小于 0 的情况)，评估可以更直观的按百分比来说明，最后一个条件保证了我们使用相同的图像作为输入，一定能得到相等的结果。

实际上公式是十分显然的，我们只要分别求出两张图像的均值以及方差，再对两张图像求协方差就可以带入到 SSIM 公式进行计算，这里计算结果其实得到的是一张图像，它显示了两张图的混叠，借用一下python 以及两张 opencv 的示例图：

(pic5.png)

(pic6.png)

import numpy as np

import matplotlib.pyplot as plt

import cv2 as cv

from skimage import data, img_as_float

from skimage.metrics import structural_similarity as ssim

img1 = cv.imread('C:/opencv/samples/data/pic5.png', cv.CV_8U)

img2 = cv.imread('C:/opencv/samples/data/pic6.png', cv.CV_8U)

def mse(x, y):

return np.linalg.norm(x - y)

fig, axes = plt.subplots()

mse_none = mse(img1, img2)

mssim, s = ssim(img1, img2, data_range=img1.max() - img1.min(), full=True)

label = 'MSE: {:.2f}, SSIM: {:.2f}'

axes.imshow(s, cmap=plt.cm.gray, vmin=0, vmax=1)

axes.set_xlabel(label.format(mse_none, mssim))

axes.set_title('SSIM image')

plt.tight_layout()

plt.show()

会看到 ssim 输出：

而评估算法的性能指标公式是：

$$mssim(x, y) = \frac{1}{M}\sum_{j = 1}^{M} ssim(x_j, y_j)$$

也就是像素取均值。

该算法的优点在于对图像的结构信息敏感，所以相似图像的识别率很高，但缺点也有：

1.如果将原图经过旋转(宽度和高度不同的话试试旋转 180 度)、平移等变换或加噪点后再和原图进行比较就显得吃力了：

2.算法只能处理相同形状的两个图像，但可以多通道。

最后，给出我的 C++ 实现(不支持多通道图像，以后或许会考虑实现多通道)：

/********************************************************************************************************************************************************

* 该部分主要功能实现 SSIM 算法

*

* 关于 SSIM 算法参考文献：https://ece.uwaterloo.ca/~z70wang/publications/ssim.pdf

* 公式：$$ssim(x, y) = \frac{(2\mu _x\mu _y + C_1)(\sigma _{xy} + C_2)}{(\mu _{x}^{2} + \mu _{y}^{2} + C_1)(\sigma _{x}^{2} + \sigma _{y}^{2} + C_2)}$$

*

* 参数：

* im1: 图像 1

* im2: 图像 2

* window: 滑动窗口大小，用于卷积滤波

* k1: 可调节常数，默认 k1 = 0.01

* k2: 可调节常数，默认 k2 = 0.03

* L: 单通道灰度图像像素值范围，默认 L = 255.0

*

* 返回值：

* 相似度指标 (类型：double)

*********************************************************************************************************************************************************/

float ssim(Mat im1, Mat im2, int window = 7, float k1 = 0.01f, float k2 = 0.03f, float L = 255.f)

{

CV_Assert(im1.size() == im2.size());

int ndim = im1.dims;

float NP = std::powf(window, ndim);

float cov_norm = NP / (NP - 1);

float C1 = (k1 * L) * (k1 * L);

float C2 = (k2 * L) * (k2 * L);

Mat ux, uy;

Mat uxx = im1.mul(im1);

Mat uyy = im2.mul(im2);

Mat uxy = im1.mul(im2);

blur(im1, ux, Size(window, window), Point(-1, -1));

blur(im2, uy, Size(window, window), Point(-1, -1));

blur(uxx, uxx, Size(window, window), Point(-1, -1));

blur(uyy, uyy, Size(window, window), Point(-1, -1));

blur(uxy, uxy, Size(window, window), Point(-1, -1));

Mat ux_sq = ux.mul(ux);

Mat uy_sq = uy.mul(uy);

Mat uxy_m = ux.mul(uy);

Mat vx = cov_norm * (uxx - ux_sq);

Mat vy = cov_norm * (uyy - uy_sq);

Mat vxy = cov_norm * (uxy - uxy_m);

Mat A1 = 2 * uxy_m;

Mat A2 = 2 * vxy;

Mat B1 = ux_sq + uy_sq;

Mat B2 = vx + vy;

Mat ssim_map = (A1 + C1).mul(A2 + C2) / (B1 + C1).mul(B2 + C2);

Scalar mssim = mean(ssim_map);

ssim_map.convertTo(ssim_map, CV_8UC1, 255, 0);

imshow("ssim", ssim_map);

return mssim[0];

}

用下面代码即可测试算法：

#include "opencv2/highgui.hpp"

#include "opencv2/imgproc.hpp"

#include "opencv2/videoio.hpp"

#include

using namespace std;

using namespace cv;

// ssim()

int main(int argc, const char** argv)

{

Mat orginal_im;

if (argc > 1)

orginal_im = imread(argv[1]);

else

orginal_im = imread("C:/opencv/samples/data/lena.jpg");

Mat frame = imread("C:/opencv/samples/data/lena_tmpl.jpg");

Mat im1f, im2f;

orginal_im.convertTo(im1f, CV_32FC1);

frame.convertTo(im2f, CV_32FC1);

ostringstream text;

text << "mssim:" << ssim(im1f, im2f);

putText(frame, text.str(), Point(30, 30),

FONT_HERSHEY_COMPLEX_SMALL, 0.8, Scalar(255, 200, 0), 1, 8);

imshow("Original image", orginal_im);

imshow("Frame", frame);

waitKey(0);

return 0;

}

运行结果：

参考文献：

算法实现参考：

3.skimage.metrics.structural_similarity 源码