简介

在这篇文章中我将介绍如何写一个简短(200行)的 Python 脚本,来自动地将一幅图片的脸替换为另一幅图片的脸。

这个过程分四步:

检测脸部标记。

旋转、缩放、平移和第二张图片,以配合第一步。

调整第二张图片的色彩平衡,以适配第一张图片。

把第二张图像的特性混合在第一张图像中。

公众号后台回复:"换脸”,获取程序完整代码。

1.使用 dlib 提取面部标记

该脚本使用 dlib 的 Python 绑定来提取面部标记:

Dlib 实现了 Vahid Kazemi 和 Josephine Sullivan 的《使用回归树一毫秒脸部对准》论文中的算法。算法本身非常复杂,但dlib接口使用起来非常简单:

PREDICTOR_PATH ="/home/matt/dlib-18.16/shape_predictor_68_face_landmarks.

dat"detector = dlib.get_frontal_face_detector()predictor = dlib.

shape_predictor(PREDICTOR_PATH)defget_landmarks(im):

rects = detector(im,1) iflen(rects) >1:

raiseTooManyFaces iflen(rects) ==0:

raiseNoFaces returnnumpy.matrix([[p.x, p.

y]forpinpredictor(im, rects[0]).parts()])

get_landmarks()函数将一个图像转化成numpy数组,并返回一个68×2元素矩阵,输入图像的每个特征点对应每行的一个x,y坐标。

特征提取器(predictor)需要一个粗糙的边界框作为算法输入,由一个传统的能返回一个矩形列表的人脸检测器(detector)提供,其每个矩形列表在图像中对应一个脸。

2.用 Procrustes 分析调整脸部

现在我们已经有了两个标记矩阵,每行有一组坐标对应一个特定的面部特征(如第30行的坐标对应于鼻头)。我们现在要解决如何旋转、翻译和缩放第一个向量,使它们尽可能适配第二个向量的点。一个想法是可以用相同的变换在第一个图像上覆盖第二个图像。

将这个问题数学化,寻找T,s 和 R,使得下面这个表达式:

结果最小,其中R是个2×2正交矩阵,s是标量,T是二维向量,pi和qi是上面标记矩阵的行。

事实证明,这类问题可以用"常规 Procrustes 分析法”解决:

deftransformation_from_points(points1, points2):

points1 = points1.astype(numpy.float64)

points2 = points2.astype(numpy.float64)

c1 = numpy.mean(points1, axis=0)

c2 = numpy.mean(points2, axis=0)

points1 -= c1

points2 -= c2

s1 = numpy.std(points1)

s2 = numpy.std(points2)

points1 /= s1

points2 /= s2

U, S, Vt = numpy.linalg.svd(points1.T *

points2)

R = (U * Vt).T

returnnumpy.vstack([numpy.hstack(((s2 / s1) * R,

c2.T - (s2 / s1) * R * c1.T)),

numpy.matrix([0.,0.,1.])])

代码实现了这几步:

1.将输入矩阵转换为浮点数。这是后续操作的基础。

2.每一个点集减去它的矩心。一旦为点集找到了一个最佳的缩放和旋转方法,这两个矩心 c1 和 c2 就可以用来找到完整的解决方案。

3.同样,每一个点集除以它的标准偏差。这会消除组件缩放偏差的问题。

4.使用奇异值分解计算旋转部分。可以在维基百科上看到关于解决正交 Procrustes 问题的细节。

5.利用仿射变换矩阵返回完整的转化。

其结果可以插入 OpenCV 的 cv2.warpAffine 函数,将图像二映射到图像一:

def warp_im(im, M, dshape):

output_im = numpy.zeros(dshape, dtype=im.dtype) cv2.warpAffine(im,

M[:2],

(dshape[1], dshape[0]),

dst=output_im,

borderMode=cv2.BORDER_TRANSPARENT,

flags=cv2.WARP_INVERSE_MAP) returnoutput_im

对齐结果如下:

3.校正第二张图像的颜色

如果我们试图直接覆盖面部特征,很快会看到这个问题:

这个问题是两幅图像之间不同的肤色和光线造成了覆盖区域的边缘不连续。我们试着修正:

COLOUR_CORRECT_BLUR_FRAC =0.6LEFT_EYE_POINTS = list(range(42,48))RIGHT_EYE_POINTS = list(range(36,42))def correct_colours(im1, im2, landmarks1):

blur_amount = COLOUR_CORRECT_BLUR_FRAC * numpy.linalg.norm(

numpy.mean(landmarks1[LEFT_EYE_POINTS], axis=0) -

numpy.mean(landmarks1[RIGHT_EYE_POINTS], axis=0))

blur_amount =int(blur_amount) ifblur_amount %2==0:

blur_amount +=1 im1_blur = cv2.GaussianBlur(im1, (blur_amount, blur_amount),0)

im2_blur = cv2.GaussianBlur(im2, (blur_amount, blur_amount),0)

# Avoid divide-by-zero errors. im2_blur +=128* (im2_blur <=1.0)

return(im2.astype(numpy.float64) * im1_blur.astype(numpy.float64)

/

im2_blur.astype(numpy.float64))

结果如下:

此函数试图改变 im2 的颜色来适配 im1。它通过用 im2 除以 im2 的高斯模糊值,然后乘以im1的高斯模糊值。这里的想法是用RGB缩放校色,但并不是用所有图像的整体常数比例因子,每个像素都有自己的局部比例因子。

用这种方法两图像之间光线的差异只能在某种程度上被修正。例如,如果图像1是从一侧照亮,但图像2是被均匀照亮的,色彩校正后图像2也会出现未照亮一侧暗一些的问题。

也就是说,这是一个相当简陋的办法,而且解决问题的关键是一个适当的高斯核函数大小。如果太小,第一个图像的面部特征将显示在第二个图像中。过大,内核之外区域像素被覆盖,并发生变色。这里的内核用了一个0.6 *的瞳孔距离。

4.把第二张图像的特征混合在第一张图像中

用一个遮罩来选择图像2和图像1的哪些部分应该是最终显示的图像:

值为1(显示为白色)的地方为图像2应该显示出的区域,值为0(显示为黑色)的地方为图像1应该显示出的区域。值在0和1之间为图像1和图像2的混合区域。

这是生成上图的代码:

LEFT_EYE_POINTS = list(range(42,48))RIGHT_EYE_POINTS = list(range(36,42))

LEFT_BROW_POINTS = list(range(22,27))RIGHT_BROW_POINTS = list(range(17,22))

NOSE_POINTS = list(range(27,35))MOUTH_POINTS = list(range(48,61))

OVERLAY_POINTS = [ LEFT_EYE_POINTS + RIGHT_EYE_POINTS + LEFT_BROW_POINTS + RIGHT_BROW_POINTS,

NOSE_POINTS + MOUTH_POINTS,]FEATHER_AMOUNT =11def draw_convex_hull(im, points, color):

points = cv2.convexHull(points)

cv2.fillConvexPoly(im, points, color=color)def get_face_mask(im, landmarks):

im = numpy.zeros(im.shape[:2], dtype=numpy.float64)

forgroup in OVERLAY_POINTS:

draw_convex_hull(im,

landmarks[group],

color=1) im = numpy.array([im, im, im]).transpose((1,2,0))

im = (cv2.GaussianBlur(im, (FEATHER_AMOUNT, FEATHER_AMOUNT),0) >0) *1.0

im = cv2.GaussianBlur(im, (FEATHER_AMOUNT, FEATHER_AMOUNT),0)

returnimmask = get_face_mask(im2, landmarks2)warped_mask = warp_im(mask, M,

im1.shape)combined_mask = numpy.max([get_face_mask(im1, landmarks1),

warped_mask],

axis=0)

我们把上述过程分解:

get_face_mask()的定义是为一张图像和一个标记矩阵生成一个遮罩,它画出了两个白色的凸多边形:一个是眼睛周围的区域,一个是鼻子和嘴部周围的区域。之后它由11个像素向遮罩的边缘外部羽化扩展,可以帮助隐藏任何不连续的区域。

这样一个遮罩同时为这两个图像生成,使用与步骤2中相同的转换,可以使图像2的遮罩转化为图像1的坐标空间。

之后,通过一个element-wise最大值,这两个遮罩结合成一个。结合这两个遮罩是为了确保图像1被掩盖,而显现出图像2的特性。

最后,使用遮罩得到最终的图像:

output_im= im1 * (1.0- combined_mask) + warped_corrected_im2 * combined_mask

完整代码(link):

import cv2import dlibimport numpyimport sysPREDICTOR_PATH ="/home/matt/dlib-18.16/shape_predictor_68_face_landmarks.

dat"SCALE_FACTOR =1FEATHER_AMOUNT =11FACE_POINTS =list(range(17,68))MOUTH_POINTS =list(range(48,61))

RIGHT_BROW_POINTS =list(range(17,22))LEFT_BROW_POINTS =list(range(22,27))

RIGHT_EYE_POINTS =list(range(36,42))LEFT_EYE_POINTS =list(range(42,48))NOSE_POINTS =list(range(27,35))JAW_POINTS =list(range(0,17))#

Points usedtolineupthe images.ALIGN_POINTS = (LEFT_BROW_POINTS + RIGHT_EYE_POINTS + LEFT_EYE_POINTS +

RIGHT_BROW_POINTS + NOSE_POINTS + MOUTH_POINTS)#

Points from the second imagetooverlayonthefirst.

The convex hull of each# element willbeoverlaid.

OVERLAY_POINTS = [ LEFT_EYE_POINTS + RIGHT_EYE_POINTS + LEFT_BROW_POINTS + RIGHT_BROW_POINTS, NOSE_POINTS + MOUTH_POINTS,]

# Amount of blurtouse during colour correction,asafraction of the#

pupillary distance.COLOUR_CORRECT_BLUR_FRAC =0.6detector = dlib.get_frontal_face_detector()predictor = dlib.

shape_predictor(PREDICTOR_PATH)class TooManyFaces(Exception):

passclass NoFaces(Exception):

passdef get_landmarks(im):

rects = detector(im,1) iflen(rects) >1:

raise TooManyFaces iflen(rects) ==0:

raise NoFaces returnnumpy.matrix([[p.x,p.y]forpin predictor(im, rects[0]).

parts()])def annotate_landmarks(im, landmarks): im=im.copy() foridx, point in enumerate(landmarks):

pos = (point[0,0], point[0,1])

cv2.putText(im, str(idx), pos,

fontFace=cv2.FONT_HERSHEY_SCRIPT_SIMPLEX,

fontScale=0.4,

color=(0,0,255))

cv2.circle(im, pos,3, color=(0,255,255)) returnimdef draw_convex_hull(im, points, color):

points = cv2.convexHull(points) cv2.fillConvexPoly(im, points, color=color)def get_face_mask(im, landmarks): im= numpy.zeros(im.shape[:2], dtype=numpy.float64) forgroup in OVERLAY_POINTS:

draw_convex_hull(im,

landmarks[group],

color=1) im= numpy.array([im,im,im]).transpose((1,2,0))

im= (cv2.GaussianBlur(im, (FEATHER_AMOUNT, FEATHER_AMOUNT),0) >0) *1.0 im= cv2.GaussianBlur(im, (FEATHER_AMOUNT, FEATHER_AMOUNT),0) returnimdef transformation_from_points(points1, points2):

""" Returnanaffine transformation [s * R | T] such that:

sum ||s*R*p1,i + T - p2,i||^2 isminimized. """

# Solve the procrustes problem by subtracting centroids, scaling by the

# standard deviation,andthen using the SVDtocalculate the rotation. See

# the followingformore details:

# https://en.wikipedia.org/wiki/Orthogonal_Procrustes_problem

points1 = points1.astype(numpy.float64)

points2 = points2.astype(numpy.float64)

c1 = numpy.mean(points1, axis=0)

c2 = numpy.mean(points2, axis=0)

points1 -= c1

points2 -= c2

s1 = numpy.std(points1)

s2 = numpy.std(points2)

points1 /= s1

points2 /= s2

U, S, Vt = numpy.linalg.svd(points1.T * points2)

# The R we seekisin fact the transpose of the one given by U * Vt.

This

#isbecause the above formulation assumes the matrix goesontheright

# (with row vectors) whereasour solution requires the matrixtobeonthe

#left(with column vectors).

R = (U * Vt).T returnnumpy.vstack([numpy.hstack(((s2 / s1) * R,

c2.T - (s2 / s1) * R * c1.T)),

numpy.matrix([0.,0.,1.])])def read_im_and_landmarks(fname):

im= cv2.imread(fname, cv2.IMREAD_COLOR) im= cv2.resize(im, (im.shape[1] * SCALE_FACTOR,

im.shape[0] * SCALE_FACTOR))

s = get_landmarks(im) returnim, sdef warp_im(im, M, dshape): output_im = numpy.zeros(dshape, dtype=im.dtype)

cv2.warpAffine(im,

M[:2],

(dshape[1], dshape[0]),

dst=output_im,

borderMode=cv2.BORDER_TRANSPARENT,

flags=cv2.WARP_INVERSE_MAP) returnoutput_imdef correct_colours(im1, im2, landmarks1):

blur_amount = COLOUR_CORRECT_BLUR_FRAC * numpy.linalg.norm(

numpy.mean(landmarks1[LEFT_EYE_POINTS], axis=0) -

numpy.mean(landmarks1[RIGHT_EYE_POINTS], axis=0))

blur_amount =int(blur_amount) ifblur_amount %2==0:

blur_amount +=1 im1_blur = cv2.GaussianBlur(im1, (blur_amount, blur_amount),0) im2_blur = cv2.GaussianBlur(im2, (blur_amount, blur_amount),0)

# Avoid divide-by-zero errors.

im2_blur +=128* (im2_blur <=1.0) return(im2.astype(numpy.float64) * im1_blur.astype(numpy.float64) /

im2_blur.astype(numpy.float64))im1, landmarks1 = read_im_and_landmarks(sys.argv[1])

im2, landmarks2 = read_im_and_landmarks(sys.argv[2])M = transformation_from_points(landmarks1[ALIGN_POINTS],

landmarks2[ALIGN_POINTS])mask = get_face_mask(im2, landmarks2)warped_mask = warp_im(mask, M, im1.shape)combined_mask = numpy.max([get_face_mask(im1, landmarks1), warped_mask],

axis=0)warped_im2 = warp_im(im2, M, im1.shape)warped_corrected_im2 = correct_colours(im1, warped_im2, landmarks1)output_im = im1 *

(1.0- combined_mask) + warped_corrected_im2 *

combined_maskcv2.imwrite('output.jpg', output_im)

打开APP精彩内容

点击阅读全文

简单的python脚本-如何写一个简短(200行)的Python脚本相关推荐

  1. python定时开关机的代码_用python写一个windows下的定时关机脚本(推荐)

    由于本人经常使用笔记本共享WiFi,但是又不想笔记本开机一夜(为了低碳环保嘛 ~_~!),所以每次都要用使用DOS命令关机,感觉好麻烦.正好最近在学习Python,于是决定用python写一个定时关机 ...

  2. bat脚本中获取上级目录_使用Python写一个可以监控Tomcat 运行的脚本,并且把.py文件转换成.exe文件...

    使用Python写一个可以监控Tomcat 运行的脚本,并且把.py文件转换成.exe文件 文章来源与博主本人的CSDN博客,博客地址:https://blog.csdn.net/weixin_435 ...

  3. Python 使用闭包写一个计数器【简单易懂,代码可以直接运行】

    Python 使用闭包写一个计数器 闭包:外层函数返回一个内层函数就是闭包 代码如下,每调用一次函数,函数次数加1: def outer(*args,**kwargs):a = 0def inner( ...

  4. 写一个无尽的拉格朗日升本脚本

    好的,我来为你写一个无尽的拉格朗日升本脚本. 首先,我们需要定义一个函数来计算拉格朗日升本.这个函数需要输入一个包含所有控制点的列表和一个需要计算的点的横坐标,并返回这个点的纵坐标. 然后,我们可以定 ...

  5. 利用python来自己写一个服务器台账统计小工具

    利用python来自己写一个服务器台账统计小工具 前言 无奈呀,压力创造成品 背景是这样的,相信在看的各位在管理服务器密码的时候,肯定会有个台账啥的,当然咱也有,但是吧,为了安全期间,不允许出现在服务 ...

  6. #用python的pygame写一个大富翁游戏(单机版)# 一 : 初步架构

    用python写一个简易大富翁小游戏 | 一 : 初步架构 系列文章: #用python的pygame写一个大富翁游戏(单机版)# 二:地图初始化 如题,俗话说得好,人生苦短,我用python,在大二 ...

  7. #用python的pygame写一个大富翁游戏(单机版)# 二:地图初始化

    用python的pygame写一个大富翁游戏(单机版) 二 :地图初始化 往期: #用python的pygame写一个大富翁游戏(单机版)# 一 : 初步架构 上次的博客,我们说到了准备好所有程序所需 ...

  8. python使用爬虫写一个自己的翻译器(带图像界面)

    python使用爬虫写一个自己的翻译器(带图像界面)   大家好,我叫亓官劼(qí guān jié ),在CSDN中记录学习的点滴历程,时光荏苒,未来可期,加油~博客地址为:亓官劼的博客,B站昵称为 ...

  9. 简单的面向对象思想,写一个传奇人物的属性

    简单的面向对象思想,写一个传奇人物的属性 package com.hz.game;import java.util.Random;/*** //hat,weapon,necklace,ring,clo ...

最新文章

  1. 欢迎使用CSDN-markdown编辑器1
  2. Jmeter之线程组详解
  3. ES6相关特性的整理(变量数据结构)
  4. '$.browser.msie' 为空或不是对象
  5. Linux安装PHP报错Sorry, I cannot run apxs. Possible reasons follow:
  6. Java多线程技术-Volatile关键字解析
  7. java生成j动态页面_zk动态产生多个页面的例子代码
  8. bbPress 介绍,安装和中文包
  9. 让Linux使用malloc申请更多的内存
  10. VIIRS-NPP夜光遥感数据下载
  11. 乱谈那些个著名的科技互联网公司和产品名字
  12. 计算机软件开发属于什么类的专业,软件工程专业属于哪个类别?
  13. Image Matting 图像抠图技术与深度学习抠图
  14. 解答篇:金蝶K3wise总账凭证页面查询不到科目分录核算项目
  15. php 下载 迅雷下载地址,PHP 生成下载地址,比如迅雷下载
  16. python3 用socket编写ftp
  17. New Online Judge P1128-绝地求生(多源bfs)
  18. 网站商务通与百度商桥的区别
  19. 拉格朗日(lagrange)插值(MATLAB实现)
  20. 【LSP简史】里氏替换原则表述方式的变化,从学术到「人话」

热门文章

  1. 关于采集插件的一些详细知识
  2. HTML作业之粉粉滴个人博客来袭—篇章一
  3. python画英国国旗_python ASCII艺术英国国旗
  4. Android使用AudioRecord实现录音
  5. 树莓派基础实验34:L298N模块驱动直流电机实验
  6. 【Luogu】P2465山贼集团(树形状压DP)
  7. 【单双节锂电池6-8.4V升压9V,12V,24V快充PD升压系统解决方案】
  8. 洛谷P2345 MooFest G
  9. C语言指针中 *p 和 p 的区别
  10. 岁月是把杀猪刀,程序员刚实习VS几年后,从小鲜肉到老司机...