一、前言

这部分主要讲训练数据的制作。一是我们直接采用作者提供好的数据集，二就是制作我们自己所需要的数据集。
目录地址：insightface人脸识别代码记录(总)(基于MXNet)

二、主要内容

1、首先，我们来提供作者的数据集。
这是作者提供的地址：https://github.com/deepinsight/insightface/wiki/Dataset-Zoo
比较推荐的是MS1M-ArcFace (85K ids/5.8M images) [5,7]
下面简单介绍下常用的人脸识别数据集：

MS-Celeb-1M

MS1M数据集包含有大约10万个人的脸（大约有1千万张人脸），但是数据集中包含有很多的“噪声”。Arcface论文作者对MS1M做了数据清洗，最终作者清洗得到的干净的数据包含有8.5万个人的脸（包含有380万张人脸）。

LFW

全名是Labeled Faces in the Wild.这个数据集是人脸评估一定会用到的一个数据集，包含了来自1680的13000张人脸图，数据是从网上搜索来的。基本都是正脸。这个数据集也是最简单的，基本主流算法都能跑到99%以上，貌似有6对label错了，所以最高正确率应该是99.9%左右。这个都跑不到99%的话别的数据集表现效果会更差。一般来说这个数据集是用来做人脸识别验证的。

CelebFaces

总共包含10177个人的202599张图片，也是从搜索引擎上爬过来的,噪声不算多，适合作为训练集。同时这个数据对人脸有一些二元标签，比如是否微笑，是否戴帽子等。

CASIA-WebFace

该数据集是从IMBb网站上搜集来的，含10K个人的500K张图片。同时做了相似度聚类来去掉一部分噪声。CAISA-WebFace的数据集源和IMDb-Face是一样的，不过因为数据清洗的原因，会比IMDb-Face少一些图片。噪声不算特别多，适合作为训练数据。

MegaFace

MegaFace数据集包含有69万个人的脸（包含大约有100万张人脸），所有数据由华盛顿大学从Flickr上组织收集。MegaFace是第一个在百万规模级别的面部识别算法的测试基准，这个项目旨在研究当数据库规模提升数个量级时，现有的脸部识别系统能否维持可靠的准确率。MegaFace是目前最为权威、最热门的评价人脸识别性能，特别是海量人脸识别检索性能的基准参照之一。

CFP

CFP（Celebrities in Frontal Proﬁle ）数据集是美国名人的人脸数据集，其中包含有500个人物对象，有他们的10张正面照以及4张形象照，因此在作为人物比对验证的时候，作者选用了最有挑战的正面照与形象照作为验证集（CFP，Frontal-Proﬁle，CFP-FP ）。

AgeDB

AgeDB（Age Database ）数据集包含有440个人的脸（包含有12240张人脸），但其中包含有不同人的不同年龄阶段的照片，最小从3岁到最大101岁时期的照片，每个对象的平均年龄范围为49年。作者采用和LFW一样的对比验证方式。

2、接下来，介绍如何制作自己的数据集。
MXNet读取数据有两种方式：
①直接读取原图像，即采用.lst文件和原图像方式
②采用MXNet特有的数据读取方式，RecordIO文件，即.rec文件
这里我们采用第二种方式，基于.rec文件文件。这种方式优点是读取速度快，数据文件稳定。

首先，人脸的裁剪和校正。
因为之前我学习的是Retinaface，所以采用此人脸检测模型。下面结合代码进行记录。下面align.py是我参考insightface下deploy/face_model.py和src/common/face_preprocess.py整合起来的代码。具体一些细节在代码记录。

align.py:

import cv2
import os
import numpy as np
from skimage import transform as trans
from PIL import Image
#test_fddb.py这个脚本，见我的整理的项目地址。位于insightface人脸识别代码记录(总)(基于MXNet)中。
from test_fddb import detect#这里是一个简单的由路径读取图片的方法
def read_image(img_path, **kwargs):mode = kwargs.get('mode', 'rgb')layout = kwargs.get('layout', 'HWC')if mode=='gray':img = cv2.imread(img_path, cv2.CV_LOAD_IMAGE_GRAYSCALE)else:img = cv2.imread(img_path, cv2.CV_LOAD_IMAGE_COLOR)if mode=='rgb':#print('to rgb')img = img[...,::-1]if layout=='CHW':img = np.transpose(img, (2,0,1))return img#这个方法是核心。就是根据检测
def preprocess(img, bbox_list=None, landmark_list=None, **kwargs):#这是存放校正后图像的一个列表warped_list = list()#一张图片上可能存在多个人脸，即有多个bbox和关键点信息，需要分别进行裁剪和校正for bbox,landmark in zip(bbox_list,landmark_list):if isinstance(img, str):img = read_image(img,bbox, **kwargs)M = Noneimage_size = []#对裁剪后图像大小的控制112*112str_image_size = kwargs.get('image_size', '')if len(str_image_size)>0:image_size = [int(x) for x in str_image_size.split(',')]if len(image_size)==1:image_size = [image_size[0], image_size[0]]assert len(image_size)==2assert image_size[0]==112assert image_size[0]==112 or image_size[1]==96#src存放着标准关键点信息所在的位置if landmark is not None:assert len(image_size)==2src = np.array([[30.2946, 51.6963],[65.5318, 51.5014],[48.0252, 71.7366],[33.5493, 92.3655],[62.7299, 92.2041] ], dtype=np.float32 )#这里这个+8么太明白是什么原理...(有知道的小伙伴希望可以评论留言)if image_size[1]==112:src[:,0] += 8.0dst = landmark.astype(np.float32)#创建相似变换矩阵tform = trans.SimilarityTransform()#根据标准关键landmark和所得到的landmark来计算得到变换矩阵tform.estimate(dst, src)#提供给后面仿射变换函数使用。因为仿射变换只涉及旋转和平移，所以只需要矩阵中的前两个参数#dst(x,y)=src(M11x+M12x+M13,M21x+M22y+M23)M = tform.params[0:2,:]#这个是变换矩阵不存在的情况下，暂时不做讨论if M is None:if bbox is None: #use center cropdet = np.zeros(4, dtype=np.int32)det[0] = int(img.shape[1]*0.0625)det[1] = int(img.shape[0]*0.0625)det[2] = img.shape[1] - det[0]det[3] = img.shape[0] - det[1]else:det = bboxmargin = kwargs.get('margin', 44)bb = np.zeros(4, dtype=np.int32)bb[0] = np.maximum(det[0]-margin/2, 0)bb[1] = np.maximum(det[1]-margin/2, 0)bb[2] = np.minimum(det[2]+margin/2, img.shape[1])bb[3] = np.minimum(det[3]+margin/2, img.shape[0])ret = img[bb[1]:bb[3],bb[0]:bb[2],:]if len(image_size)>0:ret = cv2.resize(ret, (image_size[1], image_size[0]))return ret else: #do align using landmarkassert len(image_size)==2#然后调用opencv中的放射变换得到校正后的人脸warped = cv2.warpAffine(img,M,(image_size[1],image_size[0]), borderValue = 0.0)warped_list.append(warped)return warped_listdef Align(img_path):#调用retinaface中的人脸检测器，得到bbox和landmark坐标信息_ret = detect(img_path)#因为上述得到的一个list，list[0]存放了人脸的信息，list[1]是其所在路径ret = _ret[0]#将人脸置信度抽取出来，进行一个筛选。因为在检测器中进行过sort，得到的#置信度高的人脸位于前面，所以当出现第一个小于阈值的情况，后面便均小于。scores = ret[:,4]index = list()for i in range(len(scores)):if scores[i]>0.5:index.append(i)else: breakbbox = ret[index,0:4]points_ = ret[index,5:15]points = points_.copy()#因为得到的landmark是(x1,y1,x2,y2....)这种形式，需要变换成(x1,x2,...y1,y2....)这种形式points[index,0:5:1] = points_[index,0::2]points[index,5:10:1] = points_[index,1::2] if bbox.shape[0]==0:return None#将上述得到的bbox和landmark信息分别存放到如下listpoints_list = list()bbox_list = list()for i in range(len(index)):point = points[i,:].reshape((2,5)).Tbbox_ = bbox[i]points_list.append(point)bbox_list.append(bbox_)#points = points.reshape((len(index),2,5)).transpose(0,2,1)face_img = cv2.imread(img_path)#调用此方法，得到裁剪和校正过的人脸nimg_list = preprocess(face_img, bbox_list, points_list, image_size='112,112')#一张图片存在多张人脸，分别裁剪校正aligned_list = list()for _,nimg in enumerate(nimg_list):nimg = cv2.cvtColor(nimg, cv2.COLOR_BGR2RGB)aligned = np.transpose(nimg, (2,0,1))aligned_list.append(aligned)return aligned_listif __name__ == "__main__":# path = './data/widerface/train/images/7--Cheering/7_Cheering_Cheering_7_321.jpg'  #单人脸# path1 = './data/widerface/train/images/4--Dancing/4_Dancing_Dancing_4_317.jpg'   #多人脸path = 'F:\Project\insightface-master\deploy\img'#os.walk()返回三个参数:#  ①root,所在路径,即输入path# ②dirs,所在路径下的文件夹#    ③files,所在路径下的文件for root, dirs, files in os.walk(path):for dir in dirs:img_root = os.path.join(root, dir)images = os.listdir(img_root)for image in images:path = os.path.join(img_root,image)print(path)out_list = Align(path)for i,out in enumerate(out_list):new_image = np.transpose(out, (1, 2, 0))[:, :, ::-1]out = Image.fromarray(new_image)out = out.resize((112, 112))out = np.asarray(out)#对所得到的人脸进行和原所在文件夹和命名的区别if not os.path.exists(os.path.join(root,'_'+dir)):os.mkdir(os.path.join(root,'_'+dir))#采用原图像名字和i命名，i表示这张图片中的第几个人脸cv2.imwrite(os.path.join(root,'_'+dir,str(image[0:-4])+'_'+str(i)+'.jpg'),out)print('over!')# cv2.imshow("out",out)# cv2.waitKey()

以下是效果图：

然后，制作.rec文件。

我们来到https://github.com/apache/incubator-mxnet/blob/master/tools/im2rec.py下载得到im2rec.py脚本。
首先制作.lst文件，输入以下命令：

python im2rec.py  /data/train  data/train  --list --recursive  ①第一个/data/train，这个路径是prefix的意思，代表会在data目录下生成一个train.lst的文件。
②第二个/data/train，是路径root的意思，代表图片所在路径。
③--list 代表生成lst文件的操作。因为默认生成RecordIO文件。
④-- recursive代表迭代搜索给定的目录因为此目录下可能存在多个类别的文件夹。

接着，输入以下命令，得到.rec文件：

python im2rec2.py --num-thread 4   data/train.lst   data/train①--num-thread用于设置线程数，加快生成.rec文件
② data/train.lst代表生成的.lst文件所在的位置
③ data/train代表原图像所在的位置
最后生成的.rec文件会默认保存在和.lst文件相同的目录下，同时会生成一个.idx的文件，对数据做随机排序有关。

最后，我们制作property配置文件。
直接创建一个名为property的文件，没有后缀
写xxx,112,112代表ID数量,尺寸,尺寸。
例：

三、结尾

到这里就结束了。对MXNet的数据准备有了一些了解，同时学习了几个常用的人脸识别的数据集。上述一些数据集的介绍，来自于一些其他博主的博客作为记录，所以想在这里写下，下面附上参考链接。

参考链接：

人脸识别：《Arcface》论文详解
人脸识别常用数据集介绍（附下载链接）及常用评估指标

insightface人脸识别代码记录(一)（数据前期准备）相关推荐

python人脸检测代码_python实现人脸识别代码
从实时视频流中识别出人脸区域,从原理上看,其依然属于机器学习的领域之一,本质上与谷歌利用深度学习识别出猫没有什么区别.程序通过大量的人脸图片数据进行训练,利用数学算法建立建立可靠的人脸特征模型,如此即 ...
如何安装并使用SeetaFace 开源人脸识别代码【中科院计算机所山世光老师团队研发】
最近因为导师接到了一个关于人脸识别的开发项目,需要我们去寻找一些开源的可以二次开发的人脸识别程序.(说白了就是想白嫖,直接调用人家的接口不香吗,可是那得花钱),这时候就在看到网友推荐的SeetaFac ...
javacv 人脸追踪_javacv配置+javacv人脸识别代码.doc
javacv配置javacv人脸识别代码 javacv配置+javacv人脸识别代码这篇文章及其作者均属入门级,有错请指出,谢谢. 本机操作系统是window 7 64位个人觉得,Javacv的作 ...
python人脸识别代码_Python不用10行代码就可实现人脸识别，还可辨别真假，太棒了！...
人脸识别技术大致由人脸检测和人脸识别两个环节组成.之所以要有人脸检测,不光是为了检测出照片上是否有人脸,更重要的是把照片中人脸无关的部分删掉,否则整张照片的像素都传给f(x)识别函数肯定就不可用了.人 ...
insightface 人脸识别
https://blog.csdn.net/weixin_43013761/article/details/99646731 接下来,我会为大家解析insightFace的每一个要点,从论文复现,源码 ...
python摄像头人脸识别代码_python 实现摄像头人脸识别
1.window安装dlib.face_recognition ace_recognition简介 face_recognition是Python的一个开源人脸识别库,支持Python 3.3+和Py ...
人脸识别代码_10行代码实现人脸识别
什么是人脸识别人脸识别,是基于人的脸部特征信息进行身份识别的一种生物识别技术.用摄像机或摄像头采集含有人脸的图像或视频流,并自动在图像中检测和跟踪人脸,进而对检测到的人脸进行脸部识别的一系列相关技术 ...
基于人脸识别的商业大数据1
主要内容: 人脸识别登录根据人脸识别与浏览记录相结合的方式进行商品和广告推荐根据表情识别来分别客户对广告推荐的喜好程度功能性需求: 人脸检测: 通过摄像头获取人脸轮 ...
micropython人脸识别代码_【雕爷学编程】MicroPython动手做（03）——零基础学MaixPy之开机测试...
1.几个知识点 (1)MicroPython 是 Python 3 语言的精简高效实现 ,包括Python标准库的一小部分,并针对嵌入式微控制器(单片机)和受限制的环境进行了优化,它是Python延伸 ...

insightface人脸识别代码记录(一)（数据前期准备）