人脸识别中的margin损失函数

用于人脸识别的损失函数，有Softmax，Contrastive Loss，Triplet Loss，Center Loss，Norm Face，Large-Margin Loss，A-Softmax Loss，InsightFace等等，这篇文章简单聊聊近年的margin损失函数。

margin损失函数：

Large-margin Softmax(L-Softmax)
Sphereface(A-Softmax)
Additive Margin Softmax(AM-Softmax)
CosFace(Large Margin Cosine Loss)
InsightFace(ArcFace)

1.Large-margin Softmax(L-Softmax)

论文：Large-Margin Softmax Loss for Convolutional Neural Networks

定义：

其中，

这张图显示的是不同softmax loss和L-Softmax loss学习到的cnn特征分布。第一列是softmax，第2列是L-Softmax loss在参数m取不同值时的分布。通过可视化特征可知学习到的类间的特征是比较明显的，但是类内比较分散。而large-margin softmax loss则类内更加紧凑。

Softmax的分类面只有一个面，而L-softmax在Softmax的基础上对W和x的角度引入正整数扩充m，使分类条件更加严苛，此时分类面变成了两个，并且两个面中间存在（m-1）倍角度的间隙，即命名中Large-Margin的由来。

2.Sphereface(A-Softmax)

论文：SphereFace: Deep Hypersphere Embedding for Face Recognition

定义：

其中，

，

and

当m=1时，A-softmax loss就会变成modified softmax loss。当m增大时，损失函数最优化的难度越大，形成的角度距离越大。当m=1时，角度距离为0. 从决策函数角度解释A-softmax loss，A-softmax loss 对于不同的类别采用了不同的决策函数，每个决策函数比原始的更加严格，因而产生了角度距离。最优化A-Softmax损失本质上是使得学习到的特征在超球面上更加具有可区分性。

3.Additive Margin Softmax(AM-Softmax)

论文：Additive Margin Softmax for Face Verification

定义：

在SphereFace的基础上，将乘性margin改成了加性margin，并在权值W归一化的基础上对特征f也做了归一化，采用固定尺度因子s=30，相比SphereFace性能有提升，最重要的是训练难度大幅降低。

4.CosFace(Large Margin Cosine Loss)

论文：CosFace: Large Margin Cosine Loss for Deep Face Recognition

定义：

其中，

与AM-Softmax完全一样，同样的加性margin，同样的特征归一化，权值W和特征f都进行了正则化。

5.InsightFace(ArcFace)

论文：ArcFace: Additive Angular Margin Loss for Deep Face Recognition

定义：

首先，原名为ArcFace，因与虹软的人脸识别SDK重名，故改名为InsightFace。

在SphereFace的基础上，同样改用加性margin但形式略有区别，变成了，特征也做了归一化，固定因子s=64。在基于L2正则化权重和特征的角度空间中，直接最大化决策边界。相比于加性margin和乘性margin，InsightFace提出的监督信号更倾向于角度上的分解，有更好的几何解析能力，重要的是，在基于L2正则化权重和特征的角度空间中，直接最大化决策边界，使其能获得更具有判别能力的特征。

人脸识别中的margin损失函数相关推荐

CV之FRec之ME/LF：人脸识别中常用的模型评估指标/损失函数(Triplet Loss、Center Loss)简介、使用方法之详细攻略
CV之FRec之ME/LF:人脸识别中常用的模型评估指标/损失函数(Triplet Loss.Center Loss)简介.使用方法之详细攻略目录 T1.Triplet Loss 1.英文原文解释 ...
【CVPR 2018】腾讯AI lab提出深度人脸识别中的大间隔余弦损失
论文导读] 深度卷积神经网络(DCNN)在人脸识别中已经取得了巨大的进展,通常的人脸识别的核心任务都包括人脸验证与人脸识别,涉及到特征判别.很多模型都是使用Softmax损失函数去监督模型的训练,但是 ...
人脸识别中Softmax-based Loss的演化史
点击我爱计算机视觉标星,更快获取CVML新技术近期,人脸识别研究领域的主要进展之一集中在了 Softmax Loss 的改进之上:在本文中,旷视研究院(上海)(MEGVII Research Sha ...
人脸识别中常用的几种分类器
人脸识别中常用的几种分类器在人脸识别中有几种常用的分类器,一是最邻近分类器:二是线性分类器 (1)最邻近分类器最近邻分类器是模式识别领域中最常用的分类方法之一,其直观简单,在通常的应用环境中非常有 ...
人脸识别中的深度学习
深度学习在人脸识别中的应用人脸识别的过程包括: 人脸检测人脸对齐特征提取(在数学上,实质上是:空间变换) 特征度量其中,特征提取与度量,是人脸识别问题中的关键问题,也是相关研究的难点之一. 传 ...
yii2 模型中set_Day184:人脸识别中open-set与close-set
人脸识别可以简单的分为如下两类: face verification:人脸验证时将人脸分类到某个ID,比如给定两张人脸,判断是否是同一个人(ID) face identification:给定一张人 ...
人脸识别中的rank-n
人脸识别中的rank-n 代表的意思原创这个昵称唯一最后发布于2017-09-02 11:05:13 阅读数 2247 收藏展开 Rank-1 看一些论文总是在结果中看到rank-1,等等,但 ...
计算机视觉子方向,计算机视觉方向简介 | 人脸识别中的活体检测算法综述
原标题:计算机视觉方向简介 | 人脸识别中的活体检测算法综述本文转载自"SIGAI人工智能学习与实践平台"(ID:SIGAICN) 导言 1. 什么是活体检测? 判断捕捉到的人脸 ...
人脸识别中的阈值应该如何设置？
人脸识别中的阈值应该如何设置? 标签: 人脸识别分类: 人脸识别人脸识别中的阈值应该如何设置? 随着人脸识别技术使用范围越来越广,大部分使用者可能对人脸识别中的某一方面不是很懂,咨询的问题也五花八 ...

人脸识别中的margin损失函数

人脸识别中的margin损失函数相关推荐

最新文章

热门文章