这是来自猎户星空的关于人脸识别的文章
作者 Chong Wang ；Xue Zhang ；Xipeng Lan
https://arxiv.org/abs/1709.02940

好久没有写博客了，水一篇。。。

一句话总结

对应triplet的训练，多采用OHNM的方式挖掘困难负样本，然而随着训练数据的增加，easy-triplet更多，困难样本的搜索空间增大，于是本文将训练数据分为若干小部分，每部分中的不同id的训练样本有着较高的相似性（个人感觉ohnm都是trick样的东西，但是大牛们还是可以写的很好）

1. Method

文章先回顾了OHNM和batch OHNM 然后提出subspace learning

1.1 OHNM

其loss 如下

简言之就是只有负样本与anchor的距离大于正样本与anchor的距离一定值才可以算做loss

如上图，由于负样本是随机选择（浅蓝）的，很多更加困难的负样本（深蓝）没有被选择

1.2 Batch OHNM

上式中，T代表整个Image Space
训练时，随机选择B个不同的id，然后负样本的选择是靠近anchor的若干个非同id的样本，这样做的好处是负样本更加困难了，有效的训练样本更多了。

1.3 Subspace Learning

作者认为困难负样本选择有用，但是随着id数量的增多，困难负样本不能被以上两种很好的挖掘，那么就先生成一些困难的小子空间，从子空间中在做batch ohnm

其中他们做子空间的方法是：
1. 首先根据使用部分数据训练分类模型
2. 然后将一个id内的特征求均值，作为该id的特征，然后根据id的特征做k-means生成M个子空间，文中每个子空间大约包含10k个id
在子空间做ohnm的loss 如下：

2 其他

2.1 数据清洗

作者认为cnn有一定抗干扰的能力，所以就先过拟合然后再去掉没有能过拟合的样本

2.2 加快检索速度

分两步，先分id后在id内算距离

3 Experimental evaluation

直接加ohem会变差，使用subspace learning的方法会有提高。文章思想比较简单，但是还是有一定的启发性的，和平时自己做的试验也有思想性。

论文水记|How to Train Triplet Networks with 100K Identities?相关推荐

深度学习论文随记（二）---VGGNet模型解读-2014年（Very Deep Convolutional Networks for Large-Scale Image Recognition）
深度学习论文随记(二)---VGGNet模型解读 Very Deep Convolutional Networks forLarge-Scale Image Recognition Author: K ...
Stylized NeRF 水记（NeRF的风格化）
Stylized NeRF 水记(NeRF的风格化) <StylizedNeRF: Consistent 3D Scene Stylization as Stylized NeRF via 2D ...
Liquid Warping GAN 水记
Liquid Warping GAN 水记 <Liquid Warping GAN: A Unified Framework for Human Motion Imitation, Appear ...
【论文阅读】Multimodal Fusion with Co-Attention Networks for Fake News Detection --- 虚假新闻检测，多模态融合
本博客系本人理解该论文之后所写,非逐句翻译,预知该论文详情,请参阅论文原文. 论文标题:Multimodal Fusion with Co-Attention Networks for Fake Ne ...
DCT-Net 水记（用于人脸风格化的小样本图像翻译，无需反演，无需构造配对图片）
DCT-Net 水记(用于人脸风格化的小样本图像翻译,无需反演,无需构造配对图片) <DCT-Net: Domain-Calibrated Translation for Portrai ...
论文翻译——Weighted Residuals for Very Deep Networks
Weighted Residuals for Very Deep Networks 论文:https://ieeexplore.ieee.org/document/7811085 最近,深度剩余网络在 ...
【论文阅读】MFAN: Multi-modal Feature-enhanced Attention Networks for Rumor Detection --- 多模态，谣言检测，注意力机制
本博客系博主根据个人理解所写,非逐字逐句翻译,预知详情,请参阅论文原文. 论文标题:MFAN: Multi-modal Feature-enhanced Attention Networks for ...
【论文解读】Finding community structure in networks using the eigenvectors of matrices
文章目录一.论文主体二.复现代码 2.1 算法大致流程 2.2 Python代码实现三.匈牙利算法 Reference 一.论文主体论文题目:<Finding community str ...
论文笔记 Medical Entity Linking using Triplet Network
一.动机实体链接(Entity Linking)或者标准化(Normalization)的目标是将文本中发现的mention链接到知识库中的标准实体.在医疗领域,疾病词的实体链接难度在于缩写.同义词 ...

论文水记|How to Train Triplet Networks with 100K Identities?