在线难例挖掘（OHEM）

OHEM（online hard example miniing）

详细解读一下OHEM的实现代码：

def ohem_loss(batch_size, cls_pred, cls_target, loc_pred, loc_target, smooth_l1_sigma=1.0
):"""Arguments:batch_size (int): number of sampled rois for bbox head trainingloc_pred (FloatTensor): [R, 4], location of positive roisloc_target (FloatTensor): [R, 4], location of positive roispos_mask (FloatTensor): [R], binary mask for sampled positive roiscls_pred (FloatTensor): [R, C]cls_target (LongTensor): [R]Returns:cls_loss, loc_loss (FloatTensor)"""ohem_cls_loss = F.cross_entropy(cls_pred, cls_target, reduction='none', ignore_index=-1)ohem_loc_loss = smooth_l1_loss(loc_pred, loc_target, sigma=smooth_l1_sigma, reduce=False)#这里先暂存下正常的分类loss和回归lossloss = ohem_cls_loss + ohem_loc_loss#然后对分类和回归loss求和sorted_ohem_loss, idx = torch.sort(loss, descending=True)#再对loss进行降序排列keep_num = min(sorted_ohem_loss.size()[0], batch_size)#得到需要保留的loss数量if keep_num < sorted_ohem_loss.size()[0]:#这句的作用是如果保留数目小于现有loss总数，则进行筛选保留，否则全部保留keep_idx_cuda = idx[:keep_num]#保留到需要keep的数目ohem_cls_loss = ohem_cls_loss[keep_idx_cuda]ohem_loc_loss = ohem_loc_loss[keep_idx_cuda]#分类和回归保留相同的数目cls_loss = ohem_cls_loss.sum() / keep_numloc_loss = ohem_loc_loss.sum() / keep_num#然后分别对分类和回归loss求均值return cls_loss, loc_loss

为什么要叫在线难例最小化呢？

因为在深度学习提出这个方法的人，想和传统方法区分开。难例挖掘，机器学习学习中尤其是在svm中早就已经使用，又称为bootstrapping。

传统的难例挖掘流程：首先是通过训练集训练网络，训练完成，然后固定网络，寻找新的样本，加入到训练集中。很显然这将耗费很长的时间。

因此作者提出的是在线难例挖掘。

具体怎么实现的呢？

通常是搬出这张图，说实话这张图有点啰嗦！

按我的理解，OHEM的操作就是舍弃了faster RCNN中的正负样本（ROI）比例为1：3，它通过每个ROI的loss值，对所有roi的loss排序，取B/N数量的roi组成mini batch。注意：对于指向同一个目标的rois，通过NMS，取loss最大的roi，其他都删除。

也就是通过loss提高难样本的比例，让网络花更多精力去学习难样本。

我觉得它和focal loss思路本质是一样的，focal loss把loss作用在类别上，二目标检测OHEM把loss 作用在ROI上。

在线难例挖掘（OHEM）相关推荐

目标检测之六：OHEM 在线难例挖掘
https://zhuanlan.zhihu.com/p/102817180 6.OHEM 在线难例挖掘 OHEM(Online Hard negative Example Mining,在线难例挖掘 ...
学习了解online hard example mining在线难例挖掘
对于每一个网络,相当于一个桶,总有样本效果比较好,有的样本比较差,多用效果差的样本进行训练,那提高了整个网络的短板,总体的效果也会有提升. 一. 难例挖掘是指,针对模型训练过程中导致损失值很大的一些样 ...
OHEM(Online Hard Example Mining)在线难例挖掘(在线困难样例挖掘) HNM (目标检测)
Hard Negatie Mining与Online Hard Example Mining(OHEM)都属于难例挖掘,它是解决目标检测老大难问题的常用办法,运用于R-CNN,fast R-CNN,f ...
（HEM/OHEM）hard negative（example）mining难例挖掘与focal loss、GHM损失函数
目录分类任务中的样本不均衡及hard negative mining的必要性 hard negative example HEM(hard example/negative mining) 与 OH ...
深度学习之 hard negative mining （难例挖掘）
Hard Negative Mining Method 思想 hard是困难样本,negative是负样本,hard negative就是说在对负样本分类时候,loss比较大(label与predic ...
跨越『时空』的难样本挖掘！
作者 | 王珣整理 | NewBeeNLP 我们码隆科技在深度度量学习继续深耕,又做了一点点改进的工作,承蒙审稿人厚爱,被CVPR-2020接收为Oral,并进入best paper候选(共26篇文 ...
组织学图像弱监督腺体分割的在线简易示例挖掘
文章目录 Online Easy Example Mining for Weakly-Supervised Gland Segmentation from Histology Images 摘要本文 ...
如何提高3D点云目标检测的难例精度？
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达文章导读本文是一篇将注意力机制应用在点云目标检测中的文章<TANet: Robust 3D O ...
基于公开数据的特殊人群在线活动特征挖掘
基于公开数据的特殊人群在线活动特征挖掘刘楚楚,吕欣国防科技大学系统工程学院,湖南长沙 410073 中南大学商学院,湖南长沙 410083 卡罗林斯卡研究所公共卫生科学系,瑞典斯德哥尔摩 1 ...

在线难例挖掘（OHEM）

在线难例挖掘（OHEM）相关推荐

最新文章

热门文章