Seesaw Loss：目标检测长尾分布loss

参考Seesaw Loss：一种面向长尾目标检测的平衡损失函数 - 王佳琦的文章 - 知乎
https://zhuanlan.zhihu.com/p/339126633

上面文章讲过的这里就不赘述了，主要解释一些东西。
Motivation中，“来自头部类别的样本会对尾部类别施加过量的负样本梯度，淹没了来自尾部类别自身的正样本梯度”
要理解这句话，得先理解loss反向传播的过程

为啥头部类别还能对尾部类别施加梯度呢？

以全连接为例

设1为头部类别。现在就是头部类别的预测情况，这个样本的gt为头部类别，Loss为交叉熵损失，所以为-log(0.7)
同时交叉熵损失函数对预测结果求偏导：

ddxloss=1/x\frac{\mathrm{d} }{\mathrm{d} x}loss=1/xdxdloss=1/x
x这里为0.7。而同时x是经softmax得到的，x=ex2ex1+ex2+ex3x=\frac{e^{x_2}}{e^{x_1}+e^{x_2}+e^{x_3}}x=ex1+ex2+ex3ex2
因此x对x1,x2,x3x_1,x_2,x_3x1,x2,x3都求偏导
然后继续x1对x_1对x1对构成x_1的权重求偏导
显然，target要求0.2变为0，即0类的分类权重会被降低，即为头部类别对他施加的负样本梯度

Seesaw Loss：目标检测长尾分布loss相关推荐

【CVPR 2021】解决目标检测长尾分布：Adaptive Class Suppression Loss for Long-Tail Object Detection
Adaptive Class Suppression Loss for Long-Tail Object Detection 论文简介: 具体实现: 基于类群的方法的局限性 ACSL 的实现相比以前 ...
目标检测算法常用Loss——DIoU GIoU CIoU
目标检测算法常用Loss 文章目录目标检测算法常用Loss 1. 差值平方损失 2. IoU Loss 3. GIoU Loss 4. DIoU Loss 5. CIoU Loss 6. 说明和补充 ...
loss低但精确度低_目标检测中的Loss改进：GIOU
目标检测的改进方向有很多,这次介绍一篇CVPR2019针对Loss的改进方法: GIOU Loss Motivation 现有目标检测的Loss普遍采用预测bbox与ground truth bbox ...
目标检测 YOLOV5：loss介绍
目录 1.BCEWithLogitsLoss 1.1pytorch源码中的相关代码 1.2 数学原理 2.FocalLoss 2.1 pytorch源码 2.2 数学原理 1.BCEWithLogit ...
【目标检测】Focal Loss详解
论文题目:<Focal Loss for Dense Object Detection> 论文链接:https://arxiv.org/pdf/1708.02002.pdf 1. 前言我 ...
yolov3目标检测过程以及loss计算
yolov3在检测目标时拿到图像会做什么,又是如何识别物体的? 首先我们先来看一张显示了yolov3检测流程的图片: 如上图所示,输入网络中的图像是416×416×3的彩色图像,所以要先把图像缩放到4 ...
深度学习基础入门篇[五]:交叉熵损失函数、MSE、CTC损失适用于字识别语音等序列问题、Balanced L1 Loss适用于目标检测
[深度学习入门到进阶]必看系列,含激活函数.优化策略.损失函数.模型调优.归一化算法.卷积模型.序列模型.预训练模型.对抗神经网络等专栏详细介绍:[深度学习入门到进阶]必看系列,含激活函数.优化策略 ...
从L1 loss到EIoU loss，目标检测边框回归的损失函数一览
本文转载自知乎,已获作者授权转载. 链接:https://zhuanlan.zhihu.com/p/342991797 目标检测任务的损失函数由Classificition Loss和BBox Reg ...
目标检测回归损失函数：SmoothL1/IoU/GIoU/DIoU/CIoU Loss
文章目录 1. Smooth L1 Loss 1.1 假设x为预测框和真实框之间的数值差异,常用的L1和L2 Loss定义为: 1.2 上述的3个损失函数对x的导数分别为: 1.3 实际目标检测框回归 ...

Seesaw Loss：目标检测长尾分布loss

Seesaw Loss：目标检测长尾分布loss相关推荐

最新文章

热门文章