交叉熵损失是深度学习中应用最广泛的损失函数之一，这个强大的损失函数是建立在交叉熵概念上的。当我开始使用这个损失函数时，我很难理解它背后的直觉。在google了不同材料后，我能够得到一个令人满意的理解，我想在这篇文章中分享它。

为了全面理解，我们需要按照以下顺序理解概念:自信息, 熵，交叉熵和交叉熵损失

自信息

"你对结果感到惊讶的程度"

一个低概率的结果与一个高概率的结果相比，低概率的结果带来的信息量更大。现在，如果$y_i$是第i个结果的概率，那么我们可以把自信息s表示为:

熵

现在我知道一个事件产生某个结果的自信息，我想知道这个事件平均带来多少自信息。对自信息s进行加权平均是很直观的。现在的问题是选择什么权重?因为我知道每个结果的概率，所以用概率作为权重是有意义的，因为这是每个结果应该发生的概率。自信息的加权平均值就是熵(e)，如果有n个结果，则可以写成:

交叉熵

现在，如果每个结果的实际概率为$pi$却有人将概率估计为$qi$怎么办。在这种情况下，每个事件都将以$pi$的概率发生，但是公式里的自信息就要改成$qi$(因为人们以为结果的概率是$q_i$)。现在，在这种情况下，加权平均自信息就变为了交叉熵c，它可以写成：

交叉熵总是大于熵，并且仅在以下情况下才与熵相同 $pi=qi$，你可以观看https://www.desmos.com/calculator/zytm2sf56e的插图来帮助理解

交叉熵损失

紫色线代表蓝色曲线下的面积，估计概率分布(橙色线)，实际概率分布(红色线)

在上面我提到的图中，你会注意到，随着估计的概率分布偏离实际/期望的概率分布，交叉熵增加，反之亦然。因此，我们可以说，最小化交叉熵将使我们更接近实际/期望的分布，这就是我们想要的。这就是为什么我们尝试降低交叉熵，以使我们的预测概率分布最终接近实际分布的原因。因此，我们得到交叉熵损失的公式为：

在只有两个类的二分类问题的情况下，我们将其命名为二分类交叉熵损失，以上公式变为：

交叉熵损失函数和focal loss_理解熵、交叉熵和交叉熵损失相关推荐

深刻理解交叉熵损失函数
说起交叉熵损失函数「Cross Entropy Loss」,脑海中立马浮现出它的公式: 我们已经对这个交叉熵函数非常熟悉,大多数情况下都是直接拿来使用就好.但是它是怎么来的?为什么它能表征真实样本标签 ...
交叉熵损失函数优缺点_如何简单通俗的理解交叉熵损失函数？
前面小编给大家简单介绍过损失函数,今天给大家继续分享交叉熵损失函数,直接来看干货吧. 一.交叉熵损失函数概念交叉熵损失函数CrossEntropy Loss,是分类问题中经常使用的一种损失函数.公式 ...
【交叉熵损失函数】关于交叉熵损失函数的一些理解
目录 0. 前言 1.损失函数(Loss Function) 1.1 损失项 1.2 正则化项 2. 交叉熵损失函数 2.1 softmax 2.2 交叉熵 0. 前言有段时间没写博客了,前段时间主 ...
【MSE/BCE/CE】均方差、交叉熵损失函数理解
文章目录 1 均方误差(Mean Squared Error, MSE) 1.1 MSE介绍 1.2 MSE为何不常用于分类 1.3 那什么常用于分类呢? 2 二值交叉熵损失(Binary Cross ...
LESSON 10.110.210.3 SSE与二分类交叉熵损失函数二分类交叉熵损失函数的pytorch实现多分类交叉熵损失函数
在之前的课程中,我们已经完成了从0建立深层神经网络,并完成正向传播的全过程.本节课开始,我们将以分类深层神经网络为例,为大家展示神经网络的学习和训练过程.在介绍PyTorch的基本工具AutoGrad ...
Lesson 4.2 逻辑回归参数估计：极大似然估计、相对熵与交叉熵损失函数
文章目录一.逻辑回归参数估计基本思路 1. 构建损失函数 2. 损失函数求解二.利用极大似然估计进行参数估计三.熵.相对熵与交叉熵 1. 熵(entropy)的基本概念与计算公式 2. 熵的基本 ...
交叉熵损失函数优缺点_交叉熵损失函数
交叉熵代价函数(Cross-entropy cost function)是用来衡量人工神经网络(ANN)的预测值与实际值的一种方式.与二次代价函数相比,它能更有效地促进ANN的训练.在介绍交叉熵代价函 ...
语义分割损失函数系列(1):交叉熵损失函数
最近一直在做一些语义分割相关的项目,找损失函数的时候发现网上这些大佬的写得各有千秋,也没说怎么用,在此记录一下自己在训练过程中使用损失函数的一些心得.本人是使用的Pytorch框架,故这一系列都会基于 ...
交叉熵损失函数和NLL_loss
目录 1.交叉熵损失函数的计算过程: 2.交叉熵损失函数的公式: 3.NLL loss(负对数似然函数损失) 4.NLL_Loss和交叉熵损失函数关系 1.交叉熵损失函数的计算过程: 交叉熵损失函数经 ...

交叉熵损失函数和focal loss_理解熵、交叉熵和交叉熵损失

自信息

熵

交叉熵

交叉熵损失

交叉熵损失函数和focal loss_理解熵、交叉熵和交叉熵损失相关推荐

最新文章

热门文章