1 数据处理

1）我们先随机生成一个3*3的tensor

2）然后对每一行使用Softmax（softmax之后，每一行的加和为1）

dim=1，表示第一个维度的（a[x][1,2,3,...,n]）进行softmax

3）然后对Softmax的结果取自然对数：

Softmax后的数值都在0~1之间，所以ln之后值域是负无穷到0。

2 NLLloss

NLLLoss的结果就是把上面的输出与Label对应的那个值拿出来，再去掉负号，再求均值。

假设我们现在Target是[0,2,1]：

第一行取第0个元素，第二行取第2个，第三行取第1个，去掉负号。

再求个均值，结果是：

直接用NLLLoss进行验证

NLLLoss的验证

3 softmax

CrossEntropyLoss就是把以上Softmax–Log–NLLLoss合并成一步

pytorch笔记：实例解析NLLLoss和CrossEntropyLoss相关推荐

[转载]用数据说话 Pytorch详解NLLLoss和CrossEntropyLoss
[转载]用数据说话 Pytorch详解NLLLoss和CrossEntropyLoss https://www.cnblogs.com/jiading/p/11979391.html NLL_Los ...
c语言编程实例解析精粹,C语言实例解析精粹学习笔记——35（报数游戏）
实例35: 设由n个人站成一圈,分别被编号1,2,3,4,--,n.第一个人从1开始报数,每报数位m的人被从圈中推测,其后的人再次从1开始报数,重复上述过程,直至所有人都从圈中退出. 实例解析: 用链 ...
python程序格式框架的描述_python 程序语言设计（嵩天）-学习笔记（第二章python 程序实例解析）...
第 2 章 python 程序实例解析学习目标: 掌握解决计算问题的一般方法. 掌握python语言的基本语法,包括缩进.变量.命名等. 掌握python语言绘制图形的一般方法. 了解python标 ...
Qt文档阅读笔记-Multiple Inheritance Example 实例解析及Automatic Connections解析
目录 Multiple Inheritance Example 实例解析 Automatic Connections解析 Multiple Inheritance Example 实例解析这个实例很 ...
Qt文档阅读笔记-QIODevice解析及Audio Example实例解析
目录 QIODevice官方解释及个人分析 Audio Example官方实例解析 QIODevice官方解释及个人分析 QIODevice类是Qt中I/O设备的接口. 提供了读和写的接口,QIODe ...
【分类器 Softmax-Classifier softmax数学原理与源码详解深度学习 Pytorch笔记 B站刘二大人（8/10）】
分类器 Softmax-Classifier softmax数学原理与源码详解深度学习 Pytorch笔记 B站刘二大人 (8/10) 在进行本章的数学推导前,有必要先粗浅的介绍一下,笔者在广泛查找 ...
（d2l-ai/d2l-zh）《动手学深度学习》pytorch 笔记（2）前言（介绍各种机器学习问题）以及数据操作预备知识Ⅰ
开源项目地址:d2l-ai/d2l-zh 教材官网:https://zh.d2l.ai/ 书介绍:https://zh-v2.d2l.ai/ 笔记基于2021年7月26日发布的版本,书及代码下载地址在 ...
8月2日Pytorch笔记——梯度、全连接层、GPU加速、Visdom
文章目录前言一.常见函数的梯度二.激活函数及其梯度 1.Sigmoid 2.Tanh 3.ReLU 三.Loss 函数及其梯度 1.Mean Squared Error(MSE) 2.Softm ...
【卷积神经网络CNN 实战案例 GoogleNet 实现手写数字识别源码详解深度学习 Pytorch笔记 B站刘二大人（9.5/10）】
卷积神经网络CNN 实战案例 GoogleNet 实现手写数字识别源码详解深度学习 Pytorch笔记 B站刘二大人 (9.5/10) 在上一章已经完成了卷积神经网络的结构分析,并通过各个模块理解 ...

pytorch笔记：实例解析NLLLoss和CrossEntropyLoss

1 数据处理

2 NLLloss

3 softmax

pytorch笔记：实例解析NLLLoss和CrossEntropyLoss相关推荐

最新文章

热门文章