4.1.4 损失函数

在深度学习中要用到各种各样的损失函数(loss function),这些损失函数可看作是一种特殊的layer,PyTorch也将这些损失函数实现为nn.Module的子类。然而在实际使用中通常将这些loss function专门提取出来,和主模型互相独立。详细的loss使用请参照文档1,这里以分类中最常用的交叉熵损失CrossEntropyloss为例说明。


  1. http://pytorch.org/docs/nn.html#loss-functions↩

In [31]:

# batch_size=3,计算对应每个类别的分数(只有两个类别)
score = t.randn(3, 2)
# 三个样本分别属于1,0,1类,label必须是LongTensor
label = t.Tensor([1, 0, 1]).long()# loss与普通的layer无差异
criterion = nn.CrossEntropyLoss()
loss = criterion(score, label)
loss

Out[31]:

tensor(0.5944)

Pytorch:损失函数相关推荐

  1. pytorch 损失函数总结

    PyTorch深度学习实战 4 损失函数 损失函数,又叫目标函数,是编译一个神经网络模型必须的两个参数之一.另一个必不可少的参数是优化器. 损失函数是指用于计算标签值和预测值之间差异的函数,在机器学习 ...

  2. Pytorch损失函数losses简介

    一般来说,监督学习的目标函数由损失函数和正则化项组成.(Objective = Loss + Regularization) Pytorch中的损失函数一般在训练模型时候指定. 注意Pytorch中内 ...

  3. Pytorch —— 损失函数(二)

    目录 5.nn.L1Loss 6.nn.MSELoss 7.nn.SmoothL1Loss 8.nn.PoissonNLLLoss 9.nn.KLDivLoss 10.nn.MarginRanking ...

  4. [PyTorch] 损失函数

    参考 pytorch常用损失函数 为什么用交叉熵做损失函数 BCELoss 这是 官方文档 二分类交叉熵损失(BinaryCrossEntropyLoss) ln=−wn[yn⋅log2xn+(1−y ...

  5. Pytorch 损失函数 Mean Squared Error

    Pytorch的损失函数定义在torch.nn.functional下,可以直接使用. Mean Squared Error(MSE)即均方误差,常用在数值型输出上: 其中θ是网络的参数,取决于使用的 ...

  6. pytorch损失函数中‘reduction‘参数

    内容介绍 在调用pytorch的损失函数时,会有一个'reduction'的参数,本文介绍使用不同的参数对应的结果,以L1 loss为例子: reduction = mean 当使用的参数为 mean ...

  7. Pytorch损失函数解析

    本文根据pytorch里面的源码解析各个损失函数,各个损失函数的python接口定义于包torch.nn.modules中的loss.py,在包modules的初始化__init__.py中关于损失函 ...

  8. Pytorch损失函数篇

    点击关注我哦 一篇文章带你了解pytorch中常用的损失函数 Q:什么是损失函数? 训练神经网络类似于人类的学习方式.我们将数据提供给模型,它可以预测某些内容,并告诉其预测是否正确.然后,模型纠正其错 ...

  9. pytorch损失函数binary_cross_entropy和binary_cross_entropy_with_logits的区别

    binary_cross_entropy和binary_cross_entropy_with_logits都是来自torch.nn.functional的函数,首先对比官方文档对它们的区别: 函数名 ...

最新文章

  1. 计算机书籍-机器学习导论(原书第2版)
  2. leetcode算法题--反转链表 II★
  3. 烧流量还是打矩阵,短视频不疯魔不成活?
  4. yii2 / Console - yii2开发控制台应用时的还我漂漂拳
  5. shutil python_shutil模块
  6. 化验室计算机系统验证风险评估,计算机化系统验证风险评估报告.doc
  7. C 之父:精通C 很难,但你一天之内就能学习使用C
  8. python 子串是否在字符串中_python七种方法判断字符串是否包含子串
  9. 关于Toad的Cannot load OCI DLL问题
  10. oracle 知识点
  11. Educational Codeforces Round 117 (Rated for Div. 2) ABCDE
  12. Android Studio Cmake C++ JNI demo
  13. AJAX问题:如果SESSION丢失,会直接报错。
  14. #includesome_file.h和#includemy_file.h的区别
  15. CCF推荐-计算机网络领域顶级期刊会议,CCF推荐学术期刊及其会议计算机网络.pdf...
  16. C# 实现DES加密解密
  17. 浪潮服务器bios更改硬盘模式,bios更改硬盘模式详细教程
  18. mkv视频文件损坏如何修复?很简单方法
  19. uniapp H5公众号errMsg: “onMenuShareAppMessage:fail, the permission value is offline verifying“
  20. C++/C输出素数,满某个数就换行

热门文章

  1. Java Script 学习笔记 -- Ajax
  2. 三级网络-不单单是学知识
  3. 《大道至简》阅读笔记02
  4. Codeforces 369E Valera and Queries --树状数组+离线操作
  5. “暂时没有对您所在的地区提供下载和试听服务”的解决办法
  6. python全网表情包_Python爬虫爬取最右公众号表情包资源
  7. 01-09 Linux三剑客-awk
  8. 什么叫做形态学图像处理_图像形态学处理中的膨胀与腐蚀介绍
  9. php gzip 关闭,php能否在当前脚本页关闭nginx的gzip输出
  10. 思科服务器远程管理,Telnet远程访问思科交换机、路由器 TCP协议分析工具