神经网络模型的效果以及优化的目标是通过损失函数(loss function)来定义的。下面主要介绍适用于分类问题回归问题的经典损失函数,并通过TensoFlow实现这些损失函数。

分类问题请参考:【分类问题损失函数——交叉熵】

回归问题解决的是对具体数值的预测,比如房价预测、销量预测等等,解决回归问题的神经网络一般只有一个输出节点,这个节点的输出值就是预测值。本文主要介绍回归问题下的损失函数——均方误差(MSE,mean squared error)。

它的定义如下:
MSE(y,y′)=∑i=1n(yi−yi′)2nMSE(y,y')=\frac{\sum^n_{i=1}(y_i-y_i')^2}{n}MSE(y,y′)=n∑i=1n​(yi​−yi′​)2​
其中,yiy_iyi​为一个batch中第 i 个数据的正确答案,yi′y'_iyi′​为神经网络给出的预测值。

下面代码展示如何用Tensor实现均方差损失函数:

mse = tf.reduce_mean(tf.square(y_ - y))

tf.reduce_mean:所有元素的均值。
y_:标准答案
y:神经网络输出的答案

【深度学习】回归问题损失函数——均方误差(MSE)相关推荐

  1. 深度学习入门初探——损失函数均方误差

    前文已经介绍了损失函数的目的是做什么了的: 深度学习入门初探--引出损失函数https://www.toutiao.com/i7033404064663126560/?group_id=7033404 ...

  2. 深度学习之:对均方误差 mse 的理解

    文章目录 代码 反例 代码 ''' a1, a2 是两个矩阵或者多维张量 ''' import numpy as np def calculate_mse(a1,a2):return np.mean( ...

  3. Tutorial教程:知错就改,错了就罚,论训练深度学习如何选择损失函数

    Tutorial教程:训练深度学习如何选择损失函数 xingbod@gmail.com 声明:本文为CSDN首发,谢绝转载,商业转载请联系笔者MrCharles本人获取同意 作为优化算法的一部分,必须 ...

  4. 深度学习——回归问题

    深度学习--回归问题 文章目录 深度学习--回归问题 线性回归 一.什么是线性回归? 梯度下降 学习率 二.逻辑回归 线性回归 一.什么是线性回归? 其中w是权重,b是偏移量.w和b共同称为模型参数. ...

  5. 深度学习 交叉熵损失函数

    交叉熵损失函数 前言 交叉熵损失函数 信息量 信息熵 交叉熵 求导过程 应用 扩展 Binary_Crossentropy 均方差损失函数(MSE) 前言 深度学习中的损失函数的选择,需要注意一点是直 ...

  6. 手撕深度学习中的损失函数(上)

    面试中经常会问到损失函数的相关问题,本文推导了深度学习中常用损失函数的计算公式和反向传播公式,并使用numpy实现. 定义损失函数基类: class Loss:def loss(self, predi ...

  7. 损失能收敛到0么 深度学习_人工智能-Tensorflow进行深度学习的一些损失函数的可视化...

    TensorFlow目前是数值计算的最佳开源库,它使机器学习更快更容易.在这篇文章中,您将学习机器学习中使用的一些损失函数.损失函数在机器学习领域非常重要.它们用作测量模型预测输出Y_out与grou ...

  8. 深度学习中的损失函数总结以及Center Loss函数笔记

    北京 上海巡回站 | NVIDIA DLI深度学习培训 2018年1月26/1月12日 NVIDIA 深度学习学院 带你快速进入火热的DL领域 阅读全文                        ...

  9. 深度学习中的损失函数

    目录 回归损失(Regression Loss) 1. 均方误差(Mean Square Error,MSE) 2. 平均绝对误差( Mean Absolute Error,MAE) 3. MSE 和 ...

最新文章

  1. android.support.v7.app.ActionBarActivity
  2. SAP UI5 aggregation field type
  3. NOIP201307货车运输
  4. 【遥感物候】1983-2012年时间序列中国地区GIMMS 3g NDVI下载(已进行旋转、格式转换、投影变换和裁剪)
  5. 如何把朋友升级成情侣?| 今日最佳
  6. matlab dotchart,MATLAB中如何用对数方式显示图形坐标?
  7. 计算机典型的操作系统有,计算机操作系统典型示例.doc
  8. 比特币交易的脚本如何执行
  9. Restorator 2007 Build 1709 韦斯特*金 汉化版
  10. ifonts下载ttf字体文件
  11. Python Matplotlib画图
  12. HackTools———10、使用Python编写TCP客户端、服务器端
  13. 八种常规常用的SQL查询语句
  14. 机器学习导论——关于数据集的概念
  15. ECS 入门到入土: 一、什么是 ECS
  16. html怎么缩进字符间距,css字符间距(css文字间距怎么设置)
  17. oracle create table not null,oracle – 不能在CREATE TABLE中使用内联约束
  18. 苹果开发者账号申请及升级更换
  19. 详细解释:Epoch、batch_size批处理大小、迭代次数之间的关系
  20. 攻受音测试软件,我的攻受小瓶子测试游戏

热门文章

  1. 最新问题回答小助手工具分享
  2. 【项目源码】开源源码
  3. 【早鸟免费票来啦】AI+5G+机器视觉赋能智能制造论坛(大咖云集)
  4. matlab两个矩阵点乘叉乘,矩阵点乘和叉乘
  5. “嫦娥五号”发射成功,文昌鲁能希尔顿酒店提供极佳观测点
  6. Mobox物料编码管理系统在企业应用
  7. 面试官经常问我三次握手和四次挥手,现在终于知道怎么简简单单的叙述出来了
  8. chromeF12 谷歌开发者工具详解(转载)
  9. 表白html特效在线,html5 canvas酷炫表白爱心动画特效
  10. 【BZOJ3771】Triple