目录

激活函数

Logistic

Softmax

Relu

Tanh

损失函数

0-1损失函数

平方损失函数

绝对值损失函数

对数损失函数

代价函数

均方误差

均方根误差

平均绝对值误差

交叉熵误差​


激活函数

Logistic

二分类的sigmoid函数,如果叠加实现多分类,分类结果不是互斥的。比如某个结果可能既是苹果,又是水果

Softmax

多分类simoid函数,分类结果是互斥的。

Relu

Tanh

损失函数

0-1损失函数

平方损失函数

绝对值损失函数

对数损失函数

代价函数

均方误差

均方根误差

平均绝对值误差

交叉熵误差

常用激活函数/损失函数/代价函数相关推荐

  1. 深度学习--TensorFlow(4)BP神经网络(损失函数、梯度下降、常用激活函数、梯度消失梯度爆炸)

    目录 一.概念与定义 二.损失函数/代价函数(loss) 三.梯度下降法 二维w与loss: 三维w与loss: 四.常用激活函数 1.softmax激活函数 2.sigmoid激活函数 3.tanh ...

  2. Keras深度学习实战(4)——深度学习中常用激活函数和损失函数详解

    Keras深度学习实战(4)--深度学习中常用激活函数和损失函数详解 常用激活函数 Sigmoid 激活函数 Tanh 激活函数 ReLU 激活函数 线性激活函数 Softmax 激活函数 损失函数 ...

  3. 【AI初识境】深度学习中常用的损失函数有哪些?

    这是专栏<AI初识境>的第11篇文章.所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法. 今天来说说深度学习中常见的损失函数(loss),覆盖分类,回归任务以及生成对抗网络,有了目 ...

  4. NLP笔记:常用激活函数考察整理

    NLP笔记:常用激活函数考察整理 0. 引言 1. 常用激活函数 1. sigmoid 2. softmax 3. relu系列 1. relu 2. leaky relu 3. elu 4. sel ...

  5. 损失函数代价函数成本函数目标函数的区别

    损失函数&代价函数&成本函数&目标函数的区别 参考1:机器学习中的目标函数.损失函数.代价函数有什么区别? link: https://www.jianshu.com/p/dd ...

  6. 机器学习常用激活函数

    机器学习常用激活函数 摘要: 激活函数就是神经网络输出端的一个节点,来连接两个神经网络.本文主要介绍激活函数的功能以及激活函数类型. 什么是激活函数? 激活函数就是神经网络输出端的一个节点,来连接两个 ...

  7. 入门|机器学习中常用的损失函数你知多少?

    本文作者将常用的损失函数分为了两大类:分类和回归.然后又分别对这两类进行了细分和讲解,其中回归中包含了一种不太常见的损失函数:平均偏差误差,可以用来确定模型中存在正偏差还是负偏差. 机器通过损失函数进 ...

  8. ML之ME/LF:机器学习中的模型评估指标/损失函数(连续型/离散型)的简介、损失函数/代价函数/目标函数之间区别、案例应用之详细攻略

    ML之ME/LF:机器学习中的模型评估指标/损失函数(连续型/离散型)的简介.损失函数/代价函数/目标函数之间区别.案例应用之详细攻略 目录 损失函数的简介 损失函数/代价函数/目标函数之间区别 损失 ...

  9. 一篇文章理解深度神经网络5个常用激活函数

    一篇文章理解深度神经网络5个常用激活函数 1.Sigmoid 2.Tanh 3.ReLU 4.Leaky ReLU 5.Maxout 小结 1.Sigmoid Sigmoid非线性激活函数的数学表达式 ...

最新文章

  1. 安卓如何实现多级结构树_数据结构-树(树基本实现C++)
  2. MySQL 高频面试题,都在这了
  3. php ajax 加载列表,Ajax点击不断加载数据列表(图文教程)
  4. 阿里云全球首推流量型独享虚拟主机新规格,网络访问速度最高提升400%
  5. Java Stream Collectors.groupingBy()实现分组(单字段分组,多字段分组)
  6. 一个使用多年的Makefile模板
  7. 区分PO,VO,DAO,BO,POJO
  8. 续航超600km新能源汽车扎堆发布,零部件供应商“放血”,这届车展都拼了...
  9. T-SQL: 读取磁盘文件
  10. 中国非制式爆炸物薄膜传感器研究取得进展
  11. Java高级工程师必备技能
  12. nodejs下载与安装
  13. 业务安全(逻辑漏洞)
  14. 移动应用前端h5框架汇总
  15. aws mysql rds_AWS 新建RDS实例 for MySQL
  16. shadertoy学习记录(1)
  17. Win10自动更新永久关闭Windows update medic service拒绝访问
  18. android 网络 adb,Android设备通过网络adb 调试
  19. 序列化和反序列化的概念及应用
  20. 动态规划之硬币面值组合问题

热门文章

  1. 如何学习开源项目(转载)
  2. 2021 Google 开发者大会即将登陆:年度盛会,先睹为快!
  3. C++ 静态属性和静态方法
  4. 【闲谈】第一份实习(上)
  5. 顺序表的操作实验(数据结构)
  6. opencv中的RGB改变通道的数值,而对整张图的影响
  7. nagios 3.4.1监控window与linux,并实现飞信报警
  8. 华为服务器 国产芯片,国产自研的突破 华为首次公布ARM服务器芯片
  9. 据说这是个分水先生写的,有参考价值
  10. realvnc中文版,realvnc中文版使用教程图解