Log-Cosh损失函数

Log-Cosh是应用于回归任务中的另一种损失函数,它比L2损失更平滑。Log-cosh是预测误差的双曲余弦的对数。


优点:
对于较小的X值,log(cosh(x))约等于(x ** 2) / 2;对于较大的X值,则约等于abs(x) - log(2)。这意味着Log-cosh很大程度上工作原理和平均方误差很像,但偶尔出现错的离谱的预测时对它影响又不是很大。它具备了Huber损失函数的所有优点,但不像Huber损失,它在所有地方都二次可微。
但Log-cosh也不是完美无缺。如果始终出现非常大的偏离目标的预测值时,它就会遭受梯度问题。

Log-cosh损失函数的Python代码:

# log cosh 损失
def logcosh(true, pred):loss = np.log(np.cosh(pred - true))return np.sum(loss)

摘录:https://zhuanlan.zhihu.com/p/39239829


注:博众家之所长,集群英之荟萃。

回归损失函数:Log-Cosh Loss相关推荐

  1. 回归损失函数2 : HUber loss,Log Cosh Loss,以及 Quantile Loss

    均方误差(Mean Square Error,MSE)和平均绝对误差(Mean Absolute Error,MAE) 是回归中最常用的两个损失函数,但是其各有优缺点.为了避免MAE和MSE各自的优缺 ...

  2. 回归损失函数:Huber Loss

    Huber损失函数,平滑平均绝对误差 相比平方误差损失,Huber损失对于数据中异常值的敏感性要差一些.在值为0时,它也是可微分的.它基本上是绝对值,在误差很小时会变为平方值.误差使其平方值的大小如何 ...

  3. 机器学习初学者都应该知道的5类回归损失函数

    来源: https://heartbeat.fritz.ai/5-regression-loss-functions-all-machine-learners-should-know-4fb140e9 ...

  4. Sklearn 损失函数如何应用到_机器学习大牛最常用的5个回归损失函数,你知道几个?...

    "损失函数"是机器学习优化中至关重要的一部分.L1.L2损失函数相信大多数人都早已不陌生.那你了解Huber损失.Log-Cosh损失.以及常用于计算预测区间的分位数损失么?这些可 ...

  5. 分位数回归损失函数代码实现解析

    目录 1. 绪论 2. 分位数回归 3. 分位数回归损失函数 4. (γ−1)(\gamma - 1)(γ−1)的放入 5. 程序代码表达 1. 绪论 对于分位数回归损失函数,最近看到了两种不同的实现 ...

  6. 回归损失函数:L1,L2,Huber,Log-Cosh,Quantile Loss

    回归损失函数:L1,L2,Huber,Log-Cosh,Quantile Loss 机器学习中所有的算法都需要最大化或最小化一个函数,这个函数被称为"目标函数".其中,我们一般把最 ...

  7. 目标检测回归损失函数简介:SmoothL1/IoU/GIoU/DIoU/CIoU Loss

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 来源:极市平台 目标检测任务的损失函数由Classificitio ...

  8. 【回归损失函数】L1(MAE)、L2(MSE)、Smooth L1 Loss详解

    1. L1 Loss(Mean Absolute Error,MAE) 平均绝对误差(MAE)是一种用于回归模型的损失函数.MAE 是目标变量和预测变量之间绝对差值之和,因此它衡量的是一组预测值中的平 ...

  9. 目标检测回归损失函数:SmoothL1/IoU/GIoU/DIoU/CIoU Loss

    文章目录 1. Smooth L1 Loss 1.1 假设x为预测框和真实框之间的数值差异,常用的L1和L2 Loss定义为: 1.2 上述的3个损失函数对x的导数分别为: 1.3 实际目标检测框回归 ...

最新文章

  1. 在struts-config.xml中配置validator-plugin导致404 Servlet action is not available
  2. vs2012 编译 zlib 1.2.8
  3. Windows内核实验002 中断现场
  4. 单向散列函数(Hash)
  5. CEdit里''\r\n才是换行
  6. wxWidgets:wxRichTextFormattingDialog类用法
  7. 【Linux驱动】字符设备驱动
  8. 计算机动画专业哪个大学排名,哪些大学院校数字媒体艺术、动画专业比较排名...
  9. python有float行吗_python – 有什么方法可以在将pandas系列从str转换为float时跳过不可转换的行?...
  10. 我们要有把坏事看成好事的能力
  11. 设为首页/加入收藏代码
  12. 在Windows上删除所有的Oracle安装 和电脑名改变后的设置...
  13. php sql慢查询,Select多行SQL语句慢查询优化
  14. spring ORM管理
  15. scratch3.0教程(持续更新)
  16. 软件架构师必需要了解的 saas 架构设计?
  17. Guava源码解析五:Splitter源码解析
  18. Selenium.Chrome.ChromeDriver指纹去除
  19. 如何在Excel中创建动态定义的范围
  20. 英文名称来源 男英文名 女英文名

热门文章

  1. 局域网socket传输视频流
  2. 前端改变this指向的方法有哪些?如何判断this指向?
  3. jieba分词词性标注含义
  4. CentOS 7 安装配置 k8s 1.25.3
  5. PTA 7-2 一帮一
  6. 重庆航天职业技术学院计算机宿舍,2019年重庆航天职业技术学院寝室宿舍条件与学校食堂环境图片...
  7. python 声音基频f0_ASR中常用的语音特征之FBank和MFCC(原理 + Python实现)
  8. 硕士毕业论文应该如何梳理论文框架?
  9. word插入excel文档显示图标的方法
  10. golang爬虫抓取商品报价