Log-Cosh损失函数

Log-Cosh是应用于回归任务中的另一种损失函数,它比L2损失更平滑。Log-cosh是预测误差的双曲余弦的对数。


优点:
对于较小的X值,log(cosh(x))约等于(x ** 2) / 2;对于较大的X值,则约等于abs(x) - log(2)。这意味着Log-cosh很大程度上工作原理和平均方误差很像,但偶尔出现错的离谱的预测时对它影响又不是很大。它具备了Huber损失函数的所有优点,但不像Huber损失,它在所有地方都二次可微。
但Log-cosh也不是完美无缺。如果始终出现非常大的偏离目标的预测值时,它就会遭受梯度问题。

Log-cosh损失函数的Python代码:

# log cosh 损失
def logcosh(true, pred):loss = np.log(np.cosh(pred - true))return np.sum(loss)

摘录:https://zhuanlan.zhihu.com/p/39239829


注:博众家之所长,集群英之荟萃。

回归损失函数:Log-Cosh Loss相关推荐

  1. 回归损失函数2 : HUber loss,Log Cosh Loss,以及 Quantile Loss

    均方误差(Mean Square Error,MSE)和平均绝对误差(Mean Absolute Error,MAE) 是回归中最常用的两个损失函数,但是其各有优缺点.为了避免MAE和MSE各自的优缺 ...

  2. 回归损失函数:Huber Loss

    Huber损失函数,平滑平均绝对误差 相比平方误差损失,Huber损失对于数据中异常值的敏感性要差一些.在值为0时,它也是可微分的.它基本上是绝对值,在误差很小时会变为平方值.误差使其平方值的大小如何 ...

  3. 机器学习初学者都应该知道的5类回归损失函数

    来源: https://heartbeat.fritz.ai/5-regression-loss-functions-all-machine-learners-should-know-4fb140e9 ...

  4. Sklearn 损失函数如何应用到_机器学习大牛最常用的5个回归损失函数,你知道几个?...

    "损失函数"是机器学习优化中至关重要的一部分.L1.L2损失函数相信大多数人都早已不陌生.那你了解Huber损失.Log-Cosh损失.以及常用于计算预测区间的分位数损失么?这些可 ...

  5. 分位数回归损失函数代码实现解析

    目录 1. 绪论 2. 分位数回归 3. 分位数回归损失函数 4. (γ−1)(\gamma - 1)(γ−1)的放入 5. 程序代码表达 1. 绪论 对于分位数回归损失函数,最近看到了两种不同的实现 ...

  6. 回归损失函数:L1,L2,Huber,Log-Cosh,Quantile Loss

    回归损失函数:L1,L2,Huber,Log-Cosh,Quantile Loss 机器学习中所有的算法都需要最大化或最小化一个函数,这个函数被称为"目标函数".其中,我们一般把最 ...

  7. 目标检测回归损失函数简介:SmoothL1/IoU/GIoU/DIoU/CIoU Loss

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 来源:极市平台 目标检测任务的损失函数由Classificitio ...

  8. 【回归损失函数】L1(MAE)、L2(MSE)、Smooth L1 Loss详解

    1. L1 Loss(Mean Absolute Error,MAE) 平均绝对误差(MAE)是一种用于回归模型的损失函数.MAE 是目标变量和预测变量之间绝对差值之和,因此它衡量的是一组预测值中的平 ...

  9. 目标检测回归损失函数:SmoothL1/IoU/GIoU/DIoU/CIoU Loss

    文章目录 1. Smooth L1 Loss 1.1 假设x为预测框和真实框之间的数值差异,常用的L1和L2 Loss定义为: 1.2 上述的3个损失函数对x的导数分别为: 1.3 实际目标检测框回归 ...

最新文章

  1. SATA硬盘如何使用GHOST
  2. linux c语言乘法口诀,shell 脚本实现乘法口诀表的两种方法——shell与C语言
  3. 利用循环神经网络生成唐诗_11种主要神经网络结构图解
  4. 【Ogre-windows】旋转矩阵及位置解析
  5. 行为设计模式 - Memento设计模式
  6. 判断拐点的条件_专业的交易者如何捕捉振荡区间的双向拐点。上篇
  7. 怎么使用聚焦搜索NTFS格式磁盘
  8. 最新手机号段 归属地数据库(2021年10月476338条,包括最新的号段)
  9. php惠新宸框架,首位国人惠新宸加入PHP官方开发组
  10. 小米路由器3无线网连接到服务器,小米路由器3的设置方法步骤
  11. 2022年贵州省高新技术企业认定奖励补贴及申报条件
  12. BiFunction介绍
  13. 毕业入职工作一年总结
  14. 【Minio】新一代自建文件系统——Minio
  15. python3的变量和数据类型
  16. 全国所有飞机场机场信息
  17. java 生成证书 pkcs12_PKCS12 证书的生成及验证
  18. 三、mysqld程序的运行原理及数据库结构
  19. DJSF1352RN直流电能表在某新加坡光伏储能系统中的应用
  20. 用html和css怎么做出点击关注红心,Twitter“点赞”红心按钮CSS3动画特效

热门文章

  1. Mysql InnoDB 的锁机制
  2. 想不到验证码背后的故事这么有意思
  3. 【NLP】Python词性标注之词性解释
  4. 元胞自动机在交通系统中的应用之一【元胞自动机的基础知识】
  5. Matlab 元胞自动机(模拟传染病传播)
  6. 操作系统笔试面试笔记总结
  7. vue+echarts的组件封装
  8. 解决物理机为ubuntu与virtualbox客户机为windows10间剪切板不能用的问题
  9. 电子科技大学硕士毕业论文和博士毕业论文Latex模板及问题集锦
  10. CentOS常用zip压缩和解压缩命令