机器学习中的常见问题—损失函数
机器学习中的常见问题——损失函数
一、分类算法中的损失函数
在分类算法中,损失函数通常可以表示成损失项和正则项的和,即有如下的形式:
其中,L(mi(w))L(mi(w))为损失项,R(w)R(w)为正则项。mimi的具体形式如下:
对于损失项,主要的形式有:
- 0-1损失
- Log损失
- Hinge损失
- 指数损失
- 感知损失
1、0-1损失函数
在分类问题中,可以使用函数的正负号来进行模式判断,函数值本身的大小并不是很重要,0-1损失函数比较的是预测值fw(x(i))fw(x(i))与真实值y(i)y(i)的符号是否相同,0-1损失的具体形式如下:
以上的函数等价于下述的函数:
0-1损失并不依赖mm值的大小,只取决于mm的正负号。0-1损失是一个非凸的函数,在求解的过程中,存在很多的不足,通常在实际的使用中将0-1损失函数作为一个标准,选择0-1损失函数的代理函数作为损失函数。
2、Log损失函数
2.1、Log损失
Log损失是0-1损失函数的一种代理函数,Log损失的具体形式如下:
运用Log损失的典型分类器是Logistic回归算法。
2.2、Logistic回归算法的损失函数
对于Logistic回归算法,分类器可以表示为:
其中,y∈{0,1}y∈{0,1}。为了求解其中的参数ww,通常使用极大似然估计的方法,具体的过程如下:
1、似然函数
其中,
2、log似然
3、需要求解的是使得log似然取得最大值的ww,可以转换为求最小值:
这便是交叉熵的具体形式。
2.3、两者的等价
由于Log损失的具体形式为:
其中,m=y(i)wTx(i)m=y(i)wTx(i),y(i)∈{−1,1}y(i)∈{−1,1},Log损失函数的具体形式为:
Logistic回归与Log损失具有相同的形式,故两者是等价的。Log损失与0-1损失的关系可见下图。
3、Hinge损失函数
3.1、Hinge损失
Hinge损失是0-1损失函数的一种代理函数,Hinge损失的具体形式如下:
运用Hinge损失的典型分类器是SVM算法。
3.2、SVM的损失函数
对于软间隔支持向量机,允许在间隔的计算中出现少许的误差ξ⃗ =(ξ1,⋯,ξn)ξ→=(ξ1,⋯,ξn),其优化的目标为:
约束条件为:
3.3、两者的等价
对于Hinge损失:
优化的目标是要求:
在上述的函数fw(x(i))fw(x(i))中引入截距γγ,即:
并在上述的最优化问题中增加L2L2正则,即变成:
至此,令下面的不等式成立:
约束条件为:
则Hinge最小化问题变成:
约束条件为:
这与软间隔的SVM是一致的,说明软间隔SVM是在Hinge损失的基础上增加了L2L2正则。
4、指数损失
4.1、指数损失
指数损失是0-1损失函数的一种代理函数,指数损失的具体形式如下:
运用指数损失的典型分类器是AdaBoost算法。
4.2、AdaBoost基本原理
AdaBoost算法是对每一个弱分类器以及每一个样本都分配了权重,对于弱分类器φjφj的权重为:
其中,R(φj)R(φj)表示的是误分类率。对于每一个样本的权重为:
最终通过对所有分类器加权得到最终的输出。
4.3、两者的等价
对于指数损失函数:
可以得到需要优化的损失函数:
假设f~f~表示已经学习好的函数,则有:
而:
通过最小化φφ,可以得到:
将其代入上式,进而对θθ求最优解,得:
其中,
可以发现,其与AdaBoost是等价的。
5、感知损失
5.1、感知损失
感知损失是Hinge损失的一个变种,感知损失的具体形式如下:
运用感知损失的典型分类器是感知机算法。
5.2、感知机算法的损失函数
感知机算法只需要对每个样本判断其是否分类正确,只记录分类错误的样本,其损失函数为:
5.3、两者的等价
对于感知损失:
优化的目标为:
在上述的函数fw(x(i))fw(x(i))中引入截距bb,即:
上述的形式转变为:
对于max函数中的内容,可知:
对于错误的样本,有:
类似于Hinge损失,令下式成立:
约束条件为:
则感知损失变成:
即为:
Hinge损失对于判定边界附近的点的惩罚力度较高,而感知损失只要样本的类别判定正确即可,而不需要其离判定边界的距离,这样的变化使得其比Hinge损失简单,但是泛化能力没有Hinge损失强。
import matplotlib.pyplot as plt
import numpy as npxmin, xmax = -4, 4
xx = np.linspace(xmin, xmax, 100)
plt.plot([xmin, 0, 0, xmax], [1, 1, 0, 0], 'k-', label="Zero-one loss")
plt.plot(xx, np.where(xx < 1, 1 - xx, 0), 'g-', label="Hinge loss")
plt.plot(xx, np.log2(1 + np.exp(-xx)), 'r-', label="Log loss")
plt.plot(xx, np.exp(-xx), 'c-', label="Exponential loss")
plt.plot(xx, -np.minimum(xx, 0), 'm-', label="Perceptron loss")plt.ylim((0, 8))
plt.legend(loc="upper right")
plt.xlabel(r"Decision function $f(x)$")
plt.ylabel("$L(y, f(x))$")
plt.show()
参考文章
- Advice for applying Machine Learning
机器学习中的常见问题—损失函数相关推荐
- 一文看懂机器学习中的常用损失函数
作者丨stephenDC 编辑丨zandy 来源 | 大数据与人工智能(ID: ai-big-data) 导语:损失函数虽然简单,却相当基础,可以看做是机器学习的一个组件.机器学习的其他组件,还包括激 ...
- 机器学习中的各种损失函数(Hinge loss,交叉熵,softmax)
机器学习中的各种损失函数 SVM multiclass loss(Hinge loss) 这是一个合页函数,也叫Hinge function,loss 函数反映的是我们对于当前分类结果的不满意程度.在 ...
- 机器学习中常见的损失函数_机器学习中最常见的损失函数
机器学习中常见的损失函数 现实世界中的DS (DS IN THE REAL WORLD) In mathematical optimization and decision theory, a los ...
- 机器学习中目标函数、损失函数、代价函数之间的区别和联系
首先给出结论:损失函数和代价函数是同一个东西,目标函数是一个与他们相关但更广的概念,对于目标函数来说在有约束条件下的最小化就是损失函数(loss function) 举个例子解释一下:(图片来自And ...
- 机器学习中SVM的损失函数,向量积
SVM即支持向量机(Support Vector Machine, SVM) 是一类按监督学习(supervised learning)方式对数据进行二元分类的广义线性分类器(generalized ...
- 入门|机器学习中常用的损失函数你知多少?
本文作者将常用的损失函数分为了两大类:分类和回归.然后又分别对这两类进行了细分和讲解,其中回归中包含了一种不太常见的损失函数:平均偏差误差,可以用来确定模型中存在正偏差还是负偏差. 机器通过损失函数进 ...
- 机器学习中目标函数、损失函数以及正则项的通俗解释
目录: 前言: 1.什么是目标函数? 2.损失函数 3.正则化 总结: 目录: 前言: 今天看到一篇很精简的文章来说明目标函数.损失函数以及正则项是什么.以下是文章正文. 转自:https://xia ...
- 机器学习中的常见问题——几种梯度下降法
一.梯度下降法 在机器学习算法中,对于很多监督学习模型,需要对原始的模型构建损失函数 l l l,接下来便是通过优化算法对损失函数 l l l进行优化,以便寻找到最优的参数 θ \theta θ.在求 ...
- 机器学习中常见的损失函数
常见的损失函数:https://zhuanlan.zhihu.com/p/58883095
最新文章
- 能量平衡_500kA 铝电解槽的能量平衡分析
- 异步复位和同步释放电路的详细解释
- php请编写一个函数来将一个_为什么开发人员讨厌PHP
- PyCharm的高效使用技巧
- android动态32位so,Android:动态库(.so)调试技巧
- eclipse maven jetty插件方式启动项目
- 框架写mysql插入为空_学习springMVC框架配置遇到的问题-数据写入不进数据库时的处理办法...
- 利用Kubernetes名称空间来管理内存和CPU资源(三)
- vvv在线文档导出工具_使用ApiPost工具快速生成在线接口文档
- slqite3库查询数据处理方式_从数据仓库到百万标签库,精细化数据管理,这么做就够了...
- opencv函数介绍—normalize
- MySQL-第十二篇管理结果集
- 3500个常用汉字列表
- 最全最简单的dubbo教程-开篇《一》
- 云计算和虚拟化都要用到的核心技术 VXLAN 网络,你掌握了吗?
- QQ9.5.9 28650防撤回补丁
- SwiftUI 控件
- 手机注册获取验证码的PHP代码
- ppspp android编译,PPSSPP模拟器通用设置,伪福利
- 如何在html的form提交时排除某些input field的内容
热门文章
- Java接收多台设备发送消息_FCM(Firebase Cloud 消息传递)发送到多个设备
- linux中 用户管理命令,Linux中的常用用户和用户组管理命令
- 滴答定时器的计数模式_SysTick(系统滴答定时器)
- java setmnemonic_java – 关于setMnemonic的一些问题
- python对共轭复数的定义_python print出共轭复数的方法详解
- anaconda python降级_anaconda 使用的一些体验与困惑
- python樱花树画法图片_用Python敲出樱花绽放 | 附代码
- props写法_好程序员web前端培训React中事件的写法总结
- php中post提交参数_PHP中Http协议post请求参数
- 三角函数在线快速计算机,三角函数计算器