1.2 函数间隔和几何间隔理解2
转载地址: https://www.zhihu.com/question/20466147
SVM是通过超平面将样本分为两类。
在超平面 w*x + b = 0 确定的情况下,| w*x + b | 可以相对地表示点x距离超平面的远近。
对于两类分类问题,如果 w*x + b > 0,则的类别被判定为1;否则判定为-1。
所以如果 y * ( w*x + b ) > 0,则认为x的分类结果是正确的,否则是错误的。且 y * ( w*x + b ) 的值越
大,分类结果的确信度越大。反之亦然。
所以样本点 ( Xi , Yi ) 与超平面 ( w,b) 之间的函数间隔定义为
但是该定义存在问题:即 w 和 b 同时缩小或放大M倍后,超平面并没有变化,但是函数间隔却变化
了。所以,需要将 w 的大小固定,如 || w || = 1,使得函数间隔固定。这时的间隔也就是几何间隔 。
几何间隔的定义如下
实际上,几何间隔就是点到超平面的距离。想像下中学学习的点( Xi, Yi ) 到直线ax+by+c=0的距离公式
所以在二维空间中,几何间隔就是点到直线的距离。在三维及以上空间中,就是点到超平面的距
离。而函数距离,就是上述距离公式中的分子,即未归一化的距离。
定义训练集到超平面的最小几何间隔是
SVM训练分类器的方法是寻找到超平面,使正负样本在超平面的两侧,且样本到超平面的几何间隔最大。
所以SVM可以表述为求解下列优化问题
1.2 函数间隔和几何间隔理解2相关推荐
- 支持向量机(一)——深入理解函数间隔与几何间隔
1.支持向量机和logistic函数的有什么区别 实践发现,在所给的例子中,两种方法线性划分两类事物时得到的线性分类器的效果差不多.那具体的差别在哪呢? SVM更关心的是靠近中间分割线的点,让他们尽可 ...
- SVM函数间隔和几何间隔
刚开始接触SVM,遇到函数间隔和几何间隔,对这2个概念有点混肴,查阅一些资料后有点明白了. 函数间隔: 并不是实际意义上的点到超平面的距离,只是表示点到超平面的远近. 比如平面方程1:3x1 + 6x ...
- 1.1 函数间隔和几何间隔理解1
转载地址: https://www.jianshu.com/p/2e3c0c583e85 1.函数间隔 我们的函数间隔定义为: 可以看到,函数间隔其实就是类别标签乘上了f(x)的值,可以看到,该值永远 ...
- 【机器学习】SVM中对函数间隔和几何间隔的理解
超平面表达式: 函数间隔 : 对于在超平面上的点, w x + b = 0 wx+b=0 wx+b=0 恒成立.而超平面之外的点,可以认为距离越远, w x + b wx+b wx+b 的绝对值越大, ...
- SVM中函数间隔和几何间隔的区别
1.用|w∗x+b|表示点x到超平面0的距离远近,(w∗x+b)∗y表示分类的正确性以及确信度. 2.在二分类问题里,如果(w∗x+b)>0,则x的类别被判定为1:如果(w∗x+b)<0, ...
- 几何间隔、函数间隔和||W||
SVM是通过超平面将样本分为两类. 在超平面确定的情况下,可以相对地表示点距离超平面的远近.对于两类分类问题,如果,则的类别被判定为1:否则判定为-1. 所以如果,则认为的分类结果是正确的,否则是错误 ...
- 最大间隔分类器的错误理解
以前:以为最大间隔是因为一条线段从中间分开会令平方和最大化:a+b=8; a=b=4j时,a^2+b^2是最小的,并不符合最大间隔的含义: 20180813:所有样本中距离超平面(将所有的样本正确分类 ...
- 机器学习-SVM硬间隔与软间隔:重要参数C
SVM在软间隔数据上的推广 到这里,我们已经了解了线性SVC的基本原理,以及SVM如何被推广到非线性情况下,还了解了核函数的选择和应用.但实际上,我们依然没有完全了解SVM用于二分类的全貌.我们之前在 ...
- 机器学习知识总结 —— 14. 什么是支持向量机(基础概念、梯度下降、软间隔、硬间隔)?
文章目录 什么是向量 什么是支持向量 背后的数学思想 支持向量的数学定义 Hinge Loss 与梯度下降算法 软间隔与硬间隔 参考资料 什么是向量 如果从数学的定义出发,所谓「向量」指的是有向线段. ...
最新文章
- Yii-yiic使用
- 关于 oracle secure backup
- Mongodb知识总结
- 基于EM的多直线拟合实现及思考
- 7-1 堆栈操作合法性 (15 分)
- IE浏览器起始页通过注册表修改
- 【转】新方法打造自己的N合一 XP系统盘
- 【研一周小结】第八-九周个人学习总结
- 云计算:吹尽狂沙始到金
- 解决vue google无状态播放音频文件
- 前端工程师说明(仅以自勉)
- 【Vuex】模仿京东购物车,用Vuex实现一个购物车功能
- spark shuffle 内幕彻底解密
- jabcob 使用API
- 【2013年度CSDN博客之星】评奖:全文五言句,俺也拉个票
- 电视制式,480p,720p,1080p
- 2017.07.23软件更新公告
- 【上电即上华为云】华为云openCPU智联模组_Cat.1_MC615-CN-L610-CN_环境温湿度(GXHT30传感器)
- Swift 2.2 基础语法
- linux创建目录命令-----mkdir