SVM中函数间隔和几何间隔的区别
1、用|w∗x+b|表示点x到超平面0的距离远近,(w∗x+b)∗y表示分类的正确性以及确信度。
2、在二分类问题里,如果(w∗x+b)>0,则x的类别被判定为1;如果(w∗x+b)<0,x的类别判定为-1。
所以如果要分类正确,就一定要有y(w∗x+b)>0
3、样本点(xi,yi)和超平面之间的函数间隔为: yi(w∗xi+b)
要有更好的分类效果,就要让间隔最大。最简单的是通过让W,b同时放大N倍,
但是这时候超平面没有变化(你要找的是一个最优超平面使分类效果最好),没有意义。
4、为了让它有意义,引入 ||W||(这货是范数,不是绝对值) 约束W不让它变化。
所以几何间隔为
刚好等于点到超平面的距离公式
5、点到超平面的距离公式推导直接po别人的链接 ↓
https://www.jianshu.com/p/097ab4f0d4d4
(若涉及侵权,可以联系我让删掉噢~)
6、找到离超平面最近的点,计算其距离,该距离是最小几何间隔
定义公式:γ=mini=1,2,...,nγi=γ^i||wi||γ=mini=1,2,...,nγi=γ^i||wi|
7、对所有样本都满足:yi(w⋅x⃗ i+b)≥γ^yi(w⋅x→i+b)≥γ
8、所以最大化最小几何间隔:maxw,bγ^||w||maxw,bγ^||w|
9、将ww和bb缩放到λwλw和λbλb, 则函数间隔变成了 λγ^λγ^, 这对不等式约束没有影响, 对最大化γγ也没有影响(相除消掉了), 所以令λ=1/γ^λ=1/γ^
则有等价的优化问题(为了简化计算) :maxw,b1||w||maxw,b1||w|
10、
γ=mini=1,2,...,nγi=γ^i||wi|
SVM中函数间隔和几何间隔的区别相关推荐
- SVM函数间隔和几何间隔
刚开始接触SVM,遇到函数间隔和几何间隔,对这2个概念有点混肴,查阅一些资料后有点明白了. 函数间隔: 并不是实际意义上的点到超平面的距离,只是表示点到超平面的远近. 比如平面方程1:3x1 + 6x ...
- 1.2 函数间隔和几何间隔理解2
转载地址: https://www.zhihu.com/question/20466147 SVM是通过超平面将样本分为两类. 在超平面 w*x + b = 0 确定的情况下,| w*x + b ...
- 支持向量机(一)——深入理解函数间隔与几何间隔
1.支持向量机和logistic函数的有什么区别 实践发现,在所给的例子中,两种方法线性划分两类事物时得到的线性分类器的效果差不多.那具体的差别在哪呢? SVM更关心的是靠近中间分割线的点,让他们尽可 ...
- 【机器学习】SVM中对函数间隔和几何间隔的理解
超平面表达式: 函数间隔 : 对于在超平面上的点, w x + b = 0 wx+b=0 wx+b=0 恒成立.而超平面之外的点,可以认为距离越远, w x + b wx+b wx+b 的绝对值越大, ...
- 1.1 函数间隔和几何间隔理解1
转载地址: https://www.jianshu.com/p/2e3c0c583e85 1.函数间隔 我们的函数间隔定义为: 可以看到,函数间隔其实就是类别标签乘上了f(x)的值,可以看到,该值永远 ...
- python中函数参数*args和**kw的区别
1.函数与参数(实参) 在python中创建函数是def,创建函数名是def f(),f函数名字,def f(a,b),这里的a,b是两个参数,函数名是自定义的,参数也是自定义,随意就好.看图如下效果 ...
- js中函数、方法、对象的区别
一.函数: 1.函数就是一个工具,通过一小段代码,完成某个功能: 2.函数的定义: function 函数名(){..... } 或者 : var 函数名 = function(){...... } ...
- MATLAB中函数模式和命令模式的区别
FUNCTION FORMAT A command in this format consists of the function name followed by one or more argum ...
- 几何间隔、函数间隔和||W||
SVM是通过超平面将样本分为两类. 在超平面确定的情况下,可以相对地表示点距离超平面的远近.对于两类分类问题,如果,则的类别被判定为1:否则判定为-1. 所以如果,则认为的分类结果是正确的,否则是错误 ...
最新文章
- DiscuX END - 553 Envolope sender mismatch with header from..
- “病毒防治”页面中“社区热帖”版块不显示
- 2.2tensorflow2官方demo
- oracle logminer java_Oracle logminer
- 基于 OpenFire 的TVBox管理平台开发笔记
- 阿里云万郁香:多样付费选择构筑成本最优的弹性体验
- Float 运算的怪异性
- 三种属性操作性能比较:PropertyInfo + Expression Tree + Delegate.CreateDelegate
- sqoop安装及使用
- FastStone Capture滚动截屏丢失行解决办法
- 安装win10+黑苹果双系统零基础教程
- Amazon亚马逊 Vendor Central Label详解
- Kotlin工程项目下的不同的源文件图标
- 和讯博客知名博主《猎杀黑马》作者王宁签售会圆满结束
- 文件关联修复工具(用文本文档保存后后缀修改为bat)
- SQL语句中,为什么where子句不能使用列别名,而order by却可以?
- 基于JMF录制和播放视频源码
- 基于Umi的移动端框架Alita-v2.6.7源码
- Php session_start错误,PHP 解决错误:Warning: session_start()... 的方法
- 一次日语翻译的Chrome插件开发经历