机器学习技法-01-2-Large-Margin Separating Hyperplane
distance to hyperplane
和之前不太一样的是,之前的会补上x0=1,这里是把w0单独拿出来,w0,(w1,w2,w3…wd),w0是截距。
b就是hyperplane函数的常数项,w1x1+w2x2+b=0的形式。其中b=w0。
可以表示hyperplane平面上的任意一个向量,所以w会垂直于hyperplane这个平面。w是这个平面的法向量。
distance最大也就是,xn与超平面上的的向量,在与hyperplane垂直方向上(也就是w的方向上)的投影。
xn-就代表:xn和形成的向量。
上面的绝对值可以用来代替,因为乘上yn以后就一定会大于0,和绝对值的作用是相同的。
min函数要求最小值比较难,可以进行适当地缩放,把最小值为1缩放成>=1。
那么会不会在缩放之后无法取到最小值1呢?
不会的。举个例子,
假设此时的(b,w)是最优的,并且取不到1,大于1。比如说大于1.126,w需要缩放到除以w/1.126,那么此时的
还会变大,与最优的(b,w)对应最大的margin(b,w)相矛盾,所以就算进行了缩放,也不会有影响,最小值还是1。
再对上面的式子进行改进,得到了下面最终的结果。
直接使用这个公式就可以了。,在w的方向上的投影。
机器学习技法-01-2-Large-Margin Separating Hyperplane相关推荐
- 机器学习技法1-Linear Support Vector Machine
注: 文章中所有的图片均来自台湾大学林轩田<机器学习技法>课程. 笔记原作者:红色石头 微信公众号:AI有道 本系列分成16节课,将会介绍<机器学习基石>的进阶版<机器学 ...
- 台湾大学林轩田机器学习技法课程学习笔记5 -- Kernel Logistic Regression
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Soft-Margin SVM,即如果允许有分类错误的点存在,那么在原来的Hard-Margin SVM中添加新的惩罚因子C, ...
- 台湾大学林轩田机器学习技法课程学习笔记1 -- Linear Support Vector Machine
红色石头的个人网站:redstonewill.com 关于台湾大学林轩田老师的<机器学习基石>课程,我们已经总结了16节课的笔记.这里附上基石第一节课的博客地址: 台湾大学林轩田机器学习基 ...
- 台湾大学林轩田机器学习技法课程学习笔记4 -- Soft-Margin Support Vector Machine
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Kernel SVM.先将特征转换和计算内积这两个步骤合并起来,简化计算.提高计算速度,再用Dual SVM的求解方法来解决. ...
- 台湾大学林轩田机器学习技法课程学习笔记2 -- Dual Support Vector Machine
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了线性支持向量机(Linear Support Vector Machine).Linear SVM的目标是找出最"胖 ...
- 林轩田机器学习技法(Machine Learning Techniques)笔记(一)
终于到机器学习技法了,接下来还是尽量保持每章完结就立刻更吧..基石没有保持写完就更,现在回头不知道自己在写啥,看笔记感觉写得一塌糊涂,感觉翻车了.慢慢改进吧. 听说技法挺难的,贴一下大神博客来加持一发 ...
- 台湾大学林轩田机器学习技法课程学习笔记11 -- Gradient Boosted Decision Tree
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Random Forest算法模型.Random Forest就是通过bagging的方式将许多不同的decision tre ...
- 林轩田机器学习技法(Machine Learning Techniques)笔记(三)
感觉边写边记还不错hhh(感觉之前就剪剪图,写在记事本里打算之后再贴上去,实在是太蠢了⁄(⁄ ⁄•⁄ω⁄•⁄ ⁄)⁄) 林轩田机器学习技法(Machine Learning Techniques)笔记 ...
- 台湾大学林轩田机器学习技法课程学习笔记12 -- Neural Network
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Gradient Boosted Decision Tree.GBDT通过使用functional gradient的方法得到 ...
- 台湾大学林轩田机器学习技法课程学习笔记3 -- Kernel Support Vector Machine
红色石头的个人网站:redstonewill.com 上节课我们主要介绍了SVM的对偶形式,即dual SVM.Dual SVM也是一个二次规划问题,可以用QP来进行求解.之所以要推导SVM的对偶形式 ...
最新文章
- Silverlight运行原理经典问答。
- 【笔记】shellcode相关整理
- 不定位成一个连接者,家装公司进军智能装饰的所有姿势都是错的
- 线性判别分析LDA的数学原理(一)
- AI技术在游戏开发中的五种有效尝试
- perl学习之:肯定匹配和否定匹配
- 解决升级Win 10 IP 10122后无法调试UAP应用的方法
- Nginx 性能调优
- 中软java编码规范考试_java编码规范考试题答案
- 富士施乐248b粉盒清零_能不能告诉我施乐5070硒鼓芯片清零方法是什么
- 计算机论文展望未来,【计算机】总结过去,展望未来
- ubuntu18.04 netplan 设置dns,dns不生效
- <4>STM32F103基础知识
- 【Phusion Passenger】应用服务器
- 陶朱公商训 道出了管理的本质
- 离散点插值反距离加权法IDW C#实现
- python-实现多元回归及预测
- python大数据之异常值处理
- 关于同一个网络A电脑可以ping通B电脑,而B电脑却ping不通A电脑,但A可以远程连接上B解决方法
- 大数据产品价值主张_十年之后
大数据的价值主张