distance to hyperplane


和之前不太一样的是,之前的会补上x0=1,这里是把w0单独拿出来,w0,(w1,w2,w3…wd),w0是截距。

b就是hyperplane函数的常数项,w1x1+w2x2+b=0的形式。其中b=w0。





可以表示hyperplane平面上的任意一个向量,所以w会垂直于hyperplane这个平面。w是这个平面的法向量。

distance最大也就是,xn与超平面上的的向量,在与hyperplane垂直方向上(也就是w的方向上)的投影。

xn-就代表:xn和形成的向量。


上面的绝对值可以用来代替,因为乘上yn以后就一定会大于0,和绝对值的作用是相同的。


min函数要求最小值比较难,可以进行适当地缩放,把最小值为1缩放成>=1。

那么会不会在缩放之后无法取到最小值1呢?

不会的。举个例子,


假设此时的(b,w)是最优的,并且取不到1,大于1。比如说大于1.126,w需要缩放到除以w/1.126,那么此时的

还会变大,与最优的(b,w)对应最大的margin(b,w)相矛盾,所以就算进行了缩放,也不会有影响,最小值还是1。


再对上面的式子进行改进,得到了下面最终的结果。


直接使用这个公式就可以了。,在w的方向上的投影。

机器学习技法-01-2-Large-Margin Separating Hyperplane相关推荐

  1. 机器学习技法1-Linear Support Vector Machine

    注: 文章中所有的图片均来自台湾大学林轩田<机器学习技法>课程. 笔记原作者:红色石头 微信公众号:AI有道 本系列分成16节课,将会介绍<机器学习基石>的进阶版<机器学 ...

  2. 台湾大学林轩田机器学习技法课程学习笔记5 -- Kernel Logistic Regression

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Soft-Margin SVM,即如果允许有分类错误的点存在,那么在原来的Hard-Margin SVM中添加新的惩罚因子C, ...

  3. 台湾大学林轩田机器学习技法课程学习笔记1 -- Linear Support Vector Machine

    红色石头的个人网站:redstonewill.com 关于台湾大学林轩田老师的<机器学习基石>课程,我们已经总结了16节课的笔记.这里附上基石第一节课的博客地址: 台湾大学林轩田机器学习基 ...

  4. 台湾大学林轩田机器学习技法课程学习笔记4 -- Soft-Margin Support Vector Machine

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Kernel SVM.先将特征转换和计算内积这两个步骤合并起来,简化计算.提高计算速度,再用Dual SVM的求解方法来解决. ...

  5. 台湾大学林轩田机器学习技法课程学习笔记2 -- Dual Support Vector Machine

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了线性支持向量机(Linear Support Vector Machine).Linear SVM的目标是找出最"胖 ...

  6. 林轩田机器学习技法(Machine Learning Techniques)笔记(一)

    终于到机器学习技法了,接下来还是尽量保持每章完结就立刻更吧..基石没有保持写完就更,现在回头不知道自己在写啥,看笔记感觉写得一塌糊涂,感觉翻车了.慢慢改进吧. 听说技法挺难的,贴一下大神博客来加持一发 ...

  7. 台湾大学林轩田机器学习技法课程学习笔记11 -- Gradient Boosted Decision Tree

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Random Forest算法模型.Random Forest就是通过bagging的方式将许多不同的decision tre ...

  8. 林轩田机器学习技法(Machine Learning Techniques)笔记(三)

    感觉边写边记还不错hhh(感觉之前就剪剪图,写在记事本里打算之后再贴上去,实在是太蠢了⁄(⁄ ⁄•⁄ω⁄•⁄ ⁄)⁄) 林轩田机器学习技法(Machine Learning Techniques)笔记 ...

  9. 台湾大学林轩田机器学习技法课程学习笔记12 -- Neural Network

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了Gradient Boosted Decision Tree.GBDT通过使用functional gradient的方法得到 ...

  10. 台湾大学林轩田机器学习技法课程学习笔记3 -- Kernel Support Vector Machine

    红色石头的个人网站:redstonewill.com 上节课我们主要介绍了SVM的对偶形式,即dual SVM.Dual SVM也是一个二次规划问题,可以用QP来进行求解.之所以要推导SVM的对偶形式 ...

最新文章

  1. Silverlight运行原理经典问答。
  2. 【笔记】shellcode相关整理
  3. 不定位成一个连接者,家装公司进军智能装饰的所有姿势都是错的
  4. 线性判别分析LDA的数学原理(一)
  5. AI技术在游戏开发中的五种有效尝试
  6. perl学习之:肯定匹配和否定匹配
  7. 解决升级Win 10 IP 10122后无法调试UAP应用的方法
  8. Nginx 性能调优
  9. 中软java编码规范考试_java编码规范考试题答案
  10. 富士施乐248b粉盒清零_能不能告诉我施乐5070硒鼓芯片清零方法是什么
  11. 计算机论文展望未来,【计算机】总结过去,展望未来
  12. ubuntu18.04 netplan 设置dns,dns不生效
  13. <4>STM32F103基础知识
  14. 【Phusion Passenger】应用服务器
  15. 陶朱公商训 道出了管理的本质
  16. 离散点插值反距离加权法IDW C#实现
  17. python-实现多元回归及预测
  18. python大数据之异常值处理
  19. 关于同一个网络A电脑可以ping通B电脑,而B电脑却ping不通A电脑,但A可以远程连接上B解决方法
  20. 大数据产品价值主张_十年之后 大数据的价值主张

热门文章

  1. 24小时“凶宅试睡直播”去“凶”,阿里拍卖为卖凶宅有点拼
  2. 线性判别分析(Linear Discriminant Analysis)
  3. 【VBA】汉字转换全拼函数
  4. latex插入参考文献技巧
  5. 磁盘 RAID0 及其变种详解
  6. 会计学原理与财务报表分析
  7. 支付行业PCI DSS 3.0学习概述
  8. 科学计算机上的R,r科学计算器Calculator
  9. Axure RP 9 常用快捷键
  10. 毕业设计 - 题目:基于深度学习的中文汉字识别 - 深度学习 卷积神经网络 机器视觉 OCR