机器学习笔记（十一）：支持向量机

1）Optimization objective

2）Large Margin Intuition

3）Kernels 1

4）Kernels II

5）Using an SVM

注：这一章SVM可能有点难理解，强烈建议大家把本章的编程作业做了。

1）Optimization objective

我们换一个角度来看看我们之前学过的逻辑回归：

我们得到了支持向量机的代价函数：

2）Large Margin Intuition

下图是我们的支持向量机模型：代价函数定义略有不同：

现在我们来看看我们的决策边界：

我们来看一个线性决策边界：这有四条边界，其中黑色边界是最好的，最大间隔分类。

3）Kernels 1

我们来看一个非线性决策边界：

我们可以通过地标来构造新特征：

来看一个例子：

下图显示了我们使用地标位置确定的决策边界。

4）Kernels II

实际使用中我们如何选择地标呢？

于是我们得到SVM核函数：

我们得到新的代价函数：

下图显示了SVM参数的影响：

5）Using an SVM

使用SVM我们需要选择合适参数和核函数：

下图显示了使用逻辑函数和SVM的准则：

机器学习笔记（十一）：支持向量机相关推荐

机器学习笔记(十一)——学支持向量机怎能不懂“核”
非线性支持向量机 [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-9g13V18T-1590057139912)(https://upload-images.jiansh ...
[吴恩达机器学习笔记]12支持向量机3SVM大间距分类的数学解释
12.支持向量机觉得有用的话,欢迎一起讨论相互学习~Follow Me 参考资料斯坦福大学 2014 机器学习教程中文笔记 by 黄海广 12.3 大间距分类背后的数学原理- Mathematic ...
[吴恩达机器学习笔记]12支持向量机2 SVM的正则化参数和决策间距
12.支持向量机觉得有用的话,欢迎一起讨论相互学习~Follow Me 参考资料斯坦福大学 2014 机器学习教程中文笔记 by 黄海广 12.2 大间距的直观理解- Large Margin I ...
白板机器学习笔记 P28-P35 支持向量机
视频地址:https://www.bilibili.com/video/BV1aE411o7qd?p=28 笔记地址:https://www.yuque.com/books/share/f4031f6 ...
机器学习笔记(十一)特征选择和稀疏学习
11.特征选择和稀疏学习 11.1子集搜索与评价对象都有很多属性来描述,属性也称为特征(feature),用于刻画对象的某一个特性.对一个学习任务而言,有些属性是关键有用的,而有些属性则可能不必要纳 ...
2018-3-21李宏毅机器学习笔记十一-----Brief Introduction of Deep Learning？
我觉的有用的: BP神经网络_百度百科 https://baike.baidu.com/item/BP%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C/4581827?fr=a ...
机器学习笔记(六)支持向量机
6.支持向量机 6.1间隔与支持向量对于给定的训练集D={(x1,y1),(x2,y2),-,(xm,ym)},yi∈{-1,+1},分类学习的初衷就是基于训练集在样本空间中找到一个可以有效划分样本 ...
机器学习笔记：支持向量机（SVM）详细推导以及sklearn.svm.SVC的简单简介
线性可分支持向量机: 举一个简单的例子: 我们需要将下面的圆圈和叉分开这里存在无数多条线可以将圆圈和叉分开,因此,我们要规定一个性能指标,对于每一条线,都有对应的一个性能指标. 我们将每一条可以分开 ...
机器学习笔记十一之降维
本节目录: 1 数据压缩 2 数据可视化 3 主成分分析 4 选择主成分的数量 5 重建的压缩表示 6 主成分分析法的应用建议 1 数据压缩第二种监督学习问题为降维.有几个不同的原因使你可能想要做降 ...
机器学习笔记十四：随机森林
在上一篇机器学习笔记十三:Ensemble思想(上)中,简要的提了一下集成学习的原理和两种主要的集成学习形式. 而在这部分要讲的随机森林,就算是其中属于bagging思路的一种学习方法.为了篇幅,b ...

机器学习笔记（十一）：支持向量机

1）Optimization objective

2）Large Margin Intuition

3）Kernels 1

4）Kernels II

5）Using an SVM

机器学习笔记（十一）：支持向量机相关推荐

最新文章

热门文章