第二次学习计划之 SVM算法

SVM最早是由Vladimir N. Vapnik和Alexey Ya. Chervonenkis在1963年提出，目前的版本(soft margin)是由Corinna Cortes和Vapnik在1993年提出，并在1995年发表。深度学习出现之前，SVM被认为是机器学习中近十几年来最成功,表现最好的算法。

支持向量机是一种二分类模型，它将实例的特征向量映射为空间中的一些点，SVM的目的就是想要画出一条线，以“最好地”区分这两类点，以至如果以后有了新的点，这条线也能做出很好的分类。

1、能够画出多少条线对样本点进行区分?
答:线是有无数条可以画的，区别就在于效果好不好，每条线都可以叫做一个划分超平面。比如下面的绿线就不好，蓝线还凑合，红线看起来就比较好。我们所希望找到的这条效果最好的线就是具有‘最大间隔的划分超平面” 。

2、为什么要叫作“ 超平面”呢?
答:因为样本的特征很可能是高维的，此时样本空间的划分就不是一条线了。
3、画线的标准是什么? /什么才叫这条线的效果好? /哪里好?
答: SVM将会寻找可以区分两个类别并且能使间隔(margin) 最大的划分超平面。比较好的划分超平面，样本局部扰动时对它的影响最小、产生的分类结果最棒、对未见示例的泛化能力最强。
4、间隔(margin) 是什么?
答:对于任意一个超平面，其两侧数据点都距离它有一个最小距离(垂直距离)，这两个最小距离的和就是间隔。

比如下图中两条虚线构成的带状区域就是margin,虚线是由距离中央实线最近的两个点所确定出来的(也就是由支持向量决定)。但此时margin比较小，如果用第二种方式画，margin 明显变大也更接近我们的目标。

5、为什么要让间隔(margin)尽量大 ?
答:因为大间隔(margin)犯错的几率比较小。
6、支持向量是什么 ?
答:从上图可以看出，虚线上的点到划分超平面的距离都是一样的，实际上只有这几个点共同确定了超平面的位置，因此被称作“支持向量(support vectors)”。

7、SVM分类 ?
答: Hard-Margin SVM

Soft-Margin SVM

Kernel SVM

第二次学习计划之 SVM算法相关推荐

计算机系大二学期计划范文,大一第二学期学习计划范文
大一第二学期学习计划范文大一第二学期学习计划范文1 (一)很快的一个学期过了另一个学期又来了,很不幸的上学期挂了一科,所以从这个学期开始我学习目标要明确,实现目标也有保证.我要短时间内达到一个小目标 ...
【LeetCode学习计划】《算法-入门-C++》第13天位运算
文章目录 231. 2 的幂前言方法1:迭代 1.1 右移 1.2 左移方法2:判断是否为最大的 2 的次幂的约数方法3:提取最低位的1 3.1 减1 3.2 相反数 191. 位1的个数方 ...
力扣学习计划——数据结构与算法基础笔记
数据结构数组题目:136. 只出现一次的数字题目:169. 多数元素题目:15. 三数之和(难点) 这个方法就是我们常说的「双指针」,当我们需要枚举数组中的两个元素时,如果我们发现随着第一个元 ...
第二次学习计划之蒙特卡罗树（MCTS）
总结自知乎大佬:https://zhuanlan.zhihu.com/p/53948964 在学习蒙特卡罗树之前先了解一下蒙特卡洛方法(两者不是同一算法) 蒙特卡洛法方法是什么呢? 它是评判棋盘局面的 ...
（二）目标检测之 HOG+SVM 算法
文章目录背景 HOG特征描述符方法概述 HOG算法优缺点实例讲解参考资料背景梯度直方图HOG(Histogram of Oriented Gradients)是法国人Dalal在200 ...
OpenCV学习笔记（二十六）——小试SVM算法ml OpenCV学习笔记（二十七）——基于级联分类器的目标检测objdect OpenCV学习笔记（二十八）——光流法对运动目标跟踪Video Ope
OpenCV学习笔记(二十六)--小试SVM算法ml 总感觉自己停留在码农的初级阶段,要想更上一层,就得静下心来,好好研究一下算法的东西.OpenCV作为一个计算机视觉的开源库,肯定不会只停留在数字图 ...
小白学习机器学习---第六章:SVM算法原理（1）
SVM的英文全称是Support Vector Machines,我们叫它支持向量机.支持向量机是我们用于分类的一种算法.让我们以一个小故事的形式,开启我们的SVM之旅吧. 在很久以前的情人节,一位大 ...
系统学习机器学习之SVM(四)--SVM算法总结
这边文章介绍的相当浅显易懂,写的很好.算是SVM总结吧. 转自:http://www.blogjava.net/zhenandaci/category/31868.html (一)SVM的简介 ...
分支限界算法c语言_算法学习计划
学习计划根据王红梅编著的<算法设计与分析>,读取每一章的内容,然后从乐扣上找对应的算法题,包含简单-中等-困难三种程度.尽量每两周能够完成一章.遇到一种类型的问题时,先自己想想解决方案, ...

第二次学习计划之 SVM算法

第二次学习计划之 SVM算法相关推荐

最新文章

热门文章

第二次学习计划 之 SVM算法

第二次学习计划 之 SVM算法相关推荐

最新文章

热门文章

第二次学习计划之 SVM算法

第二次学习计划之 SVM算法相关推荐