(转载请注明出处：http://blog.csdn.net/buptgshengod)

1.背景知识

前面我们提到的数据集都是线性可分的，这样我们可以用SMO等方法找到支持向量的集合。然而当我们遇到线性不可分的数据集时候，是不是svm就不起作用了呢？这里用到了一种方法叫做核函数，它将低维度的数据转换成高纬度的从而实现线性可分。

可能有的人不明白为什么低维度的数据集转换成高维度的就可以实现线性可分，下面摘抄一个网上的例子解释一下。看下面这个图，我们设红色的区域是一组数据

，而直线ab除了红色区域以外是另一组数据。因为直线是一维的，所以我们无法找到一条直线区分这两组数据。

单是当我们把这组数据引入二维之后，我们可以得到一组曲线，它在ab直线上部分指向黑色直线部分，ab直线下部指向红色部分。

我们通过这个例子可以看到核函数的作用，因为svm的结果只跟向量内积有关系，所以我们可以配合核函数实现任意数据集的分类。如果有人问，如果就是有一定的点数使得我们无论增加多少维度都不能实现分类，这就是引用松弛变量的意义，忽略这一部分点，因为它们很有可能是噪声。

2.代码部分

因为核函数有很多种类，比较常用的就是径向基核函数（RBF），这个准确率是比较高的。公式：

 K = exp(K/(-1*kTup[1]**2))

【机器学习算法-python实现】svm支持向量机(3)—核函数相关推荐

灰狼优化算法GWO优化SVM支持向量机惩罚参数c和核函数参数g，有例子
灰狼优化算法GWO优化SVM支持向量机惩罚参数c和核函数参数g,有例子,易上手,简单粗暴,替换数据即可,分类问题. 仅适应于windows系统,质量保证,完美运行. 本人在读博士研究生,已发表多篇sc ...
决策算法python_GitHub - nxety/MachineLearning_Python: 机器学习算法python实现
机器学习算法Python实现目录 1.代价函数其中: 下面就是要求出theta,使代价最小,即代表我们拟合出来的方程距离真实值最近共有m条数据,其中代表我们要拟合出来的方程到真实值距离的平方,平 ...
机器学习算法 | Python实现k-近邻算法
机器学习算法 | Python实现k-近邻算法目录机器学习算法 | Python实现k-近邻算法基本介绍工作原理程序设计参考资料基本介绍 KNN,全名k近邻算法.是⼀种⾮常简单有效的机器 ...
【机器学习】吴恩达作业6.0，python实现SVM支持向量机
6.0支持向量机使用支持向量机(SVM)处理各种两维的样本数据集,了解支持向量机如何工作,以及如何使用带高斯核函数的SVM. SVM(鲁棒性,大间距分类器) 支持向量机(support vector ...
白话机器学习算法理论+实战之支持向量机（SVM）
1. 写在前面如果想从事数据挖掘或者机器学习的工作,掌握常用的机器学习算法是非常有必要的,比如我之前写过的一篇十大机器学习算法的小总结,在这简单的先捋一捋, 常见的机器学习算法: 监督学习算法:逻辑 ...
实验二：用python实现SVM支持向量机并对鸢尾花数据集分类
实验二:SVM支持向量机 1. 实验内容: (1)用你熟知的语言(尽量使用python)实现支持向量机的算法,并在给定的数据集上训练. (2)在测试集上用训练好的支持向量机进行测试,并将预测结果以cs ...
10种经典机器学习算法——Python版
klearn python API LinearRegression from sklearn.linear_model import LinearRegression # 线性回归 # module ...
机器学习算法学习笔记：支持向量机
文章目录一.理论篇 1.概述 2.间隔与支持向量 3.优化问题 3.1 拉格朗日乘子法 3.2 原始和对偶问题 4.硬间隔SVM 5.软间隔SVM 6.核函数 7.序列最小优化(SMO)算法 8.模 ...
在opencv3中实现机器学习之：利用svm(支持向量机)分类
svm分类算法在opencv3中有了很大的变动,取消了CvSVMParams这个类,因此在参数设定上会有些改变. opencv中的svm分类代码,来源于libsvm. #include "s ...
机器学习（18）-- SVM支持向量机（根据身高体重分类性别）
目录一.基础理论二.身高体重预测性别 1.获取数据(男女生身高体重) 2.数据处理(合并数据) 3.设置标签 4.创建分类器(支持向量机) 4-1.创建svm分类器 4-2.设置分类器属性(线性核 ...

【机器学习算法-python实现】svm支持向量机(3)—核函数

1.背景知识

2.代码部分

【机器学习算法-python实现】svm支持向量机(3)—核函数相关推荐

最新文章

热门文章