机器学习—SVM原理及简单代码实现（matlab）

传统的SVM做的事情其实就是找到一个超平面，实现二分类，一类+1，一类-1。如上所示。它的目的就是使得两类的间隔最大。只要确定了间隔最大和两边距离相等，就能确定唯一平面。黑色的块表示距离分割面最近的样本向量，称为支持向量。

对于不可分问题，引入核函数，将数据点由二维向三维映射，从而在空间上进行分离和寻找超平面

图片来源https://www.bilibili.com/video/BV1o64y1i7yw

K就是核函数，做一个内积的运算。SVM中核函数保证了低维空间里的计算量，输出到高维空间里。K相当于隐含层的神经元

在学习书上代码发现已经很旧了，更新一下，根据Matlab2018b 自带SVM算法函数fitcsvm(svmtrain已被删除)实现，并依靠predict(svmclassify)对建立的SVM模型对测试数据进行分类。
以往的绘图选项plot（true）也找不到了，根据https://www.freesion.com/article/980718683/绘图分界线


clc;
clear;
close all;
traindata=[0,1;-1,0;2,2;3,1;-2,-2;-4,2;2,-1;-1,-3]; %生成样本的属性数据
lable=[1;1;-1;-1;1;1;-1;-1]; %样本标签
testdata=[5,2;3,1;-4,2]; %测试数据的属性数据
svm_struct=fitcsvm(traindata,lable);%训练SVM模型
testlable=predict(svm_struct,testdata); %依据测试样本对模型进行测试
sb= svm_struct.SupportVectors;%将Sb指定为支持向量
gscatter(traindata(:,1),traindata(:,2),lable,'br','..',8);
hold on;
gscatter(testdata(:,1),testdata(:,2),testlable,'br','..',20);
hold on;
[Xa,Xb] = meshgrid(-5:0.2:5,-5:0.2:5);
% 这是我的取点范围, 感觉效果不错, 也可以自己改改
[~,score] = predict(svm_struct,[Xa(:),Xb(:)]);
% 对网格进行分类结果的计算
scoreGrid = reshape(score(:,2),size(Xa,1),size(Xb,2));
% 改变score的行数和列数, 使之和网格[X1,X2]中的点一一对应
contour(Xa,Xb,scoreGrid,[0 0]);% 绘制等高线, 最后一个参数[0 0] 就是只绘制出score值为0的点的等高线, 也就是分界线.
hold on;
plot(sb(:,1),sb(:,2),'r>','MarkerSize',10);
legend('-1(train)','1(train)','-1(test)','1(test)','分界线','Support Vector');
hold off

机器学习—SVM原理及简单代码实现（matlab）相关推荐

svm matlab 画图,SVM简单代码实现MATLAB
一.前言在推导出SVM公式的基础上,就可以考虑动手实现了.SVM解决分类问题,这里用MATLAB来实现,具体就不多说了,所以首先给出两种标记不同的点,然后分别标记为+1,-1.先训练,再测试,最后画 ...
机器学习：支持向量机SVM原理与理解
引言 --"举牌子:Support Vector Machines " 一直在犹豫要不要写SVM,因为网上已经有很多详细的SVM原理的解释甚至详细推导,而这东西又庞大复杂,想了解的 ...
看不懂掐死我系列之支持向量机（SVM）从原理到python代码实现
在如下图所示的二分类问题里,我们在训练分类器时就是希望找到一个最优的超平面.直观来讲,我们希望找到如图所示的一个通道(Margin)能够区分正负样本,最大化其宽度,取其中间线为超平面.直观来说,这样得 ...
SVM原理及代码实现（学习笔记）
1.概念支持向量机(Support Vector Machine, SVM)是一类按监督学习(supervised learning)方式对数据进行二元分类的广义线性分类器(generalized ...
机器学习--SVM（支持向量机）核函数原理以及高斯核函数
最近小小地研究了一下SVM,发现这个算法还是相当有意思,今天来给大家讲讲其原理. 首先假设每个样本的特征值为X1.X2...到Xn,即有n个特征值.θ1.θ2.θ3...θn为对应权值. 那么要将上图 ...
机器学习简单代码示例
机器学习简单代码示例 //在gcc-4.7.2下编译通过. //命令行:g++ -Wall -ansi -O2 test.cpp -o test #include <iostream> u ...
机器学习：SVM的最朴素代码实现，第一个变量遍历样本获得，第二个变量随机选择
文章目录 SVM的最朴素代码实现: 代码实现: 第一个变量遍历样本获得,主要步骤如下: 第二个变量随机选择: 计算w: 其他: SVM的最朴素代码实现: 算法简单步骤: 1.遍历样本作为第一个变量a1 ...
多类线性分类器算法原理及代码实现 MATLAB
多类线性分类器算法原理及代码实现 MATLAB 一.算法原理下面举例说明为何蓝圈部分在case2中是确定的而在case1中不确定: 二.代码实现 1.HK函数 function [] = HK(w1 ...
matlab 数控插补实验,数控插补原理及G代码编程实验.ppt
数控插补原理及G代码编程实验数控插补原理及G代码编程实验机械工程实验教学中心数控插补原理及G代码编程实验 ★ 二维插补原理实验 ★ 数控代码编程实验 1 实验目的 ★ 使学生掌握逐点比较法.数字 ...

机器学习—SVM原理及简单代码实现（matlab）

机器学习—SVM原理及简单代码实现（matlab）相关推荐

最新文章

热门文章