KNN算法又称为k近邻分类(k-nearest neighbor classification)算法，它将样本分到离它最相似的样本所属的类。该算法的本质上采用模板匹配的思想，要确定一个样本的类别，通过计算它与所有训练样本的距离来找出和该样本最接近的k个样本，统计这些样本的类别进行投票，票数最多的那个类就是分类结果。

kNN算法概述

1.KNN算法描述

(1)初始化训练集和类别；

(2)计算测试集样本与训练集样本的欧氏距离；

(3)根据欧氏距离大小对训练集样本进行升序排序；

(4)选取欧式距离最小的前K个训练样本，统计其在各类别中的频率；

(5)返回频率最大的类别，即测试集样本属于该类别。

2.优缺点

1)优点
(1) 简单，易于理解，易于实现，无需估计参数，无需训练
适合对稀有事件进行分类（例如当流失率很低时，比如低于0.5%，构造流失预测模型）;
(2)特别适合于多分类问题(multi-modal,对象具有多个类别标签)，例如根据基因特征来判断其功能分类，kNN比SVM的表现要好。
2)缺点
(1)懒惰算法，对测试样本分类时的计算量大，内存开销大，评分慢；

(2)可解释性较差，无法给出决策树那样的规则。

3.常见问题

1)k值设定为多大？
(1)k太小，分类结果易受噪声点影响；k太大，近邻中又可能包含太多的其它类别的点。&#x

MATLAB从入门到精通系列之如何实现KNN算法相关推荐

MATLAB从入门到精通系列-非线性曲线拟合函数lsqcurve()详解
前言以下是我为大家准备的几个精品专栏,喜欢的小伙伴可自行订阅,你的支持就是我不断更新的动力哟! MATLAB-30天带你从入门到精通 MATLAB深入理解高级教程(附源码) tableau可视化数据 ...
MATLAB从入门到精通系列之MATLAB维度获取size()函数详解
1.预备知识维度获取size()主要用获取矩阵维度,常用于获取一维向量的长度,二维矩阵的行.列维度,以及高维数组的维度,方便对矩阵进行相关运算. 打开MATLAB运行界面进行准备. 2.size() ...
MATLAB从入门到精通系列之几个实用小技巧
1.help:最有效的命令其实可以这样说吧,如果离开matlab软件,我想我自己是基本上什么都不会.一遇到什么问题,通常我的第一反应是:help,就先说说自己对help的一些常用方法吧. (1)命令 ...
MATLAB从入门到精通系列之如何在MATLAB中导入excel单sheet页及多sheet页表格
前言一个excel表格中可能有一个Sheet或多个Sheet,虽然在MATLAB中只需要加些代码即可轻松实现,但是为了帮助各位小伙伴更容易理解. 因此,分为两部分讲解:1)excel表格中只有一个S ...
MATLAB从入门到精通系列之MATLAB常见问题集锦-(二)
1.在MATLABParallel Computing Toolbox中,我能使用的最大worker数是多少? 在 R2013b 之后的版本(不含)中,MATLAB Parallel Computin ...
MATLAB从入门到精通系列之matlab常见问题集锦-(一)
1.如何修改 MATLAB 启动时的工作路径? 至少有以下三种方法: 1.MATLAB 主页->预设->常规,右侧可以设置启动时的工作路径. 2.建立 startup.m 文件,在文件中写 ...
【机器学习入门到精通系列】粒子群优化算法
文章目录 1 粒子群算法简介 2 算法流程 3 粒子群算法模型(不懂就不看哦) 4 代码 1 粒子群算法简介粒子群算法(Particle Swarm Optimization,PSO)是一种模仿鸟群 ...
【ArcGIS遇上Python】从入门到精通系列之第一章：ArcGIS Python简介
文章目录 1. Python简介 2. Python的特点 3. ArcGIS的脚本语言 4. ArcGIS中的Python脚本编辑器 1. Python简介 Python是一种跨平台的计算机程序设计 ...
Linux从入门到精通系列之PPTP
Linux从入门到精通系列之PPTP 今天我们来说下怎么在linux环境下如何搭建PPTP-×××,PPTP(Point to Point Tunneling Protocol),即点对点隧道协议.该 ...

MATLAB从入门到精通系列之如何实现KNN算法

kNN算法概述

1.KNN算法描述

2.优缺点

3.常见问题

MATLAB从入门到精通系列之如何实现KNN算法相关推荐

最新文章

热门文章