介绍:

在sklearn库中,KNeighborsClassifier是实现K近邻算法的一个类,一般都使用欧式距离进行测量。

这个类的结构如下:

sklearn.neighbors.KNeighborsClassifier

class sklearn.neighbors.KNeighborsClassifier(n_neighbors=5weights=’uniform’algorithm=’auto’leaf_size=30,p=2metric=’minkowski’metric_params=Nonen_jobs=1**kwargs)

在官方文档中,每个参数的含义:

n_neighbors:就是选取最近的点的个数:k

leaf_size:这个是构造树的大小,值一般选取默认值即可,太大会影响速度。

n_jobs :默认值1,选取-1占据CPU比重会减小,但运行速度也会变慢,所有的core都会运行。

这个类中的方法,在文档中的说明:

小试牛刀:

导库:
import numpy
from sklearn.neighbors import KNeighborsClassifier as kNN
构造训练集和对应的标签:
trainmat = numpy.array([[1,2,3],[2,3,5],[55,33,66],[55,33,66]])
label = numpy.array([0,0,1,1])

实例化分类器,并训练数据:

neigh = kNN(n_neighbors=3, algorithm='auto', weights='distance', n_jobs=1)
neigh.fit(trainmat,label)

训练完后会看到分类器的参数:

然后写一个测试数组:
testmat = numpy.array([2,3,4],[55,33,66])

我们使用三个最长用的方法,来看一下分类的结果:

结果很乐观,测试数组testmat中的两组值分别属于标签0和1的概率是0.99275805和1。

实战:

我们使用K近邻算法来区分数字。
这些数字是由0和1组成的txt文本文件,一个有10个数字,训练集和测试集在项目文件中提供。
github中的链接:点击打开链接
https://github.com/smallsmallcase/KNeighborsClassifier

机器学习算法笔记之K近邻算法(KNeighborsClassifier)相关推荐

  1. 机器学习算法系列之K近邻算法

    本系列机器学习的文章打算从机器学习算法的一些理论知识.python实现该算法和调一些该算法的相应包来实现. 目录 K近邻算法 一.K近邻算法原理 k近邻算法 通俗解释 近邻距离的度量 k值的选择 KN ...

  2. 01. 机器学习笔记01——K近邻算法 , CV_example

    K近邻算法(K-nearest neighbor,KNN算法) 李航博士<统计学习方法> 最近邻(k-Nearest Neighbors,KNN)算法是一种分类算法 应用场景:字符识别.文 ...

  3. 【机器学习入门】(1) K近邻算法:原理、实例应用(红酒分类预测)附python完整代码及数据集

    各位同学好,今天我向大家介绍一下python机器学习中的K近邻算法.内容有:K近邻算法的原理解析:实战案例--红酒分类预测.红酒数据集.完整代码在文章最下面. 案例简介:有178个红酒样本,每一款红酒 ...

  4. 机器学习7更多关于k近邻算法的思考

    文章目录 一.一些总结 1.缺点1: 2.优化: 3.缺点2: 4.缺点3: 5.缺点4: 二.机器学习流程回顾 一.一些总结 k近邻算法是一个解决分类问题的算法,天然可以解决多分类问题: 不仅如此, ...

  5. 统计学习方法笔记(一)-k近邻算法原理及python实现

    k近邻法 k近邻算法 算法原理 距离度量 距离度量python实现 k近邻算法实现 案例地址 k近邻算法 kkk近邻法(kkk-NN)是一种基本分类和回归方法. 算法原理 输入:训练集 T={(x1, ...

  6. 机器学习7/100天-K近邻算法

    Day7 K近邻算法 github: 100DaysOfMLCode What is K-NN k近邻算法是常用的简单分类算法也可用于回归问题. KNN是一个无参的(不需要对数据分布做任何假设).基于 ...

  7. 机器学习实战第二章K近邻算法照葫芦画瓢实践。

    分别实现了最基本的3个DEMO 1.给你若干个带有标签的二维点作为训练集,给定一系列的二维随机点,看其通过训练集,可以被分为哪一类 2.给你N个人的飞行里程数,玩游戏消耗时间百分比和每周消耗冰激凌的公 ...

  8. 【机器学习】sklearn机器学习入门案例——使用k近邻算法进行鸢尾花分类

    1 背景 这个案例恐怕已经被说的很烂了,机器学习方面不同程度的人对该案例还是有着不同的感觉.有的人追求先理解机器学习背后的理论甚至自己推导一遍相关数学公式,再用代码实现:有的人则满足于能够实现相关功能 ...

  9. 笔记:K近邻算法理论与实现

    numpy实现版本: import numpy as np import operator# 准备数据集 X = np.array([[2,2],[1,1.5],[1,1],[4,3],[4,4]]) ...

  10. 【机器学习】机器学习从零到掌握之二 -- 教你实现K近邻算法

    本文是<机器学习从零到掌握>系列之第2篇 [机器学习]机器学习从零到掌握之一 -- 教你理解K近邻算法 伪代码如下: 对未知类别属性的数据集中的每个点一次执行以下操作: (1)计算已知类别 ...

最新文章

  1. 测试django_如何像专业人士一样测试Django Signals
  2. 创业思维 - Qunar的故事
  3. Sound Forge Pro 3使用教程
  4. Nmap用法的思维导图
  5. 新地王的诞生终将付出惨痛的代价?
  6. 数据分析与挖掘实战-中医证型关联规则挖掘
  7. yaahp层次分析法步骤_综合评价方法之层次分析法,选择再也难不倒你!
  8. 节约内存编程方式操作系统(全概念)
  9. GitLab 发布安全修复版本:11.9.4, 11.8.6 和 11.7.10
  10. 总结07展望08.愿一切都好.
  11. 大型翻车现场?人人车官博辟谣破产传闻 却被群嘲官博怕是还蒙在鼓里
  12. [转载] python的系统模块_Python操作系统模块
  13. 使用getString成员函数获取表字段数据出错
  14. Android,六款安卓车机大PK
  15. php 499,nginx 499 状态码优化
  16. STM32开发笔记106:解决ST-LINK的Old ST-LINK firmware/ST-LINK already usde问题
  17. crmeb打通版开源微信公众号小程序商城框架源码
  18. 如何在 Mathtype中输入空格
  19. 显卡驱动装失败问题解决
  20. mysql front 图表,MySQL图表数据统计常用方法

热门文章

  1. Java.day17
  2. 读《大数据时代》有感
  3. [宋史学习] 宋初对党项的征讨与妥协
  4. RHCE 考试经验总结
  5. 网络字节序与主机字节序的转换 - HEN_MAN的专栏 - 博客频道 - CSDN.NET
  6. 【转】一个女孩的上海5年
  7. Summary: Rendering Pipeline简单总结一下渲染管线流程图
  8. C语言基础级——N维数组定义与使用
  9. 20172303 2017-2018-2 《程序设计与数据结构》第10周学习总结
  10. nuxt.js框架使用vue-waterfall-easy插件如何引入--语法引用