python机器学习应用mooc

KNN

定义
通过计算待分类数据点，与已有数据集中的所有数据点的距离。取距离最小的前k个点，根据“少数服从多数”的原则，将这个数据点划分为出现次数最多的那个类别。
sklearn参数说明
使用方式：sklearn.neighbors.KNeighborsClassifier
主要参数：
- n_neighbors：用于指定分类器中K的大小（默认为5）
- weights：设置选中的K个点对分类器结果影响的权重（默认值为uniform ,也可以传入自己编写的权值计算函数）
- algorithm：设置用于计算临近点的方法。由于当数据量很大的情况下计算当前点和所有点的距离，再选出最近的k个点，这个过程的计算量非常耗时，所以algorithm选项中提供了==ball_tree==、==kd_tree==、 ==brute== 算法，它们代表不同的寻找邻居的优化算法，默认值为auto（会根据训练数据自动选择）
KNN实例使用

from sklearn.neighbors import KNeighborsClassifier#step1:创建数据
x=[[0],[1],[2],[3]]  #创建数据
y=[0,0,1,1]          #创建数据对应标签#step2:设置参数并训练分类器
neigh=KNeighborsClassifier(n_neigbors=3) #设置邻居数为3
neigh.fit(x,y) #调用fit()进行训练#step3：测试训练好的knn分类器效果
#输入未知样本[1.2]，利用KNN进行分类
print(neigh.predict([[1.1]])) #调用predict函数进行预测，输入为数组格式

关于K的取值

K如果较大，可以减少估计误差，但是距离较远的样本也会对预测起作用，导致预测错误

K如果较小，相当于使用较小的领域进行预测，如果邻居恰好是噪声点会导致过拟合

所以，K会倾向于选择较小的值，并使用交叉验证法选取最优K值

python机器学习应用mooc_(1)KNN相关推荐

Python 机器学习大作业用knn算法对adult数据集进行50w年薪收入预测
数据分析与机器学习--收入分类摘要今天,人工智能AI已经融入了人类的生活,基本上在生活中能接触到的领域,都有人工智能的身影.而说起人工智能就必定会想到机器学习ML,它以某种方式几乎影响了每个行业 ...
Python 机器学习简单实例：KNN预测鸢尾花分类
读研太忙了才发现一年没更新,就以当初学习机器学习的一个简单例子作为一个新的开始吧.以下为正文. 一.安装sklearn库执行以下命令安装, 注意:在此之前需要提前安装numpy.matplotlib ...
用 Python 手写机器学习最简单的 KNN 算法
作者 | 苏克1900 责编 | 胡巍巍说实话,相比爬虫,掌握机器学习更实用竞争力也更强些. 目前网上大多这类教程对新手都不友好,要么直接调用 Sklearn 包,要么满篇抽象枯燥的算法公式文字,看 ...
Python 手写机器学习最简单的 kNN 算法
https://www.toutiao.com/a6698919092876739079/ Python 手写机器学习最简单的 kNN 算法苏克1900 Python爬虫与数据挖掘本文 3000 ...
Python机器学习实验二：1.编写代码，实现对iris数据集的KNN算法分类及预测
Python机器学习实验二:编写代码,实现对iris数据集的KNN算法分类及预测 1.编写代码,实现对iris数据集的KNN算法分类及预测,要求: (1)数据集划分为测试集占20%: (2)n_nei ...
教你用OpenCV实现机器学习最简单的k-NN算法
前言:OpenCV 的构建是为了提供计算机视觉的通用基础接口,现在已经成为经典和最优秀的计算机视觉和机器学习的综合算法工具集.作为一个开源项目,研究者.商业用户和政府部门都可以轻松利用和修改现成的代码 ...
【转】Python机器学习库
2019独角兽企业重金招聘Python工程师标准>>> Python 在科学计算领域,有两个重要的扩展模块:Numpy和Scipy.其中Numpy是一个用python实现的科学计算包 ...
Python 机器学习库 Top 10，你值得拥有！
随着人工智能技术的发展与普及,Python 超越了许多其他编程语言,成为了机器学习领域中最热门最常用的编程语言之一.有许多原因致使 Python 在众多开发者中如此受追捧,其中之一便是其拥有大量的与机 ...
windows环境下python怎么安装mlxtend-python连接QQ实现自动回复python 机器学习库
擅长:神经网络网址:http://deeplearning.net/software/pylearn2/ Github:http://github.com/lisa-lab/pylearn2 Pye ...
Python机器学习笔记：sklearn库的学习
自2007年发布以来,scikit-learn已经成为Python重要的机器学习库了,scikit-learn简称sklearn,支持包括分类,回归,降维和聚类四大机器学习算法.还包括了特征提取,数据 ...

python机器学习应用mooc_(1)KNN

KNN

python机器学习应用mooc_(1)KNN相关推荐

最新文章

热门文章