python knnsearch_sklearn之KNN详解+GridSearchCV使用方法
在了解了KNN的基本原理之后,我们需要学习如何在sklearn中调用KNN算法以及如何用GridSearchCV进行调参
首先导入必要的库以及我们所使用的数据集:iris
1 from sklearn.neighbors importKNeighborsClassifier2 from sklearn importdatasets3 from sklearn.model_selection importGridSearchCV4 from sklearn.model_selection importtrain_test_split5 iris =datasets.load_iris()6 data =iris.data7 label = iris.target
由于KNN对极端数据比较敏感,所以一般会对数据进行归一化,此处数据集比较友好就没有归一化了
将整个的数据集分成训练集和测试集,并创建一个KNN分类器对象
1 X_train,X_test,y_train,y_test = train_test_split(data,label,test_size=0.3,random_state=2)2 knn_clf = KNeighborsClassifier()
由于sklearn中的KNN方法有很多超参数,所以需要调参,这里只介绍常用的超参数:
weights:有两种参数:'uniform'和'distance',前者表示最原始的不带距离权重的KNN,后者指带有距离权重的KNN,比如说,A到B的距离为1,A到C的距离为2,A到D的距离为4,而且B属于M类,C和D属于N类,此时KNN算法的K如果等于3,则最终会将A判断为N类,但实际上A距离B最近,应该属于M类,故应该使用距离的倒数来表示距离,此时AB距离为1,AC距离为1/2,AD距离为1/4,AC+AD=3/4<1,故A点属于M类,此外,这种算法还能解决K个最近距离就有K类的问题。
n_neighbors:邻居个数,不再赘述
p:p=1表示曼哈顿距离,p=2表示欧式距离,p可以大于2,注意p参数只有在weights='distance'时才有
接下来介绍GridSearchCV的用法,先上代码:
1 param_grid =[2 {3 'weights':['uniform'],4 'n_neighbors':[i for i in range(1,11)]5 },6 {7 'weights':['distance'],8 'n_neighbors':[i for i in range(1,11)],9 'p':[i for i in range(1,6)]10 }11 ]12 grid_search = GridSearchCV(knn_clf,param_grid,n_jobs=-1,verbose=2)
GridSearchCV常用超参数:
estimator:创建的对象,如上的knn_clf
param_grid:是一个列表,列表里是算法对象的超参数的取值,用字典存储
n_jobs:使用电脑的CPU个数,-1代表全部使用
verbose:每次CV时输出的格式
接下来就用grid_search对象训练数据
1 %%time2 grid_search.fit(X_train,y_train)
训练结果如下
grid_search.best_estimator_
这是取出参数最好的一组对应的分类器
grid_search.best_score_
这是取出最好的超参数组合对应的准确率
grid_search.best_params_
这是取出最好的一组超参数
knn_clf =grid_search.best_estimator_
y_pre=knn_clf.predict(X_test)
knn_clf.score(X_test,y_pre)
用最好的一组超参数的分类器对象去预测测试集,并计算准确率。
如有错误欢迎大家指出,谢谢
python knnsearch_sklearn之KNN详解+GridSearchCV使用方法相关推荐
- sklearn之KNN详解+GridSearchCV使用方法
在了解了KNN的基本原理之后,我们需要学习如何在sklearn中调用KNN算法以及如何用GridSearchCV进行调参 首先导入必要的库以及我们所使用的数据集:iris 1 from sklearn ...
- python的继承用法_【后端开发】python中继承有什么用法?python继承的用法详解
本篇文章给大家带来的内容是关于python中继承有什么用法?python继承的用法详解,有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助. 面向对象三大特征 1.封装:根据职责将属性和方法 ...
- python字典之defaultdict详解
python字典之defaultdict详解 defaultdict为你的字典设定一个默认值或者默认值的数据类型: defaultdict接受一个工厂函数作为参数,如下来构造: dict =defau ...
- Python数据科学-技术详解与商业实践视频教程
Python数据科学-技术详解与商业实践(八大案例) 网盘地址:https://pan.baidu.com/s/13QrR_5Er6LgWCWzSb7qOrQ 提取码:s7vw 备用地址(腾讯微云): ...
- python turtle循环图案-Python内置模块turtle绘图详解
urtle库是Python语言中一个很流行的绘制图像的函数库,想象一个小乌龟,在一个横轴为x.纵轴为y的坐标系原点,(0,0)位置开始,它根据一组函数指令的控制,在这个平面坐标系中移动,从而在它爬行的 ...
- python爬虫入门实例-Python爬虫天气预报实例详解(小白入门)
本文研究的主要是Python爬虫天气预报的相关内容,具体介绍如下. 要求是把你所在城市过去一年的历史数据爬出来. 分析网站 我们可以看到,我们需要的天气数据都是放在图表上的,在切换月份的时候,发现只有 ...
- python 自动化-Python API 自动化实战详解(纯代码)
主要讲如何在公司利用Python 搞API自动化. 1.分层设计思路 dataPool :数据池层,里面有我们需要的各种数据,包括一些公共数据等 config :基础配置 tools : 工具层 co ...
- python序列类型-python序列类型种类详解
python序列类型包括哪三种 python序列类型包括:列表.元组.字典 列表:有序可变序列 创建:userlist = [1,2,3,4,5,6] 修改:userlist[5] = 999 添加: ...
- python流程控制语句-python学习 流程控制语句详解
###################### 分支语句 python3.5 ################ #代码的缩进格式很重要 建议4个空格来控制 #根据逻辑值(True,Flase)判断程序的 ...
最新文章
- StringTokenizer类的使用
- golang 项目的目录结构
- mysql mydumper_mysql数据库备份之mydumper
- golang错误处理(实验楼)
- web前端培训分享Electron之IPC 通信
- 如何通过SQL按内容拆分字段(将一个字段值拆分两个字段)
- 使用SAT研究IBASE hierarchy读取性能
- 重庆大学校友会计算机,资环学院联谊会隆重举行
- 什么命令能把Linux搞死机,Linux常见死机原因
- maven环境、本地仓储配置(下载安装)idea配置maven
- 用java怎么让时间走动起来,java脚本实现时间刷新
- 联想台式计算机驱动程序,联想键盘驱动程序
- mysql begin end 定界符_mysql存储过程BEGIN END复合语句用法示例
- 芒果iOS开发之App Transport Security has blocked a cleartext HTTP (http://) resource load since it is inse
- matplotlib(直方图,条形图,饼图,散点图)基础知识
- Type-C与Type-A、Type-B接口
- 沧海一粟小组(第一次作业)
- python培训班排行榜-长沙python培训机构排名
- 电脑发现感染麻辣香锅恶意软件咋处理?
- 2018全国poi数据下载统计