原理:K近邻算法，即是给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例，这K个实例的多数属于某个类，就把该输入实例分类到这个类中。

优点：精度高(计算距离)、对异常值不敏感（单纯根据距离进行分类，会忽略特殊情况）、无数据输入假定　　（不会对数据预先进行判定）。
缺点：时间复杂度高、空间复杂度高。
适用数据范围：数值型和标称型。

#导包
import numpy as np
import pandas  as pd
from pandas import DataFrame,Series
from sklearn.neighbors import KNeighborsClassifier #k邻近算法模型#使用datasets创建数据
import sklearn.datasets as datasets
iris = datasets.load_iris()feature = iris['data']
target = iris['target']#将样本打乱，符合真实情况

np.random.seed(1)
np.random.shuffle(feature)
np.random.seed(1)
np.random.shuffle(target)#训练数据
x_train = feature[:140]
y_train = target[:140]
#测试数据
x_test = feature[-10:]
y_test =target[-10:]#实例化模型对象&训练模型
knn = KNeighborsClassifier(n_neighbors=10)
knn.fit(x_train,y_train)
knn.score(x_train,y_train)print('预测分类：',knn.predict(x_test))
print('真实分类：',y_test)

#导包
import numpy as np
import pandas  as pd
from pandas import DataFrame,Series#手动创建训练数据集
feature = np.array([[170,65,41],[166,55,38],[177,80,39],[179,80,43],[170,60,40],[170,60,38]])
target = np.array(['男','女','女','男','女','女'])from sklearn.neighbors import KNeighborsClassifier #k邻近算法模型#实例k邻近模型，指定k值=3
knn = KNeighborsClassifier(n_neighbors=3)#训练数据
knn.fit(feature,target)#模型评分
knn.score(feature,target)#预测
knn.predict(np.array([[176,71,38]]))

import numpy as np
import pandas as pd
from pandas import DataFrame,Series
import matplotlib.pyplot as pltfrom sklearn.neighbors import KNeighborsClassifier

img=plt.imread('data/0/0_2.bmp')
plt.imshow(img)

feature=[]
target=[]
for i in range(10):for j in range(500):img_arr=plt.imread(f'data/{i}/{i}_{j+1}.bmp')feature.append(img_arr)target.append(i)#构建特征数据格式
feature=np.array(feature)
target=np.array(target)feature.shape #(5000, 28, 28)#输入数据必须是二维数组,必须对feature降维
#(1)降维方式一:mean() (2)降维方式二:reshape()
feature=feature.reshape(5000,28*28)#将样本打乱 (必须使用多个seed)
np.random.seed(5)
np.random.shuffle(feature)
np.random.seed(5)
np.random.shuffle(target)#数据分割为训练数据和测试数据
x_train=feature[:4950]
y_train=target[:4950]
x_test=feature[-50:]
y_test=target[-50:]

#训练模型
knn.fit(x_train,y_train)#评分
knn.score(x_train,y_train)#预测
# knn.predict(x_test)

# 读取图片数据
num_img_arr=plt.imread('../../数字.jpg')
plt.imshow(num_img_arr)

#图片截取数字5
five_arr=num_img_arr[90:158,80:132]
plt.imshow(five_arr)

#降维操作(five数组是三维的，需要进行降维，舍弃第三个表示颜色的维度)
print(five_arr.shape) #(65, 56, 3)
five=five_arr.mean(axis=2)
print(five.shape) #(65, 56)
plt.imshow(five)

# 图片压缩为像素28*28
import scipy.ndimage as ndimage
five = ndimage.zoom(five,zoom = (28/68,28/52))
five.shape #(28, 28)# 压缩后的5的显示
plt.imshow(five)

# 把数据降维为feature 数据格式
five.reshape(1,28*28)

#预测
knn.predict(five.reshape(1,28*28))