利用决策树，KNN和朴素贝叶斯三种分类器，对鸢尾花数据集进行分类。下面是具体的流程和代码：

1、 数据读取：

实验数据是直接加载的sklearn内置的鸢尾花数据集，共150条数据，包含4个特征，而且是一个三分类问题。

from sklearn import datasets #导入方法类

iris = datasets.load_iris() #加载iris数据集

iris_feature = iris.data #加载特征数据

iris_target = iris.target #加载标签数据

2、 划分数据集：

鸢尾花数据集的特征是已经处理好的，所以这里可以跳过数据预处理的步骤，可以直接进行训练预测了。

但是在训练之前，要先把数据集划分成训练集和测试集，划分代码如下所示：

from sklearn.model_selection import train_test_split

##数据集划分

feature_train,feature_test,target_train,target_test = train_test_split(iris_feature,iris_target,test_size=0.33,random_state=42)

其中train_test_split()方法的参数包括：

(1) train_size ：训练集比例

(2) test_size ：测试集比例

(3) random_size ：乱序程度

3、模型训练+预测：

首先是决策树分类器：

from sklearn.tree import DecisionTreeClassifier

dt_model = DecisionTreeClassifier() #所有参数均设置为默认状态

dt_model.fit(feature_train,target_train) #使用训练集训练模型

predict_results_dt = dt_model.predict(feature_test) #使用模型对测试集进行预测

#查看预测结果

from sklearn.metrics import accuracy_score

print("predict_results:",predict_results_dt)

print("target_test:",target_test)

print(accuracy_score(predict_results_dt,target_test))

其中，DecisionTreeClassifier()模型的参数包括：

(1) criterion ：损失函数，包括基尼指数'gini'和熵'entropy'两种

(2) splitter ：确定每个节点的分裂策略，最佳'best'or随机'random'

(3) max_depth ：决策树的最大深度，防止出现过拟合

(4) min_samples_leaf ：叶节点最小样本数量，用于剪枝处理

然后是KNN分类器：

from sklearn.neighbors import KNeighborsClassifier

knn_model = KNeighborsClassifier(n_neighbors=1)

knn_model.fit(feature_train,target_train) #使用训练集训练模型

predict_results_knn = knn_model.predict(feature_test) #使用模型对测试集进行预测

#查看预测结果

print("predict_results:",predict_results_knn)

print("target_test:",target_test)

print(accuracy_score(predict_results_knn,target_test))

其中，KNeighborClassifier的具体参数包括：

(1) n_neighbors ：KNN中的k值,默认值是5

(2) weights ：近邻权，标识每个样本的K个近邻样本的权重，可选’uniform’/‘distance’或自定义权重。

(3) metric ：距离度量方法

最后，朴素贝叶斯分类器：

from sklearn.naive_bayes import GaussianNB

nb_model = GaussianNB() #高斯朴素贝叶斯，参数设置默认状态

nb_model.fit(feature_train,target_train) #使用训练集训练模型

predict_results_nb = nb_model.predict(feature_test) #使用模型对测试集进行预测

#查看预测结果

print("predict_results:",predict_results_nb)

print("target_test:",target_test)

print(accuracy_score(predict_results_nb,target_test))

4、 总结：

很多书中都有拿这个鸢尾花数据分类举例子，算是机器学习中的一个入门的简单小项目。以此来作为我笔记的开始，也希望看到的小伙伴们能够有所收获。

人生，只要照亮某个角落就足够了。