决策树实例-红酒数据集

无参数模型

from sklearn import tree
from sklearn.datasets import load_wine
from sklearn.model_selection import train_test_split
import pandas as pdwine = load_wine()
df1 = pd.concat([pd.DataFrame(wine.data), pd.DataFrame(wine.target)], axis=1)
print(df1)
#查看特征
print(wine.feature_names)
#查看标签
print(wine.target_names)
#分割数据集
x_train, x_test, y_train, y_test = train_test_split(wine.data, wine.target, test_size=0.3)
print(x_train.shape)
print(wine.data.shape)
# 实例化classifier
clf = tree.DecisionTreeClassifier(criterion='entropy')
clf = clf.fit(x_train, y_train)
score = clf.score(x_test, y_test)
print(score)# feature_names 数据集的特征
feature_name=['酒精','苹果酸','灰','灰的碱性','镁','总酚','类黄酮','非黄烷类酚类','花青素','颜色强度','色调','od280/od315稀释葡萄酒','脯氨酸']
import graphviz
dot_data=tree.export_graphviz(clf,feature_names=feature_name,class_names=['琴酒','雪莉','贝尔摩德'],filled=True,rounded=True)
graph=graphviz.Source(dot_data)
graph.render('tree')
print(clf.feature_importances_)
print([*zip(feature_name,clf.feature_importances_)])

参数选择

random_state

clf = tree.DecisionTreeClassifier(criterion='entropy', random_state=30)
clf = clf.fit(x_train, y_train)
score = clf.score(x_test, y_test)
print(score)

splitter

#splitter有best,random两种参数
#best：模型会优先选择较为重要的特征进行分支
#random:分支随机选择,树会更深,降低过拟合
clf = tree.DecisionTreeClassifier(criterion='entropy', random_state=30,splitter='random')
clf = clf.fit(x_train, y_train)
score = clf.score(x_test, y_test)
print(score)# feature_names 数据集的特征
feature_name=['酒精','苹果酸','灰','灰的碱性','镁','总酚','类黄酮','非黄烷类酚类','花青素','颜色强度','色调','od280/od315稀释葡萄酒','脯氨酸']
import graphviz
dot_data=tree.export_graphviz(clf,feature_names=feature_name,class_names=['琴酒','雪莉','贝尔摩德'],filled=True,rounded=True)
graph=graphviz.Source(dot_data)
graph.render('tree')

剪枝策略

max_depth：限制深度

min_samples_leaf：每个叶子节点包含的最少样本数

min_samples_split至少包括多少个训练样本才允许分支

clf = tree.DecisionTreeClassifier(criterion='entropy', random_state=30,splitter='random', max_depth=3, min_samples_leaf=10,min_samples_split=10)
clf = clf.fit(x_train, y_train)
score = clf.score(x_test, y_test)
print(score)

超参数学习曲线

通过图像更加直观反映max_depth对结果的影响，确定调参区间

import matplotlib.pyplot as plttest = []
for i in range(10):clf = tree.DecisionTreeClassifier(criterion='entropy',max_depth=i+1, random_state=30,splitter='random')clf = clf.fit(x_train, y_train)score = clf.score(x_test, y_test)test.append(score)
plt.plot(range(1,11),test,color='r',label='max_depth')
plt.legend()
plt.show()
# apply返回每个测试样本所在的叶子节点索引
print(clf.apply(x_test))
# predict返回每个测试样本的分类/回归结果
print(clf.predict(x_test))

参考

https://www.bilibili.com/video/BV1sb411c7S6

决策树实例load_wine数据集相关推荐

Embrapa酿酒葡萄实例分割数据集-Embrapa WGISD
Embrapa酿酒葡萄实例分割数据集-Embrapa WGISD 数据集目的描述组成链接数据集点击下载数据集目的研究基于图像监控和葡萄栽培现场机器人的目标检测和实例分割.它提供了五个不 ...
【机器学习】决策树案例二：利用决策树进行鸢尾花数据集分类预测
利用决策树进行鸢尾花数据集分类预测 2 利用决策树进行鸢尾花数据集分类预测 2.1 导入模块与加载数据 2.2 划分数据 2.3 模型创建与应用 2.4 模型可视化手动反爬虫,禁止转载: 原博地址 ...
化学实验室自动化 - 1. 深度学习视觉检测（实例分割） - COCO格式的化学实验室常见物体实例分割数据集制作
前言随着自动化.智能化技术在各行各业获得了广泛应用,化学实验室领域也不可避免的迎来了变革.视觉检测是自动化和智能化的基础,本文将介绍化学实验室常见物体的COCO格式的实例分割数据集的制作方法,后续将 ...
1.决策树实例：泰坦尼克号幸存者的预测
决策树文章目录决策树 1.概述 1.1决策树是如何工作的 2 DecisionTreeClassififier与红酒数据集 2.1重要参数 2.1.1 criterion 2.1.2 random ...
【10月31日】机器学习实战（二）决策树：隐形眼镜数据集
决策树的优点:计算的复杂度不高,输出的结果易于理解,对中间值的确实不敏感,可以处理不相关的特征数据决策树的缺点:可能会产生过度匹配的问题. 其本质的思想是通过寻找区分度最好的特征(属性),用于支持分 ...
python决策树实例_Python机器学习之决策树算法实例详解
本文实例讲述了Python机器学习之决策树算法.分享给大家供大家参考,具体如下: 决策树学习是应用最广泛的归纳推理算法之一,是一种逼近离散值目标函数的方法,在这种方法中学习到的函数被表示为一棵决策树. ...
决策树实例之预测隐形眼镜类型
本节我们将通过一个例子讲解决策树如何预测患者需要佩戴的隐形眼镜类别,使用小数据集,我们就可以利用决策树学到很多知识使用决策树预测隐形眼镜类型收集数据:提供的文本文件准备数据:解析tab键分隔的数 ...
【机器学习实战】使用sklearn中的决策树对红酒数据集进行分类（Jupyter）
1. sklearn中的决策树 2. sklearn基本建模流程 3.决策树的基本流程 4.代码实现 4.1 数据集 -- 红酒特征值(前13列) 目标值(3类) 4.2 代码及结果 4.2.1 预 ...
Facebook 开源高质量实例分割数据集 LVIS
acebook 近日开源了一个具有高质量实例分割的数据集,LVIS.v0.5 包含了用于训练以及验证的 82k 图像中的 1230 个对象类别,注释有超过 700k 的分割掩码.即将到来的 ICCV ...

决策树实例load_wine数据集

决策树实例-红酒数据集

无参数模型

参数选择

random_state

splitter

剪枝策略

max_depth：限制深度

min_samples_leaf：每个叶子节点包含的最少样本数

min_samples_split至少包括多少个训练样本才允许分支

超参数学习曲线

参考

决策树实例load_wine数据集相关推荐

最新文章

热门文章