《scikit-learn》决策树之回归树

今天我们来看看怎么使用回归树，其实大致流程还是跟决策树一样的，只不过我们今天要使用的是tree.DecisionTreeRegressor这个类。

1：加载数据
由于是要做回归，因此我们需要连续的数据，比如拿波士顿房价距离。

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn import tree
import graphvizboston = load_boston()   #这里使用boston数据集
print(boston.data.shape)
print(boston.target.shape)
print(boston.feature_names)  # 所有特征属性的名称data_train, data_test, target_train, target_test = train_test_split(boston.data, boston.target, test_size=0.3)
print(data_train.shape)
print(target_train.shape)
print(data_test.shape)
print(target_test.shape)

2：实例化回归树模型，进行训练

# 训练模型，用score对训练好的模型用测试数据进行评估。
regressor = tree.DecisionTreeRegressor(criterion='mse',random_state=0,min_samples_leaf=2,min_samples_split=10)
regressor = regressor.fit(data_train, target_train)  # 用训练数据和标签，进行训练。简单的就这么简单就训练出了模型。
score = regressor.score(data_test, target_test)  # R平方评估
print(score)

如果觉得不过瘾，想看看到底运行成功咋样，我们使用predict函数来进行预测。

# 单独挑前10个数据进行预测试一试，拎出来看看效果。
print(target_test[0:10])
predict = regressor.predict(data_test)  # 返回每个测试样本分类/回归的结果
print(predict[0:10])

从这里我们可以看到实际对数据的回归预测

3：模型回归树的可视化

# 把这棵树clf进行图像化，让人看着更加清晰
dot_data = tree.export_graphviz(regressor,  # 决策树本身feature_names=boston.feature_names,  # 特征名称filled=True,  # 给图形填充颜色rounded=True  # 图形的节点是圆角矩形)
graph = graphviz.Source(dot_data)
graph.view(filename='reg.png', cleanup=True)

如下图：

将上面的代码连起来就是完整实例代码咯。

《scikit-learn》决策树之回归树相关推荐

机器学习 | 决策树之回归树
机器学习 | 决策树之回归树上文提到决策树不仅可用于分类,还可进行回归,本文将继续记录回归决策树. 文章目录机器学习 | 决策树之回归树前言一.回归树的构建方法二.递归二分法三.回归树的剪 ...
CART分类决策树、回归树和模型树算法详解及Python实现
机器学习经典算法详解及Python实现–CART分类决策树.回归树和模型树摘要: Classification And Regression Tree(CART)是一种很重要的机器学习算法,既可以用 ...
决策树-CART回归树
1.什么是CART? CART,又名分类回归树,是在ID3的基础上进行优化的决策树,学习CART记住以下几个关键点: (1)CART既能是分类树,又能是分类树: (2)当CART是分类树时,采用GIN ...
决策树与回归树区别到底在哪
前面讲了几节决策树从底层的构造原理,更多的是面向分类的决策树,从树的用途上讲还有一种用途,那就是回归树,结构也是树,但是出来的结果是回归值.可能很多人不用回归树做任务的时候很少去管回归树,以至于有时候 ...
机器学习-决策树之回归树python实战（预测泰坦尼克号幸存情况）（三）
本文用通俗易懂的方式来讲解分类树中的回归树,并以"一维回归的图像绘制"和"泰坦尼克号幸存者预测"两个例子来说明该算法原理. 以下是本文大纲: 1 Decisio ...
经典算法详解--CART分类决策树、回归树和模型树
Classification And Regression Tree(CART)是一种很重要的机器学习算法,既可以用于创建分类树(Classification Tree),也可以用于创建回归树(Reg ...
机器学习十大算法之-CART分类决策树、回归树和模型树
转载(http://blog.163.com/zhoulili1987619@126/blog/static/35308201201542731455261/) Classification And ...
机器学习笔记——决策树之回归树
(参考资料:菜菜的sklearn) 重要参数,属性及接口 criterion 1)输入"mse"使用均方误差mean squared error(MSE),父节点和叶子节点之间的均 ...
机器学习（8）sklearn画决策树（回归树）
目录一.DecisionTreeRegressor 1.criterion 2.接口 3.交叉验证二.用sklearn画回归树(基于波士顿房价训练模型) 1.导入库 2.训练模型 3.用Graph ...

《scikit-learn》决策树之回归树

《scikit-learn》决策树之回归树相关推荐

最新文章

热门文章