EL之Boosting之GB(DTR)：简单回归问题使用梯度提升法(DIY数据集+DTR模型+调两参)

输出结果

设计思路

核心代码

输出结果

1、eps=0.1,treeDepth=1

2、eps=0.1,treeDepth=5

2、eps=0.3,treeDepth=5

设计思路

核心代码

for iTrees in range(numTreesMax):modelList.append(DecisionTreeRegressor(max_depth=treeDepth))modelList[-1].fit(xTrain, residuals)latestInSamplePrediction = modelList[-1].predict(xTrain)residuals = [residuals[i] - eps * latestInSamplePrediction[i] for i in range(len(residuals))]latestOutSamplePrediction = modelList[-1].predict(xTest)predList.append(list(latestOutSamplePrediction))mse = []
allPredictions = []
for iModels in range(len(modelList)):prediction = []for iPred in range(len(xTest)):prediction.append(sum([predList[i][iPred] for i in range(iModels + 1)]) * eps)allPredictions.append(prediction)errors = [(yTest[i] - prediction[i]) for i in range(len(yTest))]mse.append(sum([e * e for e in errors]) / len(yTest))

EL之Boosting之GB(DTR)：简单回归问题使用梯度提升法(DIY数据集+DTR模型+调两参)相关推荐

EL之Boosting之GB(DTR)：利用梯度提升法解决回归(对多变量的数据集+实数值评分预测)问题
EL之Boosting之GB(DTR):利用梯度提升法解决回归(对多变量的数据集+实数值评分预测)问题目录输出结果设计思路核心代码输出结果设计思路核心代码 xList = [] labe ...
EL之Bagging(DTR)：利用DIY数据集(预留30%数据+两种树深)训练Bagging算法(DTR)
EL之Bagging(DTR):利用DIY数据集(预留30%数据+两种树深)训练Bagging算法(DTR) 目录输出结果设计思路核心代码输出结果 1.treeDepth=1 2.treeDe ...
python 梯度提升树_梯度提升方法(Gradient Boosting)算法案例
GradientBoost算法 python实现,该系列文章主要是对<统计学习方法>的实现. 完整的笔记和代码以上传到Github,地址为(觉得有用的话,欢迎Fork,请给作者个Star) ...
EL之GB(GBC)：利用GB对多分类问题进行建模(分层抽样+调1参)并评估
EL之GB(GBC):利用GB对多分类问题进行建模(分层抽样+调1参)并评估目录输出结果设计思路核心代码输出结果 T1. T2. 设计思路核心代码 #T1. nEst = 500 dept ...
EL之GB(GBM)：利用GB对回归(性别属性编码+调2参)问题(整数值年龄预测)建模
EL之GB(GBM):利用GB对回归(性别属性编码+调2参)问题(整数值年龄预测)建模目录输出结果设计思路核心代码输出结果 T1. T2. 设计思路核心代码 #T1 nEst = 2000 ...
EL之Bagging(DTR)：利用Bagging对回归问题(实数值评分预测)建模(调2参)
EL之Bagging(DTR):利用Bagging对回归问题(实数值评分预测)建模(调2参) 目录输出结果设计思路核心代码输出结果设计思路核心代码 bagFract = 1.0 #---- ...
R语言使用caret包构建gbdt模型（随机梯度提升树、Stochastic Gradient Boosting ）构建回归模型、通过method参数指定算法名称
R语言使用caret包构建gbdt模型(随机梯度提升树.Stochastic Gradient Boosting )构建回归模型.通过method参数指定算法名称目录
Boosting、Adaboost、AdaBoost模型的优缺点、提升树、梯度提升树GBDT
Boosting.Adaboost.AdaBoost模型的优缺点.提升树.梯度提升树GBDT 目录 Boosting.Adaboost.AdaBoost模型的优缺点.提升树.梯度提升树GBDT Boo ...
EL之RF(RFR)：利用RandomForestRegressor对回归问题(实数值评分预测)建模(调2参)
EL之RF(RFR):利用RandomForestRegressor对回归问题(实数值评分预测)建模(调2参) 目录输出结果设计思路核心代码输出结果设计思路核心代码 mseOos = [] ...

EL之Boosting之GB(DTR)：简单回归问题使用梯度提升法(DIY数据集+DTR模型+调两参)

输出结果

设计思路

核心代码

EL之Boosting之GB(DTR)：简单回归问题使用梯度提升法(DIY数据集+DTR模型+调两参)相关推荐

最新文章

热门文章