random_state：

  随机森林的本质是一种装袋集成算法（bagging），装袋集成算法是对基评估器的预测结果进行平均或用多数表决原则来决定集成评估器的结果。在刚才的红酒例子中，我们建立了25棵树，对任何一个样本而言，平均或多数表决原则下，当且仅当有13棵以上的树判断错误的时候，随机森林才会判断错误。单独一棵决策树对红酒数据集的分类准确率在0.85上下浮动，假设一棵树判断错误的可能性为0.2(ε)，那20棵树以上都判断错误的可能性是：

  其中，i是判断错误的次数，也是判错的树的数量，ε是一棵树判断错误的概率，（1-ε）是判断正确的概率，共判对25-i次。

所以随机森林判断错误的几率非常小，这让随机森林在红酒数据集上的表现远远好于单棵决策树。

  sklearn中的分类树DecisionTreeClassififier自带随机性，所以随机森林中的树天生就都是不一样的，决策树从最重要的特征中随机选择出一个特征来进行分枝，因此每次生成的决策树都不一样，这个功能由参数random_state控制。

  随机森林中其实也有random_state，用法和分类树中相似，只不过在分类树中，一个random_state只控制生成一棵树，而随机森林中的random_state控制的是生成森林的模式，而非让一个森林中只有一棵树。

  当random_state固定时，随机森林中生成是一组固定的树，但每棵树依然是不一致的，这是

用”随机挑选特征进行分枝“的方法得到的随机性。并且我们可以证明，当这种随机性越大的时候，袋装法的效果一般会越来越好。用袋装法集成时，基分类器应当是相互独立的，是不相同的。

  但这种做法的局限性是很强的，当我们需要成千上万棵树的时候，数据不一定能够提供成千上万的特征来让我们构筑尽量多尽量不同的树。因此，除了random_state。我们还需要其他的随机性。

  

  要让基分类器尽量都不一样，一种很容易理解的方法是使用不同的训练集来进行训练，而袋装法正是通过有放回的随机抽样技术来形成不同的训练数据，bootstrap就是用来控制抽样技术的参数。

  在一个含有n个样本的原始训练集中，我们进行随机采样，每次采样一个样本，并在抽取下一个样本之前将该样本放回原始训练集，也就是说下次采样时这个样本依然可能被采集到，这样采集n次，最终得到一个和原始训练集一样大的，n个样本组成的自助集。由于是随机采样，这样每次的自助集和原始数据集不同，和其他的采样集也是不同的。这样我们就可以自由创造取之不尽用之不竭，并且互不相同的自助集，用这些自助集来训练我们的基分类器，我们的基分类器自然也就各不相同了。

bootstrap参数默认True，代表采用这种有放回的随机抽样技术。通常，这个参数不会被我们设置为False。

有放回抽样也会有自己的问题。由于是有放回，一些样本可能在同一个自助集中出现多次，而其他一些却可能被忽略，一般来说，自助集大约平均会包含63%的原始数据。

因为每一个样本被抽到某个自助集中的概率为（逆向思维，减去某个样本永远不会被抽到概率）：

  当n足够大时，这个概率收敛于1-(1/e)，约等于0.632。因此，会有约37%的训练数据被浪费掉，没有参与建模，这些数据被称为袋外数据(out of bag data，简写为oob)。除了我们最开始就划分好的测试集之外，这些数据也可以被用来作为集成算法的测试集。也就是说，在使用随机森林时，我们可以不划分测试集和训练集，只需要用袋外数据来测试我们的模型即可。当然，这也不是绝对的，当n和n_estimators都不够大的时候，很可能就没有数据掉落在袋外，自然也就无法使用oob数据来测试模型了。

  如果希望用袋外数据来测试，则需要在实例化时就将oob_score这个参数调整为True，训练完毕之后，我们可以用随机森林的另一个重要属性：oob_score_来查看我们的在袋外数据上测试的结果。

2.2 构建随机森林

在红酒数据集上，随机森林的效果比决策树更好。

from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.datasets import load_winewine=load_wine()
Xtrain,Xtest,Ytrain,Ytest=train_test_split(wine.data,wine.target,test_size=0.3)#实例化
clf=DecisionTreeClassifier()
rfc=RandomForestClassifier()
clf=clf.fit(Xtrain,Ytrain)
rfc.fit(Xtrain,Ytrain)
score_c=clf.score(Xtest,Ytest)
score_r=rfc.score(Xtest,Ytest)
print("Single Tree:{}".format(score_c))
print("Random Forest:{}".format(score_r))

2.3 在交叉验证下比较随机森林和决策树

经过对比，可以发现随机森林的效果确实好于决策树，只有少部分情况下，两者的准确率相同，其他时刻，随机森林都优于决策树。

from matplotlib import colors
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.model_selection import cross_val_score
from sklearn.datasets import load_wineplt.rcParams['font.sans-serif']=['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus']=False #用来正常显示负号wine=load_wine()
Xtrain,Xtest,Ytrain,Ytest=train_test_split(wine.data,wine.target,test_size=0.3)#实例化
rfc=RandomForestClassifier(n_estimators=20) #设定基评估器数量
clf=DecisionTreeClassifier()#进行交叉验证
rfc_s=cross_val_score(rfc,wine.data,wine.target,cv=15)
clf_s=cross_val_score(clf,wine.data,wine.target,cv=15)#绘图
plt.figure(figsize=(20,8),dpi=80)
plt.plot(range(1,16),clf_s,color='blue',label="DecisionTreeClassifier")
plt.plot(range(1,16),rfc_s,color='red',label="RandomForestClassifier")
plt.xlabel('交叉验证次数')
plt.ylabel('准确度')
plt.legend(loc='best')
plt.show()

2.4 绘制n_estimators的学习曲线

from matplotlib import colors
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.model_selection import train_test_split
from sklearn.model_selection import cross_val_score
from sklearn.datasets import load_wineplt.rcParams['font.sans-serif']=['SimHei'] #用来正常显示中文标签
plt.rcParams['axes.unicode_minus']=False #用来正常显示负号wine=load_wine()
Xtrain,Xtest,Ytrain,Ytest=train_test_split(wine.data,wine.target,test_size=0.3)score=[]
for i in range(100):rfc=RandomForestClassifier(n_estimators=i+1)rfc_s=cross_val_score(rfc,wine.data,wine.target,cv=10).mean()score.append(rfc_s)print("最高准确率{} 对应次数{}".format(max(score),score.index(max(score))))
plt.figure(figsize=(20,8),dpi=80)
plt.plot(range(1,101),score)
plt.xlabel('基评估器数量')
plt.ylabel('准确度')
plt.show()

3 随机森林回归器

3.1 随机森林分类器函数及其参数

criterion:

3.2 用随机森林回归填补缺失值

对于一个有n个特征的数据来说，其中特征T有缺失值，我们就把特征T当作标签，其他的n-1个特征和原本的标签组成新的特征矩阵。那对于T来说，它没有缺失的部分，就是我们的Y_test，这部分数据既有标签也有特征，而它缺失的部分，只有特征没有标签，就是我们需要预测的部分。

特征T不缺失的值对应的其他n-1个特征 + 本来的标签：X_train

特征T不缺失的值：Y_train

特征T缺失的值对应的其他n-1个特征 + 本来的标签：X_test

特征T缺失的值：未知，我们需要预测的Y_test

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from pandas.core.frame import DataFrame
from sklearn.datasets import load_boston
from sklearn.impute import SimpleImputer
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import cross_val_scoreboston=load_boston()
# print(boston)
# print(boston.data.shape)#存放完整的数据集，之后会对数据集进行缺失处理再填补，进而和原数据集作比较
x_full,y_full=boston.data,boston.target #存放原始数据及特征
n_samples=x_full.shape[0]#记录完整样本个数
n_features=x_full.shape[1]#记录完整特征个数#为完整数据放入缺失值
#确定缺失值的比例，这里我们假设为50%
rng=np.random.RandomState(0)#确定一种随机模式
missing_rate=0.5
n_missing_samples=int(np.floor(n_samples*n_features*missing_rate))#向下取整，结果缺失数据总数
# print(n_missing_samples)#生成的缺失值要分布在数据的各行各列中
miss_features=rng.randint(0,n_features,n_missing_samples) #3个参数依次为下限 上限 个数
miss_samples=rng.randint(0,n_samples,n_missing_samples)#如果取出的随机数小于样本量 可以采用choice方法
#missing_samples = rng.choice(n_samples,n_missing_samples,replace=False) #从左到右参数为最大值 所需要随机取数的个数 不会重复 保证数据更加分散#创造缺失的数据
#拷贝原始完整数据后进行操作
x_missing=x_full.copy()
y_missing=y_full.copy()
#将完整数据中一部分以缺失值替代
x_missing[miss_samples,miss_features]=np.nan
#转换为dataframe方便进行后续操作
x_missing=DataFrame(x_missing)
# print(x_missing)#使用均值填补缺失值
imp_mean=SimpleImputer(missing_values=np.nan,strategy='mean')#实例化
x_missing_mean = imp_mean.fit_transform(x_missing) #fit_transform 训练+导出predict
#查看填补是否完成
# print(pd.DataFrame(x_missing_mean).isnull().sum())#使用中值填补缺失值
imp_median=SimpleImputer(missing_values=np.nan,strategy='median')#实例化
x_missing_median = imp_median.fit_transform(x_missing) #fit_transform 训练+导出predict
#查看填补是否完成
# print(pd.DataFrame(x_missing_median).isnull().sum())#使用0进行填补
imp_0 = SimpleImputer(missing_values=np.nan, strategy="constant",fill_value=0)
x_missing_0 = imp_0.fit_transform(x_missing)
#查看填补是否完成
# print(pd.DataFrame(x_missing_0).isnull().sum())#使用随机森林填补缺失值
x_missing_reg=x_missing.copy()#复制需要利用回归填补缺失值的矩阵
#找出缺失值从小到大对应特征值排列的顺序 本质是找索引 从缺失最多的开始填充
sortindex=np.argsort(x_missing_reg.isnull().sum(axis=0)).values #argsort返回索引 利用values把数据取出
#遍历填充缺失值
for i in sortindex:#构建新特征矩阵（没有被选中去填充的特征+原始标签）和新标签（被选中去填充的特征）df=x_missing_regfillc=df.iloc[:,i] #新的特征矩阵df=pd.concat([df.iloc[:,df.columns!=i],pd.DataFrame(y_full)],axis=1) #左右连接#在新特征矩阵中，对含有缺失值的列，进行0的填补df_0 =SimpleImputer(missing_values=np.nan,strategy='constant',fill_value=0).fit_transform(df)#找出训练集 测试集Ytrain = fillc[fillc.notnull()] #被选中要填充的特征中的非空Ytest = fillc[fillc.isnull()]     #被选中要填充的特征中，不存在的那些值  我们需要的不是ytest的值，而是其索引Xtrain = df_0[Ytrain.index,:] #在新特征矩阵上，被选出来的非空值所对应的记录Xtest = df_0[Ytest.index,:]    #在新特征矩阵上，被选出来的那个特征空值所对应的记录#利用随机森林填补缺失值rfc = RandomForestRegressor(n_estimators=100)rfc = rfc.fit(Xtrain, Ytrain)Ypredict = rfc.predict(Xtest)#得到预测结果#将填好的特征填入原始特征矩阵x_missing_reg.loc[x_missing_reg.iloc[:,i].isnull(),i]=Ypredict  #先利用iloc找出为nan的行索引# print(x_missing_reg.isnull().sum())#对所有数据进行建模，取得MSE结果
X = [x_full,x_missing_0,x_missing_mean,x_missing_median,x_missing_reg]
mse = []
std = []
for x in X:estimator = RandomForestRegressor()scores = cross_val_score(estimator,x,y_full,scoring='neg_mean_squared_error', cv=5).mean()#使用负的均方误差打分mse.append(scores * -1)#将结果转正
print(*zip(['x_full','x_missing_0','x_missing_mean','x_missing_median','x_missing_reg'],mse))#越小越好#绘图
x_labels = ['Full data','Zero Imputation','Mean Imputation','Median Imputation','Regressor Imputation']
colors = ['r', 'g', 'b','black', 'orange']
plt.figure(figsize=(20, 8),dpi=80)
ax = plt.subplot(111) #添加子图 为后续函数化做准备
for i in np.arange(len(mse)):ax.barh(i, mse[i],color=colors[i], alpha=0.6, align='center') #将条形图横过来  在中央绘制
ax.set_title('Imputation Techniques with Boston Data')
ax.set_xlim(left=np.min(mse) * 0.9,right=np.max(mse) * 1.1)#限定范围 x轴为mse取值
ax.set_yticks(np.arange(len(mse)))#设置y刻度
ax.set_xlabel('MSE')
ax.set_yticklabels(x_labels)#更改y的刻度
plt.show()

4 机器学习调参的基本思想

4.1 相关概念

模型调参，第一步是要找准目标：我们要做什么？一般来说，这个目标是提升某个模型评估指标，比如对于随机森林来说，我们想要提升的是模型在未知数据上的准确率（由score或oob_score_来衡量）。找准了这个目标，我们就需要思考：模型在未知数据上的准确率受什么因素影响？在机器学习中，我们用来衡量模型在未知数据上的准确率的指标，叫做泛化误差（Genelization error）。

  泛化误差的背后其实是“偏差-方差困境”。偏差：模型的预测值与真实值之间的差异。方差：反映的是模型每一次输出结果与模型预测值的平均水平之间的误差。偏差衡量模型是否预测得准确，偏差越小，模型越“准”；而方差衡量模型每次预测的结果是否接近，即是说方差越小，模型越“稳”；

一个好的模型，要对大多数未知数据都预测得”准“又”稳“。即是说，当偏差和方差都很低的时候，模型的泛化误差就小，在未知数据上的准确率就高。

方差和偏差是此消彼长的，不可能同时达到最小值。

  模型复杂度大的时候，方差高，偏差低。偏差低，就是要求模型要预测得“准”。模型就会更努力

去学习更多信息，会具体于训练数据，这会导致，模型在一部分数据上表现很好，在另一部分数据上表现却很糟糕。模型泛化性差，在不同数据上表现不稳定，所以方差就大。而要尽量学习训练集，模型的建立必然更多细节， 复杂程度必然上升。所以，复杂度高，方差高，总泛化误差高。

  相对的，复杂度低的时候，方差低，偏差高。方差低，要求模型预测得“稳”，泛化性更强，那对于模型来说，它就不需要对数据进行一个太深的学习，只需要建立一个比较简单，判定比较宽泛的模型就可以了。结果就是，模型无法在某一类或者某一组数据上达成很高的准确度，所以偏差就会大。所以，复杂度低，偏差高，总泛化误差高。

  我们调参的目标是，达到方差和偏差的完美平衡！虽然方差和偏差不能同时达到最小值，但他们组成的泛化误差却可以有一个最低点，而我们就是要寻找这个最低点。对复杂度大的模型，要降低方差，对相对简单的模型，要降低偏差。随机森林的基评估器都拥有较低的偏差和较高的方差，因为决策树本身是预测比较”准“，比较容易过拟合的模型，装袋法本身也要求基分类器的准确率必须要有50%以上。所以以随机森林为代表的装袋法的训练过程旨在降低方差，即降低模型复杂度，所以随机森林参数的默认设定都是假设模型本身在泛化误差最低点的右边。

  我们在降低复杂度的时候，本质其实是在降低随机森林的方差，随机森林所有的参数，也都是朝着降低方差的目标去。

1）模型太复杂或者太简单，都会让泛化误差高，我们追求的是位于中间的平衡点

2）模型太复杂就会过拟合，模型太简单就会欠拟合

3）对树模型和树的集成模型来说，树的深度越深，枝叶越多，模型越复杂

4）树模型和树的集成模型的目标，都是减少模型复杂度，把模型往图像的左边移动

4.2 实例

查看n_estimators的学习曲线。

在确定好的范围，进一步细化学习曲线。

由于每一次训练集测试集划分的情况不同，所以可能出现细化后的表现不如之前，但是总体而言，细化后的曲线可以提供更为精确的参数选择范围 。确定了基评估器的数量后，进一步使用网格搜索查找其他合适参数。

在调制了max_depth后，模型精确度上升，所以模型在泛化复杂度右边。

调整max_features

max_features是唯一一个即能够将模型往左（低方差高偏差）推，也能够将模型往右（高方差低偏差）推的参数。我们需要根据调参前，模型所在的位置（在泛化误差最低点的左边还是右边）来决定我们要将max_features往哪边调。 现在模型位于图像右侧，我们需要的是更低的复杂度，因此我们应该把max_features往更小的方向调整，可用的特征越少，模型才会越复杂。max_features的默认最小值是sqrt(n_features)，因此我们使用这个值的两倍作为调参范围的最大值。

调整min_samples_leaf

对于min_samples_split和min_samples_leaf,一般是从他们的最小值开始向上增加10或20

面对高维度高样本量数据，如果不放心，也可以直接+50，对于大型数据，可能需要200~300的范围

如果调整的时候发现准确率无论如何都上不来，那可以放心大胆调一个很大的数据，大力限制模型的复杂度

此时min_samples_split反而让准确率下降，所以不设置改参数。

调整random_state

对准确率有所提升。

调整完毕，总结出模型的最佳参数

完整代码如下

from sklearn.datasets import load_breast_cancer
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV
from sklearn.model_selection import cross_val_score
import matplotlib.pyplot as plt
import pandas as pd
import numpy as npdata = load_breast_cancer()#初步估计# scorel = []
# for i in range(0,200,10):
#     rfc=RandomForestClassifier(n_estimators=i+1)
#     score=cross_val_score(rfc,data.data,data.target,cv=10).mean()
#     scorel.append(score)# print(max(scorel),(scorel.index(max(scorel))*10)+1)
# plt.figure(figsize=[20,8],dpi=80)
# plt.plot(range(1,201,10),scorel)
# plt.show()#细化估计# scorel = []
# for i in range(25,36):
#     rfc=RandomForestClassifier(n_estimators=i+1)
#     score=cross_val_score(rfc,data.data,data.target,cv=10).mean()
#     scorel.append(score)
# print(max(scorel),([*range(25,36)][scorel.index(max(scorel))])) #在30-39范围内 取最大值对应的索引
# plt.figure(figsize=[20,8],dpi=80)
# plt.plot(range(25,36),scorel)
# plt.show()#调整max_depth
# param_grid = {'max_depth':np.arange(1, 20, 1)}
# 一般根据数据的大小来进行一个试探，乳腺癌数据很小，所以可以采用1~10，或者1~20这样的试探
# 但对于像digit recognition那样的大型数据来说，我们应该尝试30~50层深度（或许还不足够
#   更应该画出学习曲线，来观察深度对模型的影响# rfc = RandomForestClassifier(n_estimators=32)
# GS = GridSearchCV(rfc,param_grid,cv=10)
# GS.fit(data.data,data.target)
# print(GS.best_params_,GS.best_score_)#调整max_features
#现在模型位于图像右侧 我们需要更低的复杂度
#max_features的默认最小值是sqrt(n_features)，因此我们使用这个值的两倍作为调参范围的最大值。
# param_grid = {'max_features':np.arange(1,10,1)}
# rfc = RandomForestClassifier(n_estimators=32,max_depth=11)
# GS = GridSearchCV(rfc,param_grid,cv=10)
# GS.fit(data.data,data.target)
# print(GS.best_params_,GS.best_score_)#调整min_samples_leaf
#对于min_samples_split和min_samples_leaf,一般是从他们的最小值开始向上增加10或20
#面对高维度高样本量数据，如果不放心，也可以直接+50，对于大型数据，可能需要200~300的范围
#如果调整的时候发现准确率无论如何都上不来，那可以放心大胆调一个很大的数据，大力限制模型的复杂度
# param_grid={'min_samples_leaf':np.arange(1, 1+10, 1)}
# rfc = RandomForestClassifier(n_estimators=32,max_depth=11,max_features=7)
# GS = GridSearchCV(rfc,param_grid,cv=10)
# GS.fit(data.data,data.target)
# print(GS.best_params_,GS.best_score_)#调整random_state
# param_grid={'random_state':np.arange(20,150)}
# rfc = RandomForestClassifier(n_estimators=32,max_depth=11,max_features=7)
# GS = GridSearchCV(rfc,param_grid,cv=10)
# GS.fit(data.data,data.target)
# print(GS.best_params_,GS.best_score_)#确定最终参数
rfc = RandomForestClassifier(n_estimators=39,max_depth=11,max_features=7,random_state=66)
score = cross_val_score(rfc,data.data,data.target,cv=10)
print(score)