文章目录

  • 一、线性回归简介
    • 1. 线性回归应用场景
    • 2. 什么是线性回归
      • 2.1 定义与公式
      • 2.2 线性回归的特征与目标的关系分析
    • 3. 小结
  • 二、线性回归api初步使用
    • 1. 线性回归API
    • 2. 举例
      • 2.1 步骤分析
      • 2.2 代码过程
    • 3. 小结
  • 三、线性回归的损失和优化
    • 1. 损失函数
    • 2. 优化算法
      • 2.1 正规方程
        • 2.1.1 什么是正规方程
        • 2.1.2 正规方程求解举例
        • 2.1.3 正规方程的推导
      • 2.2 梯度下降(Gradient Descent)
        • 2.2.1 什么是梯度下降
        • 2.2.2 梯度的概念
        • 2.2.3 梯度下降举例
          • 1. 单变量函数的梯度下降
          • 2.多变量函数的梯度下降
        • 2.2.4 梯度下降（Gradient Descent）公式
    • 3. 梯度下降和正规方程的对比
      • 3.1 两种方法对比
      • 3.2 算法选择依据：
  • 四、线性回归api再介绍
  • 五、案例：波士顿房价预测
    • 1. 案例背景介绍
    • 2. 案例分析
    • 3. 回归性能评估
    • 4. 代码实现
      • 4.1 正规方程
      • 4.2 梯度下降法
    • 5. 小结
  • 六、欠拟合和过拟合
    • 1. 定义
    • 2. 原因以及解决办法
    • 3. 正则化
      • 3.1 什么是正则化
      • 3.2 正则化类别
  • 七、正则化线性模型
    • 1. Ridge Regression (岭回归，又名 Tikhonov regularization)
    • 2. Lasso Regression(Lasso 回归)
    • 3. Elastic Net (弹性网络)
    • 4. Early Stopping [了解]
  • 八、线性回归的改进-岭回归
    • 1. API
    • 2. 观察正则化程度的变化，对结果的影响？
    • 3. 波士顿房价预测
    • 4. 小结

一、线性回归简介

1. 线性回归应用场景

  • 房价预测

  • 销售额度预测

  • 贷款额度预测

举例：

2. 什么是线性回归

2.1 定义与公式

线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。

  • 特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归

  • 线性回归用矩阵表示举例

那么怎么理解呢？我们来看几个例子

  • 期末成绩：0.7×考试成绩+0.3×平时成绩
  • 房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率

上面两个例子，我们看到特征值与目标值之间建立了一个关系，这个关系可以理解为线性模型。

2.2 线性回归的特征与目标的关系分析

线性回归当中主要有两种模型，一种是线性关系，另一种是非线性关系。在这里我们只能画一个平面更好去理解，所以都用单个特征或两个特征举例子。

  • 线性关系

    • 单变量线性关系：

    • 多变量线性关系

注释：单特征与目标值的关系呈直线关系，或者两个特征与目标值呈现平面的关系
更高维度的我们不用自己去想，记住这种关系即可

  • 非线性关系

注释：为什么会这样的关系呢？原因是什么？
如果是非线性关系，那么回归方程可以理解为：
w1x1+w2x22+w3x32w_1x_1+w_2x_2^2+w_3x_3^2w1​x1​+w2​x22​+w3​x32​

3. 小结

  • 线性回归的定义【了解】

    • 利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式
  • 线性回归的分类【知道】
    • 线性关系
    • 非线性关系

二、线性回归api初步使用

1. 线性回归API

  • sklearn.linear_model.LinearRegression()

    • LinearRegression.coef_：回归系数

2. 举例

2.1 步骤分析

1.获取数据集
2.数据基本处理（该案例中省略）
3.特征工程（该案例中省略）
4.机器学习
5.模型评估（该案例中省略）

2.2 代码过程

  • 导入模块
from sklearn.linear_model import LinearRegression
  • 构造数据集
x = [[80, 86],
[82, 80],
[85, 78],
[90, 90],
[86, 82],
[82, 90],
[78, 80],
[92, 94]]
y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]
  • 机器学习-- 模型训练
# 实例化API
estimator = LinearRegression()
# 使用fit方法进行训练
estimator.fit(x,y)estimator.coef_estimator.predict([[100, 80]])

3. 小结

  • sklearn.linear_model.LinearRegression()

    • LinearRegression.coef_：回归系数

三、线性回归的损失和优化

假设刚才的房子例子，真实的数据之间存在这样的关系：

真实关系：真实房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率

那么现在呢，我们随意指定一个关系（猜测）

随机指定关系：预测房子价格 = 0.25×中心区域的距离 + 0.14×城市一氧化氮浓度 + 0.42×自住房平均房价 + 0.34×城镇犯罪率

请问这样的话，会发生什么？真实结果与我们预测的结果之间是不是存在一定的误差呢？类似这样样子

既然存在这个误差，那我们就将这个误差给衡量出来

1. 损失函数

总损失定义为：

  • yi为第i个训练样本的真实值
  • h(xi)为第i个训练样本特征值组合预测函数
  • 又称最小二乘法

如何去减少这个损失，使我们预测的更加准确些？既然存在了这个损失，我们一直说机器学习有自动学习的功能，在线性回归这里更是能够体现。这里可以通过一些优化方法去优化（其实是数学当中的求导功能）回归的总损失！！！

2. 优化算法

如何去求模型当中的W，使得损失最小？（目的是找到最小损失对应的W值）

  • 线性回归经常使用的两种优化算法

    • 正规方程
    • 梯度下降法
      ​

2.1 正规方程

2.1.1 什么是正规方程

w=(XTX)−1XTyw=(X^TX)^{-1}X^Tyw=(XTX)−1XTy

理解：X为特征值矩阵，y为目标值矩阵。直接求到最好的结果
缺点：当特征过多过复杂时，求解速度太慢并且得不到结果

2.1.2 正规方程求解举例

以下表示数据为例：

即：

运用正规方程方法求解参数：

2.1.3 正规方程的推导

推导方式一：
把该损失函数转换成矩阵写法：

其中y是真实值矩阵，X是特征值矩阵，w是权重矩阵

对其求解关于w的最小值，起止y,X 均已知二次函数直接求导，导数为零的位置，即为最小值。

求导：

注：式(1)到式(2)推导过程中, X是一个m行n列的矩阵，并不能保证其有逆矩阵，但是右乘XT把其变成一个方阵，保证其有逆矩阵。

式（5）到式（6）推导过程中，和上类似。

2.2 梯度下降(Gradient Descent)

2.2.1 什么是梯度下降

梯度下降法的基本思想可以类比为一个下山的过程。

假设这样一个场景：

一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。

因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。

具体来说就是，以他当前的所处的位置为基准，寻找这个位置最陡峭的地方，然后朝着山的高度下降的地方走，（同理，如果我们的目标是上山，也就是爬到山顶，那么此时应该是朝着最陡峭的方向往上走）。然后每走一段距离，都反复采用同一个方法，最后就能成功的抵达山谷。

梯度下降的基本过程就和下山的场景很类似。

首先，我们有一个可微分的函数。这个函数就代表着一座山。

我们的目标就是找到这个函数的最小值，也就是山底。

根据之前的场景假设，最快的下山的方式就是找到当前位置最陡峭的方向，然后沿着此方向向下走，对应到函数中，就是找到给定点的梯度 ，然后朝着梯度相反的方向，就能让函数值下降的最快！因为梯度的方向就是函数值变化最快的方向。 所以，我们重复利用这个方法，反复求取梯度，最后就能到达局部的最小值，这就类似于我们下山的过程。而求取梯度就确定了最陡峭的方向，也就是场景中测量方向的手段。

2.2.2 梯度的概念

梯度是微积分中一个很重要的概念

  • 在单变量的函数中，梯度其实就是函数的微分，代表着函数在某个给定点的切线的斜率；

  • 在多变量函数中，梯度是一个向量，向量有方向，梯度的方向就指出了函数在给定点的上升最快的方向；

在微积分里面，对多元函数的参数求∂偏导数，把求得的各个参数的偏导数以向量的形式写出来，就是梯度。

这也就说明了为什么我们需要千方百计的求取梯度！我们需要到达山底，就需要在每一步观测到此时最陡峭的地方，梯度就恰巧告诉了我们这个方向。梯度的方向是函数在给定点上升最快的方向，那么梯度的反方向就是函数在给定点下降最快的方向，这正是我们所需要的。所以我们只要沿着梯度的反方向一直走，就能走到局部的最低点！

2.2.3 梯度下降举例

1. 单变量函数的梯度下降

我们假设有一个单变量的函数 ：J(θ)=θ2J(θ) = θ^2J(θ)=θ2

函数的微分：J′(θ)=2θJ'(θ) = 2θJ′(θ)=2θ

初始化，起点为： θ0=1θ^0 = 1θ0=1

学习率：α=0.4α = 0.4α=0.4

我们开始进行梯度下降的迭代计算过程:

如图，经过四次的运算，也就是走了四步，基本就抵达了函数的最低点，也就是山底

2.多变量函数的梯度下降

我们假设有一个目标函数 ：J(θ)=θ12+θ22J(θ) = θ1^2 + θ2^2J(θ)=θ12+θ22

现在要通过梯度下降法计算这个函数的最小值。我们通过观察就能发现最小值其实就是 (0，0)点。但是接下 来，我们会从梯度下降算法开始一步步计算到这个最小值! 我们假设初始的起点为: θ0 = (1, 3)

初始的学习率为:α=0.1α = 0.1α=0.1

函数的梯度为:∇J(θ)=<2θ1,2θ2>\nabla J(θ) =< 2θ_1 ,2θ_2>∇J(θ)=<2θ1​,2θ2​>

进行多次迭代:

我们发现，已经基本靠近函数的最小值点

2.2.4 梯度下降（Gradient Descent）公式

θi+1=θi−α∂∂θiJ(θ)\theta_{i+1}=\theta_i-{ \alpha { {\partial } \over {\partial \theta_i}} J(\theta) }θi+1​=θi​−α∂θi​∂​J(θ)

1) α是什么含义？

α在梯度下降算法中被称作为学习率或者步长，意味着我们可以通过α来控制每一步走的距离，以保证不要步子跨的太大扯着蛋，哈哈，其实就是不要走太快，错过了最低点。同时也要保证不要走的太慢，导致太阳下山了，还没有走到山下。所以α的选择在梯度下降法中往往是很重要的！α不能太大也不能太小，太小的话，可能导致迟迟走不到最低点，太大的话，会导致错过最低点！

2) 为什么梯度要乘以一个负号？
梯度前加一个负号，就意味着朝着梯度相反的方向前进！我们在前文提到，梯度的方向实际就是函数在此点上升最快的方向！而我们需要朝着下降最快的方向走，自然就是负的梯度的方向，所以此处需要加上负号

我们通过两个图更好理解梯度下降的过程

所以有了梯度下降这样一个优化算法，回归就有了"自动学习"的能力

优化动态图演示

3. 梯度下降和正规方程的对比

3.1 两种方法对比

梯度下降 正规方程
需要选择学习率 不需要
需要迭代求解 一次运算得出
特征数量较大可以使用 需要计算方程，时间复杂度高O(n3)

经过前面的介绍，我们发现最小二乘法适用简洁高效，比梯度下降这样的迭代法似乎方便很多。但是这里我们就聊聊最小二乘法的局限性。

  • 首先，最小二乘法需要计算XTXX^TXXTX的逆矩阵，有可能它的逆矩阵不存在，这样就没有办法直接用最小二乘法了。

    • 此时就需要使用梯度下降法。当然，我们可以通过对样本数据进行整理，去掉冗余特征。让XTXX^TXXTX的行列式不为0，然后继续使用最小二乘法。

  • 第二，当样本特征n非常的大的时候，计算XTXX^TXXTX​​的逆矩阵是一个非常耗时的工作（nxn的矩阵求逆），甚至不可行。

    • 此时以梯度下降为代表的迭代法仍然可以使用。
    • 那这个n到底多大就不适合最小二乘法呢？如果你没有很多的分布式大数据计算资源，建议超过10000个特征就用迭代法吧。或者通过主成分分析降低特征的维度后再用最小二乘法。

  • 第三，如果拟合函数不是线性的，这时无法使用最小二乘法，需要通过一些技巧转化为线性才能使用，此时梯度下降仍然可以用。

  • 第四，以下特殊情况，。

    • 当样本量m很少，小于特征数n的时候，这时拟合方程是欠定的，常用的优化方法都无法去拟合数据。
    • 当样本量m等于特征数n的时候，用方程组求解就可以了。
    • 当m大于n时，拟合方程是超定的，也就是我们常用与最小二乘法的场景了。

3.2 算法选择依据：

  • 小规模数据：

    • 正规方程：LinearRegression(不能解决拟合问题)
    • 岭回归
  • 大规模数据：
    • 梯度下降法：SGDRegressor

经过前面介绍，我们发现在真正的开发中，我们使用梯度下降法偏多（深度学习中更加明显）。

四、线性回归api再介绍

  • sklearn.linear_model.LinearRegression(fit_intercept=True)

    • 通过正规方程优化
    • 参数
      • fit_intercept：是否计算偏置
    • 属性
      • LinearRegression.coef_：回归系数
      • LinearRegression.intercept_：偏置
  • sklearn.linear_model.SGDRegressor(loss=“squared_loss”, fit_intercept=True, learning_rate =‘invscaling’, eta0=0.01)
    • SGDRegressor类实现了随机梯度下降学习，它支持不同的loss函数和正则化惩罚项来拟合线性回归模型。
    • 参数：
      • loss:损失类型

        • loss=”squared_loss”: 普通最小二乘法
      • fit_intercept：是否计算偏置
      • learning_rate : string, optional
        • 学习率填充
        • ‘constant’: eta = eta0
        • ‘optimal’: eta = 1.0 / (alpha * (t + t0))
        • ‘invscaling’: eta = eta0 / pow(t, power_t) [default]
        • power_t=0.25:存在父类当中
        • 对于一个常数值的学习率来说，可以使用learning_rate=’constant’ ，并使用eta0来指定学习率。
    • 属性：
      • SGDRegressor.coef_：回归系数
      • SGDRegressor.intercept_：偏置

sklearn提供给我们两种实现的API， 可以根据选择使用

小结

  • 正规方程

    • sklearn.linear_model.LinearRegression()
  • 梯度下降法
    • sklearn.linear_model.SGDRegressor(）

五、案例：波士顿房价预测

1. 案例背景介绍

数据介绍

给定的这些特征，是专家们得出的影响房价的结果属性。我们此阶段不需要自己去探究特征是否有用，只需要使用这些特征。到后面量化很多特征需要我们自己去寻找

2. 案例分析

回归当中的数据大小不一致，是否会导致结果影响较大。所以需要做标准化处理。

  • 数据分割与标准化处理
  • 回归预测
  • 线性回归的算法效果评估

3. 回归性能评估

均方误差(Mean Squared Error)MSE)评价机制：

注：yiy^iyi为预测值，y‾\overline{y}y​为真实值

思考：MSE和最小二乘法的区别是？
MSE是用来评估训练后的模型的效果的，是在测试集的进行的，而最小二乘法是损失函数，是用来训练模型的，用在训练集上。

  • sklearn.metrics.mean_squared_error(y_true, y_pred)

    • 均方误差回归损失
    • y_true:真实值
    • y_pred:预测值
    • return:浮点数结果

4. 代码实现

4.1 正规方程

def linear_model1():"""线性回归:正规方程:return:None"""# 1.获取数据data = load_boston()# 2.数据集划分x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)# 3.特征工程-标准化transfer = StandardScaler()x_train = transfer.fit_transform(x_train)x_test = transfer.fit_transform(x_test)# 4.机器学习-线性回归(正规方程)estimator = LinearRegression()estimator.fit(x_train, y_train)# 5.模型评估# 5.1 获取系数等值y_predict = estimator.predict(x_test)print("预测值为:\n", y_predict)print("模型中的系数为:\n", estimator.coef_)print("模型中的偏置为:\n", estimator.intercept_)# 5.2 评价# 均方误差error = mean_squared_error(y_test, y_predict)print("误差为:\n", error)return None

4.2 梯度下降法

def linear_model2():"""线性回归:梯度下降法:return:None"""# 1.获取数据data = load_boston()# 2.数据集划分x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)# 3.特征工程-标准化transfer = StandardScaler()x_train = transfer.fit_transform(x_train)x_test = transfer.fit_transform(x_test)# 4.机器学习-线性回归(特征方程)estimator = SGDRegressor(max_iter=1000)estimator.fit(x_train, y_train)# 5.模型评估# 5.1 获取系数等值y_predict = estimator.predict(x_test)print("预测值为:\n", y_predict)print("模型中的系数为:\n", estimator.coef_)print("模型中的偏置为:\n", estimator.intercept_)# 5.2 评价# 均方误差error = mean_squared_error(y_test, y_predict)print("误差为:\n", error)return None

我们也可以尝试去修改学习率

estimator = SGDRegressor(max_iter=1000,learning_rate="constant",eta0=0.1)

此时我们可以通过调参数，找到学习率效果更好的值。

5. 小结

  • 正规方程和梯度下降法api在真实案例中的使用【知道】
  • 线性回归性能评估【知道】
    • 均方误差

六、欠拟合和过拟合

1. 定义

  • 过拟合：一个假设在训练数据上能够获得比其他假设更好的拟合， 但是在测试数据集上却不能很好地拟合数据，此时认为这个假设出现了过拟合的现象。(模型过于复杂)
  • 欠拟合：一个假设在训练数据上不能获得更好的拟合，并且在测试数据集上也不能很好地拟合数据，此时认为这个假设出现了欠拟合的现象。(模型过于简单)

那么是什么原因导致模型复杂？线性回归进行训练学习的时候变成模型会变得复杂，这里就对应前面再说的线性回归的两种关系，非线性关系的数据，也就是存在很多无用的特征或者现实中的事物特征跟目标值的关系并不是简单的线性关系。

2. 原因以及解决办法

  • 欠拟合原因以及解决办法

    • 原因：学习到数据的特征过少
    • 解决办法：
      • 1）添加其他特征项，有时候我们模型出现欠拟合的时候是因为特征项不够导致的，可以添加其他特征项来很好地解决。例如，“组合”、“泛化”、“相关性”三类特征是特征添加的重要手段，无论在什么场景，都可以照葫芦画瓢，总会得到意想不到的效果。除上面的特征之外，“上下文特征”、“平台特征”等等，都可以作为特征添加的首选项。
      • 2）添加多项式特征，这个在机器学习算法里面用的很普遍，例如将线性模型通过添加二次项或者三次项使模型泛化能力更强。
  • 过拟合原因以及解决办法
    • 原因：原始特征过多，存在一些嘈杂特征， 模型过于复杂是因为模型尝试去兼顾各个测试数据点
    • 解决办法：
      • 1）重新清洗数据，导致过拟合的一个原因也有可能是数据不纯导致的，如果出现了过拟合就需要我们重新清洗数据。
      • 2）增大数据的训练量，还有一个原因就是我们用于训练的数据量太小导致的，训练数据占总数据的比例过小。
      • 3）正则化
      • 4）减少特征维度，防止维灾难

3. 正则化

3.1 什么是正则化

在解决回归过拟合中，我们选择正则化。但是对于其他机器学习算法如分类算法来说也会出现这样的问题，除了一些算法本身作用之外（决策树、神经网络），我们更多的也是去自己做特征选择，包括之前说的删除、合并一些特征

如何解决？

在学习的时候，数据提供的特征有些影响模型复杂度或者这个特征的数据点异常较多，所以算法在学习的时候尽量减少这个特征的影响（甚至删除某个特征的影响），这就是正则化

注：调整时候，算法并不知道某个特征影响，而是去调整参数得出优化的结果

3.2 正则化类别

  • L2正则化

    • 作用：可以使得其中一些W的都很小，都接近于0，削弱某个特征的影响
    • 优点：越小的参数说明模型越简单，越简单的模型则越不容易产生过拟合现象
    • Ridge回归（岭回归）
  • L1正则化
    • 作用：可以使得其中一些W的值直接为0，删除这个特征的影响
    • LASSO回归

七、正则化线性模型

  • Ridge Regression 岭回归
  • Lasso 回归
  • Elastic Net 弹性网络
  • Early stopping

1. Ridge Regression (岭回归，又名 Tikhonov regularization)

岭回归是线性回归的正则化版本，即在原来的线性回归的 cost function 中添加正则项（regularization term）:

α∑i=1nθi2\alpha \sum_{i=1}^n \theta_i^2αi=1∑n​θi2​

以达到在拟合数据的同时，使模型权重尽可能小的目的,岭回归代价函数:

  • α=0α=0α=0：岭回归退化为线性回归

2. Lasso Regression(Lasso 回归)

Lasso 回归是线性回归的另一种正则化版本，正则项为权值向量的ℓ1ℓ1ℓ1范数。

Lasso回归的代价函数 ：

【注意】

  • Lasso Regression 的代价函数在 θi=0处是不可导的.
  • 解决方法：在θi=0θ_i=0θi​=0处用一个次梯度向量(subgradient vector)代替梯度，如下式
  • Lasso Regression 的次梯度向量

Lasso Regression 有一个很重要的性质是：倾向于完全消除不重要的权重。

例如：当α 取值相对较大时，高阶多项式退化为二次甚至是线性：高阶多项式特征的权重被置为0。

也就是说，Lasso Regression 能够自动进行特征选择，并输出一个稀疏模型（只有少数特征的权重是非零的）。

3. Elastic Net (弹性网络)

弹性网络在岭回归和Lasso回归中进行了折中，通过 混合比(mix ratio) r 进行控制：

  • r=0：弹性网络变为岭回归
  • r=1：弹性网络便为Lasso回归
    弹性网络的代价函数 ：

一般来说，我们应避免使用朴素线性回归，而应对模型进行一定的正则化处理，那如何选择正则化方法呢？

小结：

  • 常用：岭回归

  • 假设只有少部分特征是有用的：

    • 弹性网络
    • Lasso
    • 一般来说，弹性网络的使用更为广泛。因为在特征维度高于训练样本数，或者特征是强相关的情况下，Lasso回归的表现不太稳定。

  • api:

    • from sklearn.linear_model import Ridge, ElasticNet, Lasso

4. Early Stopping [了解]

Early Stopping 也是正则化迭代学习的方法之一。

其做法为：在验证错误率达到最小值的时候停止训练。

八、线性回归的改进-岭回归

1. API

  • sklearn.linear_model.Ridge(alpha=1.0, fit_intercept=True,solver=“auto”, normalize=False)

    • 具有l2正则化的线性回归
    • alpha:正则化力度，也叫 λ
      • λ取值：0~1 1~10
    • solver:会根据数据自动选择优化方法
      • sag:如果数据集、特征都比较大，选择该随机梯度下降优化
    • normalize:数据是否进行标准化
      • normalize=False:可以在fit之前调用preprocessing.StandardScaler标准化数据
    • Ridge.coef_:回归权重
    • Ridge.intercept_:回归偏置

Ridge方法相当于SGDRegressor(penalty=‘l2’, loss=“squared_loss”),只不过SGDRegressor实现了一个普通的随机梯度下降学习，推荐使用Ridge(实现了SAG)

  • sklearn.linear_model.RidgeCV(_BaseRidgeCV, RegressorMixin)

    • 具有l2正则化的线性回归，可以进行交叉验证
    • coef_:回归系数
class _BaseRidgeCV(LinearModel):def __init__(self, alphas=(0.1, 1.0, 10.0),fit_intercept=True, normalize=False,scoring=None,cv=None, gcv_mode=None,store_cv_values=False):

2. 观察正则化程度的变化，对结果的影响？

  • 正则化力度越大，权重系数会越小
  • 正则化力度越小，权重系数会越大

3. 波士顿房价预测

def linear_model3():"""线性回归:岭回归:return:"""# 1.获取数据data = load_boston()# 2.数据集划分x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)# 3.特征工程-标准化transfer = StandardScaler()x_train = transfer.fit_transform(x_train)x_test = transfer.fit_transform(x_test)# 4.机器学习-线性回归(岭回归)estimator = Ridge(alpha=1)# estimator = RidgeCV(alphas=(0.1, 1, 10))estimator.fit(x_train, y_train)# 5.模型评估# 5.1 获取系数等值y_predict = estimator.predict(x_test)print("预测值为:\n", y_predict)print("模型中的系数为:\n", estimator.coef_)print("模型中的偏置为:\n", estimator.intercept_)# 5.2 评价# 均方误差error = mean_squared_error(y_test, y_predict)print("误差为:\n", error)

4. 小结

  • sklearn.linear_model.Ridge(alpha=1.0, fit_intercept=True,solver="auto", normalize=False)【知道】

    • 具有l2正则化的线性回归
    • alpha – 正则化
      • 正则化力度越大，权重系数会越小
      • 正则化力度越小，权重系数会越大
    • normalize
      • 默认封装了，对数据进行标准化处理

机器学习基础 线性回归及一些基础概念（正则化、过拟合、欠拟合等）相关推荐

  1. 31,32,33_过拟合、欠拟合的概念、L2正则化，Pytorch过拟合欠拟合，交叉验证-Train-Val-Test划分，划分训练集和测试集，K-fold,Regularization

    1.26.过拟合.欠拟合及其解决方案 1.26.1.过拟合.欠拟合的概念 1.26.1.1.训练误差和泛化误差 1.26.1.2.验证数据集与K-fold验证 1.26.1.3.过拟合和欠拟合 1.2 ...

  2. 机器学习--过度拟合 欠拟合

    过度拟合(overfitting)是指数据模型在训练集里表现非常满意,但是一旦应用到真实业务实践时,效果大打折扣:换成学术化语言描述,就是模型对样本数据拟合非常好,但是对于样本数据外的应用数据,拟合效 ...

  3. 泛化,过拟合,欠拟合素材(part1)--python机器学习基础教程

    学习笔记,仅供参考,有错必纠 文章目录 python机器学习基础教程 泛化.过拟合.欠拟合 模型复杂度与训练集大小的关系 python机器学习基础教程 泛化.过拟合.欠拟合 判断一个算法在新数据上表现 ...

  4. 机器学习-分类算法-线性回归、梯度下降，过拟合欠拟合，岭回归11

    梯度下降重点 正规方程去进行房价预测 from sklearn.datasets import load_boston from sklearn.linear_model import LinearR ...

  5. 【进阶版】机器学习之线性模型介绍及过拟合欠拟合解决方法岭回归、loss回归、elasticnet回归（05）

    目录 欢迎订阅本专栏,持续更新中~ 本专栏前期文章介绍! 机器学习配套资源推送 进阶版机器学习文章更新~ 点击下方下载高清版学习知识图册 线性模型 线性回归 线性几率回归 对数线性回归 线性判别分析 ...

  6. 【吴恩达】机器学习作业ex5--＞偏差与方差（过拟合/欠拟合）Python

    一.前言 这次的作业主要目的是研究偏差和方差也就是过拟合和欠拟合的关系,数据分别是水位的变化来预测大坝流出的水量,其实和房价预测相差不大,要说区别就是这次将X分为了三部分,分别是训练集,交叉集,测试集 ...

  7. python机器学习：线性回归_房价和房屋尺寸关系的线性拟合

    # 线性回归(Linear Regression)是利用数理统计中回归分析, # 来确定两种或两种以上变量间相互依赖的定量关系的一种统计分 # 析方法 # 使用算法:线性回归 # 实现步骤: # 1. ...

  8. 泛化,过拟合,欠拟合素材(part2)--机器学习入门之道

    学习笔记,仅供参考,有错必纠 文章目录 机器学习入门之道 过度拟合检出 训练集和测试集 测试集验证结果 基于交叉验证的泛化能力验证 基于数据的过拟合变化 机器学习入门之道 过度拟合检出 训练集和测试集 ...

  9. 机器学习 之 线性回归 选择题总结

    线性回归 1.多元线性回归中的"线性"是指什么是线性的 A.因变量 B.系数 C.因变量 D.误差 答案:A 2.欠拟合的产生原因有 A学习到数据的特征过少 B学习到数据的特征过多 ...

最新文章

  1. 一个好域名的作用和价值
  2. 一个完整的schema验证xml的样例
  3. JavaWeb(part1)--servlet
  4. 【渝粤题库】陕西师范大学191203 法理学导论 作业
  5. 《机器学习基石》---感知机算法
  6. C语言非常大的数组,关于最大子数组问题
  7. 值得收藏的信息安全知名博客
  8. Entity Framework 6 Recipes 2nd Edition（11-5）译 - 从”模型定义”函数返回一个匿名类型...
  9. UI素材模板|App搜索页UI界面设计版式
  10. 一.hadoop入门须知
  11. 如何做好一位合格qc_如何成为一名合格优秀的QC,你合格吗？
  12. htlm5实习报告_Wa zhu ti网站html5搭建设计毕业论文+html源码+实习报告+答辩问题
  13. OSPF之NSSA区域
  14. 大数据经典案例，你知道几个
  15. ASEMI双向可控硅BTA12A，BTA12A特征，BTA12A主要用途
  16. PID LSim PT3这个仿真模块 S7-1200 S7-1500 CPU下载
  17. 加州大学伯克利分校计算机科学硕士,加州大学伯克利分校计算机硕士申请条件是什么?...
  18. python 声音基频f0_如何得到一个曲子的基频？
  19. 2021-2022-1 20212820《Linux内核原理与分析》第一周作业
  20. 最新！「大象机器人」即将推出双臂人形机器人，智能机器人时代可期！

热门文章

  1. css 画图之质感盒子
  2. 我的世界服务器怎么修改怪物血量,我的世界命令方块修改生物血量 | 手游网游页游攻略大全...
  3. excel 进行二叉树_软考 软件设计师考点整理：树与二叉树
  4. 10进制数与33进制数的转换
  5. 项目管理软件应该具备哪些功能
  6. 压死骆驼的最后一根稻草——写下自己的阶段感受与总结
  7. html 怎么播放avi视频,Uniboy跳舞激怒Kanavi，JDG让一追二，艰难战胜V5
  8. 开我的世界服务器什么系统好,《我的世界》1.0服务器哪个好 1.0服务器地址大全...
  9. ios14测试版兼容软件,ios14支持设备列表_ios14支持哪些机型
  10. lol1月8日服务器维护,1月8日早上6点停机版本更新公告