Python机器学习：多项式回归与模型泛化009LASSO回归

代码接着008
Lasso

#LASSO
from sklearn.linear_model import Lasso
def LassoRegression(degree,alpha):return Pipeline([('poly',PolynomialFeatures(degree=degree)),('std_scaler',StandardScaler()),('lasso_reg',Lasso(alpha = alpha))])
lasso1_reg = LassoRegression(20,0.01)
lasso1_reg.fit(X_train,y_train)
y1_predict = lasso1_reg.predict(X_test)
print(mean_squared_error(y_test,y1_predict))

1.149608084325997

plot_model(lasso1_reg)

alpha = 0.1

#LASSO
from sklearn.linear_model import Lasso
def LassoRegression(degree,alpha):return Pipeline([('poly',PolynomialFeatures(degree=degree)),('std_scaler',StandardScaler()),('lasso_reg',Lasso(alpha = alpha))])
lasso1_reg = LassoRegression(20,0.1)
lasso1_reg.fit(X_train,y_train)
y1_predict = lasso1_reg.predict(X_test)
print(mean_squared_error(y_test,y1_predict))

1.1213911351818648

plot_model(lasso1_reg)

alpha = 1

#LASSO
from sklearn.linear_model import Lasso
def LassoRegression(degree,alpha):return Pipeline([('poly',PolynomialFeatures(degree=degree)),('std_scaler',StandardScaler()),('lasso_reg',Lasso(alpha = alpha))])
lasso1_reg = LassoRegression(20,1)
lasso1_reg.fit(X_train,y_train)
y1_predict = lasso1_reg.predict(X_test)
print(mean_squared_error(y_test,y1_predict))
plot_model(lasso1_reg)

1.8408939659515595

Selection operator

使用ridge很难得到直线，lasso特性（特征选择，让一些参数为0而不是整体最小。。。）

Python机器学习：多项式回归与模型泛化009LASSO回归相关推荐

05机器学习--多项式回归与模型泛化及python实现
目录 ①什么是多项式回归 ②scikit-learn中的多项式回归和Pipelin ③过拟合与欠拟合 ④验证数据集与交叉验证 ⑤回顾网格搜索 ⑥偏差方差权衡 ⑦解决过拟合问题--模型正则化1--岭回归 ...
python机器学习手写算法系列——逻辑回归
从机器学习到逻辑回归今天,我们只关注机器学习到线性回归这条线上的概念.别的以后再说.为了让大家听懂,我这次也不查维基百科了,直接按照自己的理解用大白话说,可能不是很严谨. 机器学习就是机器可以自己学 ...
Python机器学习：多项式回归与模型泛化004为什么需要训练数据集和测试数据集
泛化能力:由此及彼能力遇见新的拟合能力差数据 #数据 import numpy as np import matplotlib.pyplot as plt x = np.random.unifor ...
python机器学习 | 多项式回归和拟合
多项式回归和拟合.正则化 1 多项式回归 1.1 介绍 1.2 回归实现 2 拟合&正则化 2.1拟合问题 2.1.1 拟合出现的类型 2.2 解决拟合出现的问题 3 正则化 3.1 介绍 3 ...
多项式回归与模型泛化
1.多项式回归线性回归的局限性是只能应用于存在线性关系的数据中,但是在实际生活中,很多数据之间是非线性关系,虽然也可以用线性回归拟合非线性回归,但是效果会变差,这时候就需要对线性回归模型进行改进,使 ...
Python机器学习：多项式回归与模型泛化008模型泛化与岭回归
岭回归数据 #数据 import numpy as np import matplotlib.pyplot as plt np.random.seed(42) x = np.random.unifo ...
Python机器学习：多项式回归与模型泛化007偏差方差平衡
用名字预测成绩则会高偏差.. 高方差,泛化能力差!
Python机器学习：多项式回归与模型泛化005学习曲线
KNN和多项式回归不适合上面这样绘制这样,决策树适合绘制学习曲线 CODE: #数据 import numpy as np import matplotlib.pyplot as plt x = n ...
Python机器学习：多项式回归与模型泛化003过拟合与欠拟合
过拟合欠拟合 #过拟合和欠拟合 import numpy as np import matplotlib.pyplot as plt x = np.random.uniform(-3,3,size=1 ...

Python机器学习：多项式回归与模型泛化009LASSO回归

Python机器学习：多项式回归与模型泛化009LASSO回归相关推荐

最新文章

热门文章