Python机器学习：线型回归法008实现多元线性回归

使用封装的：LinearRegression

import numpy as np
from Simple_linear_Regression.metrics import r2_score
class LinearRegression:def __init__(self):"""初始化Linear Regression 模型"""self.coef_ = Noneself.interception_ = Noneself._theta = Nonedef fit_normal(self,X_train,y_train):"""根据训练数据集X_train,y_train训练Linear Regression"""assert X_train.shape[0] == y_train.shape[0],\"the size of X_train must be equal to the size of y_train"X_b = np.hstack([np.ones((X_train.shape[0],1)),X_train])#X_b = np.hstack([np.ones((len(X_train)),1),X_train])self._theta = np.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(y_train)self.interception_ = self._theta[0]self.coef_ = self._theta[1:]return selfdef predict(self,X_predict):"""给定待测数据集X_predict，返回表示X_predict 的结果向量"""assert self.interception_ is not None and self.coef_ is not None,\"must fit before predict"assert X_predict.shape[1] == len(self.coef_),\"the feature number of X_predict must be equal to X_train"X_b = np.hstack([np.ones((X_predict.shape[0], 1)), X_predict])return X_b.dot(self._theta)def score(self,X_test,y_test):"""根据测试数据集X_test和y_test确定当前模型的准确度"""y_predict = self.predict(X_test)return r2_score(y_test,y_predict)def __repr__(self):return "LinearRegression()"

import numpy as np
import matplotlib.pyplot as plt
from sklearn import datasets

依然房价数据
boston = datasets.load_boston()
X = boston.data
y = boston.targetX = X[y < 50]
y = y[y < 50]

from Simple_linear_Regression.model_selection import train_test_split
X_train,X_test,y_train,y_test = train_test_split(X,y,seed = 666)

LinearRegression()

from Simple_linear_Regression.LinearRegression import LinearRegression
reg = LinearRegression()
reg.fit_normal(X_train,y_train)

截距和参数

print(reg.interception_)
print(reg.coef_)

34.117399723204585
[-1.20354261e-01  3.64423279e-02 -3.61493155e-02  5.12978140e-02-1.15775825e+01  3.42740062e+00 -2.32311760e-02 -1.19487594e+002.60101728e-01 -1.40219119e-02 -8.35430488e-01  7.80472852e-03-3.80923751e-01]

与一元线性模型比较，预测准确率上升了

reg.score(X_test,y_test)

`0.8129794056212895`

Python机器学习：线型回归法008实现多元线性回归相关推荐

《机器学习笔记（三）：多元线性回归与正态分布最大似然估计》
回归问题普遍讨论的是多元线性回归,考虑多个特征可以得到更精确的模型,这其中涉及中心极限定理,正态分布,概率密度函数和最大似然估计. (一)背景--多元线性回归 1.概念本质上就是算法(公式)变换为了 ...
基于逐步法思想的多元线性回归（雏形）
基于逐步法思想的多元线性回归(雏形),后续修改看时间安排,有时间会进行完善. import pandas as pd import numpy as np from scipy.stats impor ...
python机器学习——支持向量机回归与波士顿房价案例
支持向量机回归与波士顿房价案例一.从传统回归模型到支持向量回归模型二.核函数三.常用的几种核函数四.SVM 算法的优缺点五.建模实例 (1)导入数据 (2)划分训练集测试集 (3)数据标准化 ...
pythonsklearn多元回归回归_sklearn入门之多元线性回归
原标题:sklearn入门之多元线性回归本文作者:杨长青本文编辑:胡婧技术总编:张学人 scikit-learn又称sklearn是基于python的一个强大的机器学习库,它建立在numpy, ...
Python金融系列第五篇：多元线性回归和残差分析
作者:chen_h 微信号 & QQ:862251340 微信公众号:coderpai 第一篇:计算股票回报率,均值和方差第二篇:简单线性回归第三篇:随机变量和分布第四篇:置信区间和假设 ...
吴恩达《机器学习》第四章：多元线性回归
目录四.多元线性回归 4.1 特征缩放 4.2 学习率α 4.4 特征和多项式 4.4 正规方程四.多元线性回归多特征下的假设形式: 4.1 特征缩放特征缩放:Feature Scaling, ...
Python机器学习：线型回归法007多元线性回归和正规方程的解
Python机器学习：线型回归法05衡量线性回归法的指标MES，RMS，MAE
import numpy as np import matplotlib.pyplot as plt from sklearn import datasets 数据 boston = datasets ...
Python机器学习：线型回归法06最好的衡量线型回归法的指标RSquared
代码实现首先使用sklearn.metrics中的r2.score 依然使用波士顿房价数据集 #使用sklearn from sklearn.metrics import r2_score r2_sc ...

Python机器学习：线型回归法008实现多元线性回归

`0.8129794056212895`

Python机器学习：线型回归法008实现多元线性回归相关推荐

最新文章

热门文章