学习彭亮《深度学习基础介绍：机器学习》课程

与简单线性回归区别

简单线性回归：一个自变量(x)
多元线性回归：多个自变量(x)

多元回归模型

y=β0＋β１x1+β2x2+ … +βpxp+ε
其中：β0，β１，β2… βp是参数
ε是误差值

多元回归方程

E(y)=β0＋β１x1+β2x2+ … +βpxp

估计多元回归方程

y_hat=b0＋b１x1+b2x2+ … +bpxp，（估计值），一个样本被用来计算β0，β１，β2… βp的点估计b0, b1, b2,…, bp

估计方法

使sum of squares最小

多元线性回归运算与简单线性回归运算类似，涉及到线性代数和矩阵代数的运算

例子

Time = b0+ b1*Miles + b2 * Deliveries

描述参数含义

b0: 平均每多运送一英里，运输时间延长b1 小时
b1: 平均每多一次运输，运输时间延长 b2 小时

关于误差的分布

误差ε是一个随机变量，均值为0
ε的方差对于所有的自变量来说相等
所有ε的值是独立的
ε满足正态分布，并且通过β0＋β１x1+β2x2+ … +βpxp反映y的期望值

代码应用1（Xi均为连续变量）

#coding=utf-8
# @Author: yangenneng
# @Time: 2018-01-17 15:42
# @Abstract：多元线性回归(Multiple Regression)算法from numpy import genfromtxt
import numpy as np
from sklearn import linear_modeldatapath=r"D:\Python\PyCharm-WorkSpace\MachineLearningDemo\MultipleRegression\data\data.csv"
#从文本文件中提取数据并转为numpy Array格式
deliveryData = genfromtxt(datapath,delimiter=',')print "data"
# print deliveryData# 读取自变量X1(运送英里数),X2(运送次数)
x= deliveryData[1:,1:-1]
# 读取因变量(运送时间)
y = deliveryData[1:,-1]print "x:",x
print "y:",y# 调用线性回归模型
lr = linear_model.LinearRegression()
# 装配数据
lr.fit(x, y)print lrprint("coefficients:")
print lr.coef_print("intercept:")
print lr.intercept_#预测
xPredict = [102,6]
yPredict = lr.predict(xPredict)
print("predict:")
print yPredict

代码应用2（Xi包含类别变量）

对类别变量进行转码

#coding=utf-8
# @Author: yangenneng
# @Time: 2018-01-17 16:11
# @Abstract：多元线性回归(Multiple Regression)算法  含类别变量from numpy import genfromtxt
import numpy as np
from sklearn import linear_modeldatapath=r"D:\Python\PyCharm-WorkSpace\MachineLearningDemo\MultipleRegression\data\data2.csv"
#从文本文件中提取数据并转为numpy Array格式
deliveryData = genfromtxt(datapath,delimiter=',')print "data"
# print deliveryData# 读取自变量X1...x5
x= deliveryData[1:,1:-1]
# 读取因变量
y = deliveryData[1:,-1]print "x:",x
print "y:",y# 调用线性回归模型
lr = linear_model.LinearRegression()
# 装配数据
lr.fit(x, y)print lrprint("coefficients:")
print lr.coef_print("intercept:")
print lr.intercept_#预测
xPredict = [90,2,0,0,1]
yPredict = lr.predict(xPredict)
print("predict:")
print yPredict

机器学习-多元线性回归(Multiple Regression)算法相关推荐

机器学习多元线性回归_过度简化的机器学习（1）：多元回归
机器学习多元线性回归 The term machine learning may sound provocative. Machines do not learn like humans do. Ho ...
Julia 机器学习 ---- 单变量线性回归和多元线性回归 (Linear regression)
目录 1.线性回归概述 2.数据准备 3.数据探索 3.1简单的数据清洗 3.2 图形分析数据 3.2.1 盒形图的离群点分析,需要根据四分位距去掉部分数据点. 3.2.2 密度图进行分布分析 3.2 ...
吴恩达-机器学习-多元线性回归模型代码
吴恩达<机器学习>2022版第一节第二周多元线性回归房价预测简单实现以下以下共两个实验,都是通过调用sklearn函数,分别实现了一元线性回归和多元线性回归的房价 ...
机器学习—多元线性回归案例
研究一个因变量.与两个或两个以上自变量的回归.亦称为多元线性回归,是反映一种现象或事物的数量依多种现象或事物的数量的变动而相应地变动的规律.建立多个变量之间线性或非线性数学模型数量关系式的统计方法. ...
机器学习之线性回归值预测算法
一. 线性回归什么是回归:从大量的函数结果和自变量反推回函数表达式的过程就是回归.线性回归是利用数理统计中回归分析来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法.--主要是解决值预测 ...
python多元线性回归实例_Python机器学习多元线性回归模型 | kTWO-个人博客
前言在上一篇文章<机器学习简单线性回归模型>中我们讲解分析了Python机器学习中单输入的线性回归模型,但是在实际生活中,我们遇到的问题都是多个条件决定的问题,在机器学习中我们称之为多元 ...
Python机器学习——多元线性回归案例（二）
引入披萨问题回顾一下自己的生活经验,匹萨的价格其实还会受到其他因素的影响. 比如,匹萨的价格还与辅料有关.让我们再为模型增加一个解释变量.用一元线性回归己经无法解决了,我们可以用更具一般性的模型来 ...
机器学习-多元线性回归（multiple linear regression）
先甩几个典型的线性回归的模型,帮助大家捡起那些年被忘记的数学. ● 单变量线性回归: h(x)=theta0 + theta1* x 1 ● 多变量线性回归: h(x)=theta0 + theta1 ...
多元回归分析(multiple regression)及其应用
1. 与简单线性回归区别(simple linear regression) 多个自变量(x) 2. 多元回归模型 y=β0+β1x1+β2x2+ - +βpxp+ε 其中:β0,β1,β2- βp是 ...

机器学习-多元线性回归(Multiple Regression)算法