【机器学习基础】乡村F4带你入门线性回归带python代码示例（一）

标注：

1.概率密度没有学好，所以涉及到密度函数部分会有不少地方感觉非常难懂吃力

如何理解回归？

个人理解：回归是指量化 {变量} 之间“关系”

线性回归的英文regression towards the mean。mean在英文中是平均值的意思。

求平均值通常是我们面对大量数据时，快速建立对数据的概念的方式。

比如：

1.中国人均生育1.3个孩子（被动养孩万岁）
北京人均餐饮消费40元(一单外卖吃40，坑爹)
智能手机均价2800元（此处由小米用户组成底部）

拿一组数据做分布图看

引用:北京市统计局图：2017年北京市城镇居民收入层级分布对比图（城镇居民人均可支配收入）

图随便找的哈，只用看单边；我们可以估算出，北京城镇居民年人均可支配收入估计是在5-6万附近（帮忙算个平均数。。），我们也能大概估出来，随便找个工作，应该能在10712元。（老板听着头大）

那么，如何估算自己工资具体可以拿多少呢？

我们可以直接问老板（PIA！打脸）

Life is short,Show Me The Data!

没有数据说个毛啊

人生会不会像高考一样呢？语文+数学+英语+化学+物理+生物+政治+历史+地理 = 最终的成功人士排位呢？

很可惜，生活不只苟且，还有家庭背景、家庭背景、家庭背景等等的异常因素会影响你的排位。

但大城市的工资还是比较公平的，除了极个别的异常值，其他是可以进行预测的：

最低工资*θ0 × 公司类型*θ1 × 最高学历*θ2 × 学校排名*θ3 × 工作年限*θ4 × 长相*θ5 ≈ 工资

θ0~θ5为假设的参数，公司类型、最高学历等量化成数值，最低工资一般为一个莫(qian)须(gui)有(ze)的值，我们就直接用θ0代替

Y = x1*θ1 + x2*θ2 + x3*θ3 + x4*θ4 + x4*θ4 + x5*θ5 + θ0

那么我们来对身边的人做一些简单的调查

尼古拉斯·赵四锝朋友圈
序号	姓名	性别	公司类型	最高学历	学校排名	工作年限(年)	长相(分)	工资（元）
1	尼古拉斯•赵四	男	种花象牙山村村委理事会	1.小学	131429	1	2	200
2	亚历山大•小宝	男	巨硬科技有限公司	2.初中	64536	8	1	12,000
3	富兰克林•谢广坤	男	象牙山饭庄五部	2.初中	79080	12	7	18,000
4	克里斯蒂安•刘能	男	东北二人转技术学院	3.高中	26533	5	3	250
5	弗朗西斯•沈阳	无	美国加里敦大学	5.博士	9654	3	9	25,000
6	略

在anaconda环境下创建数据集

import pandas as pd
employ = {'序号':[1,2,3,4,5],'姓名':['尼古拉斯•赵四','亚历山大•小宝','富兰克林•谢广坤','克里斯蒂安•刘能','弗朗西斯•沈阳'],'性别':['男','男','男','男','无'],'公司类型':['种花象牙山村村委理事会','巨硬科技有限公司','象牙山饭庄五部','东北二人转技术学院','美国加里敦大学'],'最高学历':[1,2,2,3,5],'学校排名':[131429,64536,79080,26533,9654],'工作年限(年)':[1,8,12,5,3],'长相(分)':[2,1,7,3,9],'工资（元）':[200,12000,18000,250,25000]}
df = pd.DataFrame(employ,columns=['序号','姓名','性别','公司类型','最高学历','学校排名','工作年限(年)','长相(分)','工资（元）'])   #指定列名排序
df

import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression
plt.rcParams['font.sans-serif']=['SimHei']x = df['长相(分)']
y = df['工资（元）']
# 散点图
plt.scatter(x, # x轴数据为长相y, # y轴数据为工资s = 30, # 设置点的大小 c = 'black', # 设置点的颜色marker = 'o', # 设置点的形状alpha = 0.9, # 设置点的透明度linewidths = 0.3, # 设置散点边界的粗细label = '样本点')
# 建模
reg = LinearRegression().fit(x.values.reshape(-1,1), y)
# 回归预测值
pred = reg.predict(x.values.reshape(-1,1))# 绘制回归线
plt.plot(x, pred, linewidth = 2, label = '拟合的回归线')# 添加轴标签和标题
plt.title("长相跟工资的关系")
plt.xlabel("长相(分)")
plt.ylabel("工资（元）")# 去除图边框的顶部刻度和右边刻度
# plt.tick_params(top = 'off', right = 'off')
# 显示图例
plt.legend(loc = 'upper left')plt.show()

(因为多个维度无法用平面描述，所以就先做长相和工资的关系)

很明显长相和工资成正相关，但是不排除有异常值，‘亚历山大•小宝’颜值只有一分，但是却在巨硬工资当程序员，工资还是挺高的。

那么，这上面拟合的回归线是怎么拟合出来的呢？

摘自：欧姆社学习漫画，统计学之回归分析

看图可以理解为求每一个点到直线的距离，当所有的点距离的和最小时，回归最优。（最小二乘法）

且这个只是两维表达方式。。。多维。。你看着办

然后如果是学统计学的同学，则需要回顾一下R方和假设检验，估计这个在时间序列预测中是挺重要的

当然这里省略掉了数学公式、对数最大似然估计和梯度下降

下一章我们来推公式