• 线性回归

# -*- coding: utf-8 -*-
"""
Created on Wed Aug 30 19:55:37 2017@author: Administrator
"""'''
背景:与房价密切相关的除了单位的房价,还有房屋的尺寸。我们可以根
据已知的房屋成交价和房屋的尺寸进行线性回归,继而可以对已知房屋尺
寸,而未知房屋成交价格的实例进行成交价格的预测
'''import matplotlib.pyplot as plt
import numpy as np
from sklearn import linear_model# 读取数据集
datasets_X = []
datasets_Y = []
fpath='F:\\RANJIEWEN\\MachineLearning\\Python机器学习实战_mooc\\data\\回归\\'
fr = open(fpath+'prices.txt','r')
lines = fr.readlines()
for line in lines:items = line.strip().split(',')datasets_X.append(int(items[0]))datasets_Y.append(int(items[1]))length = len(datasets_X)
datasets_X = np.array(datasets_X).reshape([length,1])
datasets_Y = np.array(datasets_Y)minX = min(datasets_X)
maxX = max(datasets_X)
X = np.arange(minX,maxX).reshape([-1,1])linear = linear_model.LinearRegression()
linear.fit(datasets_X, datasets_Y)# 图像中显示
plt.scatter(datasets_X, datasets_Y, color = 'red')
plt.plot(X, linear.predict(X), color = 'blue')
plt.xlabel('Area')
plt.ylabel('Price')
plt.show()

  • 多项式回归

# -*- coding: utf-8 -*-
"""
Created on Wed Aug 30 20:24:09 2017@author: Administrator
"""'''
我们在前面已经根据已知的房屋成交价和房屋的尺寸进行了线
性回归,继而可以对已知房屋尺寸,而未知房屋成交价格的实例进行了成
交价格的预测,但是在实际的应用中这样的拟合往往不够好,因此我们在
此对该数据集进行多项式回归。'''import matplotlib.pyplot as plt
import numpy as np
from sklearn import linear_model
from sklearn.preprocessing import PolynomialFeatures# 读取数据集
datasets_X = []
datasets_Y = []fpath='F:\\RANJIEWEN\\MachineLearning\\Python机器学习实战_mooc\\data\\回归\\'
fr = open(fpath+'prices.txt','r')
lines = fr.readlines()
for line in lines:items = line.strip().split(',')datasets_X.append(int(items[0]))datasets_Y.append(int(items[1]))length = len(datasets_X)
datasets_X = np.array(datasets_X).reshape([length,1])
datasets_Y = np.array(datasets_Y)minX = min(datasets_X)
maxX = max(datasets_X)
X = np.arange(minX,maxX).reshape([-1,1])poly_reg = PolynomialFeatures(degree = 2)
X_poly = poly_reg.fit_transform(datasets_X)
lin_reg_2 = linear_model.LinearRegression()
lin_reg_2.fit(X_poly, datasets_Y)# 图像中显示
plt.scatter(datasets_X, datasets_Y, color = 'red')
plt.plot(X, lin_reg_2.predict(poly_reg.fit_transform(X)), color = 'blue')
plt.xlabel('Area')
plt.ylabel('Price')
plt.show()

  • 岭回归

  • 还有就是容易过拟合,才出现了岭回归,L2正则项

# -*- coding: utf-8 -*-
"""
Created on Wed Aug 30 20:33:00 2017@author: Administrator
"""'''
数据介绍:
数据为某路口的交通流量监测数据,记录全年小时级别的车流量。
实验目的:
根据已有的数据创建多项式特征,使用岭回归模型代替一般的线性模型,对
车流量的信息进行多项式回归。
'''import numpy as npfrom sklearn.linear_model import Ridge
from sklearn import cross_validation
import matplotlib.pyplot as plt
from sklearn.preprocessing import PolynomialFeaturesfpath='F:\RANJIEWEN\MachineLearning\Python机器学习实战_mooc\data\回归\岭回归.csv'data=pd.read_csv(fpath,encoding='gbk',parse_dates=[0],index_col=0)#data.sort_index(0,ascending=True,inplace=True)

X=data.iloc[:,:4]  ##语法
y=data.iloc[:,4]
poly=PolynomialFeatures(6) #设置多项式的最高次数
X=poly.fit_transform(X)train_set_X,test_set_X,train_set_y,test_set_y=   \cross_validation.train_test_split(X,y,test_size=0.3,random_state=0) #设置测试集的比例,random_state随机数种子

clf=Ridge(alpha=1.0,fit_intercept=True)
clf.fit(train_set_X,train_set_y)
clf.score(test_set_X,test_set_y)  #plot
start=200
end=300
y_pre=clf.predict(X)
time=np.arange(start,end)
plt.plot(time,y[start:end],'b',label='real')
plt.plot(time,y_pre[start:end],'r',label='predict')
plt.legend(loc='upper left')
plt.show()

  • Lasso回归,添加L1正则项,具有稀疏解

Python机器学习--回归相关推荐

  1. python机器学习回归树算法

    1.回归树:就是用决策树来做回归 决策树实际上相当于一个分类器 (1)回归树简单预测: 在这个例程中,属性和标签都是连续型的数据,且只有一个属性: 因此,决策树分类器就是根据该属性将标签分成若干组.有 ...

  2. Python机器学习--回归算法--线性回归

    线性回归算法的类型 有监督学习的回归算法[标签是连续数据类型] 线性回归基础 研究父子身高关系 研究父辈身高(自变量x)如何决定子辈身高(因变量y) 建立方程表征关系:y = kx+b-------- ...

  3. Python机器学习--回归算法--线性回归算法

    线性回归算法 线性回归算法类型: 线性回归算法属于有监督学习的回归算法,可以处理标签为连续数据类型的数据. 线性回归算法原理: 通过寻找特征和标签之间的关系,生成一个线性方程,通过线性方程预测未知标签 ...

  4. 【Python学习系列十三】Python机器学习库scikit-learn实现逻辑回归

    逻辑回归基础知识可参考:http://blog.csdn.net/fjssharpsword/article/details/54580552 python内部算法已经实现了,最重要是理解y=f(x) ...

  5. 回归素材(part9)--PYTHON机器学习手册-从数据预处理到深度学习

    学习笔记,仅供参考,有错必纠 PYTHON机器学习手册-从数据预处理到深度学习 通过正则化减少方差 我们可以使用岭回归或者Lasso回归,介绍回归模型的方差.

  6. 回归素材(part8)--python机器学习算法

    学习笔记,仅供参考,有错必纠 文章目录 python机器学习算法 基本线性回归 线性回归的模型 线性回归模型的损失函数 线性回归的最小二乘法 线性回归的最小二程解法 牛顿法 基本牛顿法原理 基本牛顿法 ...

  7. 回归素材(part4)--python机器学习基础教程

    学习笔记,仅供参考 文章目录 python机器学习基础教程 线性模型 用于回归的线性模型 过拟合 岭回归 lasso python机器学习基础教程 线性模型 用于回归的线性模型 过拟合

  8. 逻辑回归原理梳理_以python为工具 【Python机器学习系列(九)】

    逻辑回归原理梳理_以python为工具 [Python机器学习系列(九)] 文章目录 1.传统线性回归 2.引入sigmoid函数并复合 3. 代价函数 4.似然函数也可以 5. python梯度下降 ...

  9. python机器学习手写算法系列——逻辑回归

    从机器学习到逻辑回归 今天,我们只关注机器学习到线性回归这条线上的概念.别的以后再说.为了让大家听懂,我这次也不查维基百科了,直接按照自己的理解用大白话说,可能不是很严谨. 机器学习就是机器可以自己学 ...

最新文章

  1. 人群密度估计--Crowd Counting Via Scale-adaptive Convolutional Nerual Network
  2. iOS 2D绘图详解(Quartz 2D)之路径(点,直线,虚线,曲线,圆弧,椭圆,矩形)
  3. 8953n的user获取权限以及remount
  4. P1833 樱花——混合背包 二进制优化成01背包
  5. 去掉边框_安卓也有堪比 VOUN 的加边框应用了,素材丰富到没朋友
  6. 添加phpiredis扩展的时候报错
  7. 渠道效果五步优化,让采购的流量物超所值
  8. matlab 安装 cvx 和 mosek 以及 gurobi
  9. c++ Dxgi+FFmpeg 完成对截图屏幕,以及将屏幕数据保存为MP4格式,以完成录屏功能
  10. FFmpeg从视频中提取音频
  11. 还记的 破坏之王 里面的 锁吗,锁住 断水流大师兄
  12. python爬虫学习
  13. CSS二(复合选择器)
  14. PPT中正文和标题字体的选择技巧
  15. db,dbc,dbm
  16. Windows下C++通过Hooks记录键盘敲击记录的代码
  17. flutter 微信语言选择_Flutter 模仿微信读书效果!
  18. JMeter学习-005-JMeter 配置元件实例之 - CSV Data Set Config 参数化配置
  19. 正则表达式:不匹配特定的字符串
  20. frame框架说明(概述)

热门文章

  1. ACM学习历程—UESTC 1226 Huatuo's Medicine(数学)(2015CCPC L)
  2. jetty 切换log4j日志接口
  3. Spring 国际化例子
  4. EXTJS 重新加载树结点
  5. ETCD-节点挂掉会怎样?
  6. Poj 3522 最长边与最短边差值最小的生成树
  7. 【数字信号处理】相关函数 ( 卷积与交换性 | 相关函数不具有交换性 | 推导过程 )
  8. 【Windows 逆向】OD 调试器工具 ( OD 工具简介 | OD 工具与 CE 工具对比 )
  9. 【Windows 逆向】CheatEngine 工具 ( CheatEngine 简介 | 使用 Lazarus 编译 CE 源码 | CheatEngine 相关文档资料 )
  10. 【Android 应用开发】动态权限管理示例 ( 使用原生代码实现 | 申请权限 | 判定权限申请结果 | 判定 “ 不再询问 “ 情况 )