Python机器学习--回归
线性回归
# -*- coding: utf-8 -*- """ Created on Wed Aug 30 19:55:37 2017@author: Administrator """''' 背景:与房价密切相关的除了单位的房价,还有房屋的尺寸。我们可以根 据已知的房屋成交价和房屋的尺寸进行线性回归,继而可以对已知房屋尺 寸,而未知房屋成交价格的实例进行成交价格的预测 '''import matplotlib.pyplot as plt import numpy as np from sklearn import linear_model# 读取数据集 datasets_X = [] datasets_Y = [] fpath='F:\\RANJIEWEN\\MachineLearning\\Python机器学习实战_mooc\\data\\回归\\' fr = open(fpath+'prices.txt','r') lines = fr.readlines() for line in lines:items = line.strip().split(',')datasets_X.append(int(items[0]))datasets_Y.append(int(items[1]))length = len(datasets_X) datasets_X = np.array(datasets_X).reshape([length,1]) datasets_Y = np.array(datasets_Y)minX = min(datasets_X) maxX = max(datasets_X) X = np.arange(minX,maxX).reshape([-1,1])linear = linear_model.LinearRegression() linear.fit(datasets_X, datasets_Y)# 图像中显示 plt.scatter(datasets_X, datasets_Y, color = 'red') plt.plot(X, linear.predict(X), color = 'blue') plt.xlabel('Area') plt.ylabel('Price') plt.show()
多项式回归
# -*- coding: utf-8 -*- """ Created on Wed Aug 30 20:24:09 2017@author: Administrator """''' 我们在前面已经根据已知的房屋成交价和房屋的尺寸进行了线 性回归,继而可以对已知房屋尺寸,而未知房屋成交价格的实例进行了成 交价格的预测,但是在实际的应用中这样的拟合往往不够好,因此我们在 此对该数据集进行多项式回归。'''import matplotlib.pyplot as plt import numpy as np from sklearn import linear_model from sklearn.preprocessing import PolynomialFeatures# 读取数据集 datasets_X = [] datasets_Y = []fpath='F:\\RANJIEWEN\\MachineLearning\\Python机器学习实战_mooc\\data\\回归\\' fr = open(fpath+'prices.txt','r') lines = fr.readlines() for line in lines:items = line.strip().split(',')datasets_X.append(int(items[0]))datasets_Y.append(int(items[1]))length = len(datasets_X) datasets_X = np.array(datasets_X).reshape([length,1]) datasets_Y = np.array(datasets_Y)minX = min(datasets_X) maxX = max(datasets_X) X = np.arange(minX,maxX).reshape([-1,1])poly_reg = PolynomialFeatures(degree = 2) X_poly = poly_reg.fit_transform(datasets_X) lin_reg_2 = linear_model.LinearRegression() lin_reg_2.fit(X_poly, datasets_Y)# 图像中显示 plt.scatter(datasets_X, datasets_Y, color = 'red') plt.plot(X, lin_reg_2.predict(poly_reg.fit_transform(X)), color = 'blue') plt.xlabel('Area') plt.ylabel('Price') plt.show()
岭回归
- 还有就是容易过拟合,才出现了岭回归,L2正则项
# -*- coding: utf-8 -*- """ Created on Wed Aug 30 20:33:00 2017@author: Administrator """''' 数据介绍: 数据为某路口的交通流量监测数据,记录全年小时级别的车流量。 实验目的: 根据已有的数据创建多项式特征,使用岭回归模型代替一般的线性模型,对 车流量的信息进行多项式回归。 '''import numpy as npfrom sklearn.linear_model import Ridge from sklearn import cross_validation import matplotlib.pyplot as plt from sklearn.preprocessing import PolynomialFeaturesfpath='F:\RANJIEWEN\MachineLearning\Python机器学习实战_mooc\data\回归\岭回归.csv'data=pd.read_csv(fpath,encoding='gbk',parse_dates=[0],index_col=0)#data.sort_index(0,ascending=True,inplace=True) X=data.iloc[:,:4] ##语法 y=data.iloc[:,4] poly=PolynomialFeatures(6) #设置多项式的最高次数 X=poly.fit_transform(X)train_set_X,test_set_X,train_set_y,test_set_y= \cross_validation.train_test_split(X,y,test_size=0.3,random_state=0) #设置测试集的比例,random_state随机数种子 clf=Ridge(alpha=1.0,fit_intercept=True) clf.fit(train_set_X,train_set_y) clf.score(test_set_X,test_set_y) #plot start=200 end=300 y_pre=clf.predict(X) time=np.arange(start,end) plt.plot(time,y[start:end],'b',label='real') plt.plot(time,y_pre[start:end],'r',label='predict') plt.legend(loc='upper left') plt.show()
- Lasso回归,添加L1正则项,具有稀疏解
Python机器学习--回归相关推荐
- python机器学习回归树算法
1.回归树:就是用决策树来做回归 决策树实际上相当于一个分类器 (1)回归树简单预测: 在这个例程中,属性和标签都是连续型的数据,且只有一个属性: 因此,决策树分类器就是根据该属性将标签分成若干组.有 ...
- Python机器学习--回归算法--线性回归
线性回归算法的类型 有监督学习的回归算法[标签是连续数据类型] 线性回归基础 研究父子身高关系 研究父辈身高(自变量x)如何决定子辈身高(因变量y) 建立方程表征关系:y = kx+b-------- ...
- Python机器学习--回归算法--线性回归算法
线性回归算法 线性回归算法类型: 线性回归算法属于有监督学习的回归算法,可以处理标签为连续数据类型的数据. 线性回归算法原理: 通过寻找特征和标签之间的关系,生成一个线性方程,通过线性方程预测未知标签 ...
- 【Python学习系列十三】Python机器学习库scikit-learn实现逻辑回归
逻辑回归基础知识可参考:http://blog.csdn.net/fjssharpsword/article/details/54580552 python内部算法已经实现了,最重要是理解y=f(x) ...
- 回归素材(part9)--PYTHON机器学习手册-从数据预处理到深度学习
学习笔记,仅供参考,有错必纠 PYTHON机器学习手册-从数据预处理到深度学习 通过正则化减少方差 我们可以使用岭回归或者Lasso回归,介绍回归模型的方差.
- 回归素材(part8)--python机器学习算法
学习笔记,仅供参考,有错必纠 文章目录 python机器学习算法 基本线性回归 线性回归的模型 线性回归模型的损失函数 线性回归的最小二乘法 线性回归的最小二程解法 牛顿法 基本牛顿法原理 基本牛顿法 ...
- 回归素材(part4)--python机器学习基础教程
学习笔记,仅供参考 文章目录 python机器学习基础教程 线性模型 用于回归的线性模型 过拟合 岭回归 lasso python机器学习基础教程 线性模型 用于回归的线性模型 过拟合
- 逻辑回归原理梳理_以python为工具 【Python机器学习系列(九)】
逻辑回归原理梳理_以python为工具 [Python机器学习系列(九)] 文章目录 1.传统线性回归 2.引入sigmoid函数并复合 3. 代价函数 4.似然函数也可以 5. python梯度下降 ...
- python机器学习手写算法系列——逻辑回归
从机器学习到逻辑回归 今天,我们只关注机器学习到线性回归这条线上的概念.别的以后再说.为了让大家听懂,我这次也不查维基百科了,直接按照自己的理解用大白话说,可能不是很严谨. 机器学习就是机器可以自己学 ...
最新文章
- 人群密度估计--Crowd Counting Via Scale-adaptive Convolutional Nerual Network
- iOS 2D绘图详解(Quartz 2D)之路径(点,直线,虚线,曲线,圆弧,椭圆,矩形)
- 8953n的user获取权限以及remount
- P1833 樱花——混合背包 二进制优化成01背包
- 去掉边框_安卓也有堪比 VOUN 的加边框应用了,素材丰富到没朋友
- 添加phpiredis扩展的时候报错
- 渠道效果五步优化,让采购的流量物超所值
- matlab 安装 cvx 和 mosek 以及 gurobi
- c++ Dxgi+FFmpeg 完成对截图屏幕,以及将屏幕数据保存为MP4格式,以完成录屏功能
- FFmpeg从视频中提取音频
- 还记的 破坏之王 里面的 锁吗,锁住 断水流大师兄
- python爬虫学习
- CSS二(复合选择器)
- PPT中正文和标题字体的选择技巧
- db,dbc,dbm
- Windows下C++通过Hooks记录键盘敲击记录的代码
- flutter 微信语言选择_Flutter 模仿微信读书效果!
- JMeter学习-005-JMeter 配置元件实例之 - CSV Data Set Config 参数化配置
- 正则表达式:不匹配特定的字符串
- frame框架说明(概述)
热门文章
- ACM学习历程—UESTC 1226 Huatuo's Medicine(数学)(2015CCPC L)
- jetty 切换log4j日志接口
- Spring 国际化例子
- EXTJS 重新加载树结点
- ETCD-节点挂掉会怎样?
- Poj 3522 最长边与最短边差值最小的生成树
- 【数字信号处理】相关函数 ( 卷积与交换性 | 相关函数不具有交换性 | 推导过程 )
- 【Windows 逆向】OD 调试器工具 ( OD 工具简介 | OD 工具与 CE 工具对比 )
- 【Windows 逆向】CheatEngine 工具 ( CheatEngine 简介 | 使用 Lazarus 编译 CE 源码 | CheatEngine 相关文档资料 )
- 【Android 应用开发】动态权限管理示例 ( 使用原生代码实现 | 申请权限 | 判定权限申请结果 | 判定 “ 不再询问 “ 情况 )