Python 回归普通最小二乘法（Ordinary Least Squares）

广义线性回归模型：
把作为系数向量（coef_）；把作为截距（intercept_）
1.普通最小二乘法（Ordinary Least Squares）
线性回归的目的就是是的预测值与实际值的残差平方和最小：

import matplotlib.pyplot as plt
import numpy as np
#载入数据集“datasets”
from sklearn import datasets, linear_model
#获取糖尿病的数据集
diabetes = datasets.load_diabetes()
#使用其中的一个特征,np.newaxis的作用是增加维度
diabetes_X = diabetes.data[:, np.newaxis, 2]
#将X变量数据集分割成训练集和测试集
diabetes_X_train = diabetes_X[:-20]
diabetes_X_test = diabetes_X[-20:]
#将Y目标变量分割成训练集和测试集
diabetes_y_train = diabetes.target[:-20]
diabetes_y_test = diabetes.target[-20:]
#创建线性回归对象
regr = linear_model.LinearRegression()
#使用训练数据来训练模型
regr.fit(diabetes_X_train, diabetes_y_train)
#查看相关系数
print('Coefficients: \n', regr.coef_)
#查看残差平方的均值(mean square error,MSE)
print("Residual sum of squares: %.2f"#%是格式化% np.mean((regr.predict(diabetes_X_test) - diabetes_y_test) ** 2))
# Explained variance score: 1 is perfect prediction
# 解释方差得分(R^2)，最好的得分是1:
# 系数R^2=1 - u/v, u是残差平方，u=(y_true - y_pred) ** 2).sum()
# v是离差平方和，v=(y_true - y_true.mean()) ** 2).sum()
print('Variance score: %.2f' % regr.score(diabetes_X_test, diabetes_y_test))
#画出测试的点
plt.scatter(diabetes_X_test, diabetes_y_test,  color='black')
#画出预测的点
plt.plot(diabetes_X_test, regr.predict(diabetes_X_test), color='blue',linewidth=3)
#删除X轴的标度
plt.xticks(())
#删除Y轴的标度
plt.yticks(())
plt.show()

普通最小二乘法计算复杂度
这种方法通过对X奇异值分解（singular value decomposition，SVD）来计算最小二乘的解，如果X是（n,p）的矩阵（n大于p），则代价为

http://sklearn.lzjqsdd.com/auto_examples/linear_model/plot_ols.html#example-linear-model-plot-ols-py

Python 回归普通最小二乘法（Ordinary Least Squares）相关推荐

线性回归模型-最小二乘法Ordinary Least Squares
1.1 线性回归模型下面是一系列的回归方法, 目标值是输入变量的线性组合, 定义y^\hat {y}y^表示要预测的值. y^(w,x)=w0+w1x1+...+wpxp\hat {y}(w, x ...
线性回归（Linear Regression）和最小二乘法（ordinary least squares）
下面是对Andrew Ng的CS229机器学习课程讲义note1做的一部分笔记,按照自己的理解,对note1进行部分翻译,英文水平和知识水平不够,很多认识都不够深刻或者正确,请大家不吝赐教! 一.基本 ...
Ordinary least squares是什么意思？
Ordinary Least Square是普通最小二乘法,简称OLS.是应用最多的参数估计方法,也是从最小二乘原理出发的其他估计方法的基础. 英语的解释: In statistics, ordina ...
1.1.1. Ordinary Least Squares（普通最小二乘）
1.1.1. Ordinary Least Squares 注: 本文所指线性回归,若非特别强调,均指最基础的线性回归模型一.简介线性模型的数学体现是: y^=ω0+ω1x1+ω2x2+...+ω ...
最小二乘法（Least Squares）简介
原文链接: 最小二乘法(Least Squares)简介最小二乘法(Least Squares)详细介绍 | 数据学习者官方网站(Datalearner) 最小二乘法(Least Squares)是 ...
R构建加权最小二乘回归模型（Weighted Least Squares Regression）
R构建加权最小二乘回归模型(Weighted Least Squares Regression) 目录 R构建加权最小二乘回归模型(Weighted Least Squares Regression)
Python回归模型评估
Python回归模型评估 1 声明本文的数据来自网络,部分代码也有所参照,这里做了注释和延伸,旨在技术交流,如有冒犯之处请联系博主及时处理. 2 回归模型评估简介对给给定的回归模型进行质量评估,常 ...
RLS递归最小二乘法(Recursive Least Squares)
RLS递归最小二乘法(Recursive Least Squares) 感谢B站Up 凩子白的讲解视频, 大多数的RLS算法介绍都是从各种专业领域角度讲解的(比如滤波器等角度), 对于缺乏专业背景的同 ...
在python中使用最小二乘法画出拟合曲线_基于jupyter notebook的python编程-----运用最小二乘法，导入文件数据模拟一元线性回归分析...
基于jupyter notebook的python编程-----运用最小二乘法,导入文件数据模拟一元线性回归分析用最小二乘法模拟一元线性回去曲线的目录一.运行jupyter notebook,搭建 ...

Python 回归普通最小二乘法（Ordinary Least Squares）

Python 回归普通最小二乘法（Ordinary Least Squares）相关推荐

最新文章

热门文章

Python 回归 普通最小二乘法（Ordinary Least Squares）

Python 回归 普通最小二乘法（Ordinary Least Squares）相关推荐

最新文章

热门文章

Python 回归普通最小二乘法（Ordinary Least Squares）

Python 回归普通最小二乘法（Ordinary Least Squares）相关推荐