machine learning ：最小二乘法之线性函数 --- python实现

最小二乘法之线性函数模型

原理可见https://zh.wikipedia.org/wiki/%E6%9C%80%E5%B0%8F%E4%BA%8C%E4%B9%98%E6%B3%95

链接需要科学上网（2015.10），

实现阶段有多种方法，本文采用维基百科最后介绍的广义逆矩阵的方法计算。

即输入矩阵的广义逆矩阵{点乘}输出矩阵，运算结果既为求解的参数矩阵。

需要用到的函数为 pinv ，matlab中pinv(X) , python中numpy库中有此函数，即： np.linalg.pinv

code：

#Global Vars
global params#train function
def train(train_x , train_y):global paramspinv = np.linalg.pinv(train_x)  # cacul the pseudo-inverse matrixparams = np.dot( pinv , train_y ) # figure out the paramsprint('The params:')print(params)

np.linalg.pinv求得train_x的广义逆矩阵 pinv ， pinv 点乘 train_y 即得参数矩阵 params

以上即为训练过程。

随后可以进行回归：即将测试数据的x矩阵点乘参数矩阵，可得模型得到的输出。

code

#test function
def test(test_x , test_y , result_path):global paramsrs = open(result_path , 'w')regressValue = np.dot(test_x,params)print('The regress value of test data:')print(regressValue)print('-------------------------------------------------------')print('The errors:')err = regressValue - test_yprint(err)print('The RMSE(root mean squared error) is:')MRSE  =  math.sqrt(np.sum(np.square(err)) / regressValue.size)print(MRSE)print('-------------------------------------------------------')

回归完成以后，可以通过MRSE（root mean squared error）观察回归效果。

源代码传送门（python）：http://download.csdn.net/detail/zzukun/9210049

machine learning ：最小二乘法之线性函数 --- python实现相关推荐

机器学习（MACHINE LEARNING）MATLAB和Python混合编程
文章目录 1 配置方法 2 使用方法 2.1 脚本 2.2 函数 1 配置方法找到Matlab安装根目录,比如D:\matlab,然后进入D:\matlab\extern\engines\pytho ...
Python手册(Machine Learning)--statsmodels(Regression)
本站已停止更新,查看最新内容请移至本人博客 Wilen's Blog Regression Linear Regression(线性回归) Generalized Linear(广义线性回归) Gen ...
Python Tools for Machine Learning
2019独角兽企业重金招聘Python工程师标准>>> 原文:https://www.cbinsights.com/blog/python-tools-machine-learnin ...
A Complete Machine Learning Walk-Through in Python
A Complete Machine Learning Project Walk-Through in Python: Part One A Complete Machine Learning Pro ...
Python手册(Machine Learning)--statsmodels(列联表和多重插补)
列联表和多重插补 Contingency tables(列联表) Independence(独立性) Symmetry and homogeneity(对称性和同质性) A single 2x2 ta ...
Auto Machine Learning笔记 - Bayesian Optimization
原文链接:Auto Machine Learning笔记 - Bayesian Optimization 优化器是机器学习中很重要的一个环节.当确定损失函数时,你需要一个优化器使损失函数的参数能够快速 ...
【Sketchnotes】Machine Learning for Beginners 初学者机器学习
本文的Sketchnotes来自微软的一位web和前端工程师小姐姐@girlie_mac,很喜欢这种风格的Sketchnotes,在这里进行汇总. 文章目录 History of machine le ...
Machine Learning with Python Cookbook 学习笔记第9章
Chapter 9. Dimensionality Reduction Using Feature Extraction 前言本笔记是针对人工智能典型算法的课程中Machine Learning w ...
[Python Machine Learning] 学习笔记之scikit-learn机器学习库
1. scikit-learn介绍 scikit-learn是Python的一个开源机器学习模块,它建立在NumPy,SciPy和matplotlib模块之上.值得一提的是,scikit-learn最 ...

machine learning ：最小二乘法之线性函数 --- python实现

machine learning ：最小二乘法之线性函数 --- python实现相关推荐

最新文章

热门文章

machine learning ： 最小二乘法之线性函数 --- python实现

machine learning ： 最小二乘法之线性函数 --- python实现相关推荐

最新文章

热门文章

machine learning ：最小二乘法之线性函数 --- python实现

machine learning ：最小二乘法之线性函数 --- python实现相关推荐