python最小二乘法求a b_python_numpy实用的最小二乘法理解

最小二乘法解决的问题：Ax=C 无解下的最优解

例子1：

一条过原点的直线OA，C是直线外一点，求C在OA上的投影点P

例子1

例子2：

已知三个不在一条直线上的点A,B,C，求一条直线，使A,B,C到直线的距离和最小

例子2

例子3：

已知三个不在一条直线上的点A,B,C，求一点，到A,B,C的距离和最小

例子3

其实这3个例子的本质都是一样的。都是求未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。

以第一个例子为例：

Ax=C 无解

要求||Ax-C||^2最小

A.TAx'=A.TC

x'=(A.TA)^(-1)A.TC

P=Ax'

公式推导

同理，例子2，3中都需要写成Ax=C 的形式，求最优解。

只是例子2中的最优解是直线y=ax+b中的a，b。例子3中的最优解是P的坐标P(xp,yp)。

使用程序求例子1：A(3,1),C(1,3)

CODE

import numpy as np

from matplotlib import pyplot as plt

A = np.array([[3],[1]])

C = np.array([[1],[3]])

#x'=(A.TA)^(-1)A.TC

B = A.T.dot(C)

AA = np.linalg.inv(A.T.dot(A))#求A.T.dot(A)的逆

l=AA.dot(B)

#P=Ax'

P=A.dot(l)

x=np.linspace(-2,2,10)#x.shape=(10,)

x.shape=(1,10)

#画出直线y=ax

xx=A.dot(x)

fig = plt.figure() #figsize=(10,6)

ax= fig.add_subplot(111)

ax.plot(xx[0,:],xx[1,:])

#画出A点

ax.plot(A[0],A[1],'ko')

#画出C点，P点

ax.plot([C[0],P[0]],[C[1],P[1]],'r-o')

#画出OC线

ax.plot([0,C[0]],[0,C[1]],'m-o')

#画出坐标轴x=0,y=0

ax.axvline(x=0,color='black')

ax.axhline(y=0,color='black')

#标写每个点的字母

margin=0.1

ax.text(A[0]+margin, A[1]+margin, r"A",fontsize=20)

ax.text(C[0]+margin, C[1]+margin, r"C",fontsize=20)

ax.text(P[0]+margin, P[1]+margin, r"P",fontsize=20)

ax.text(0+margin,0+margin,r"O",fontsize=20)

ax.text(0+margin,4+margin, r"y",fontsize=20)

ax.text(4+margin,0+margin, r"x",fontsize=20)

plt.xticks(np.arange(-2,3))

plt.yticks(np.arange(-2,3))

ax.axis('equal')

plt.show()

结果：

例子1结果

python最小二乘法求a b_python_numpy实用的最小二乘法理解相关推荐

最小二乘法求线性回归方程_规范解题第14期利用“最小二乘法”原理解一道题...
还等什么呢?时间都过去了,话是这么说,但不至于那么快.无论走到哪里,都应该记住,过去都是假的,回忆是一条没有尽头的路,一切以往的春天都一去不复存在,就连那最坚韧而又狂乱的爱情归根结底也不过是一种转瞬即 ...
python tensorflow学习笔记（六）最小二乘法
说明:本文不包括TensorFlow相关内容概念概念:回归分析回归分析(regression analysis)是确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法.运用十分广泛,回归 ...
最小二乘法求回归直线方程的推导
最小二乘法求回归直线方程的推导转载自:http://blog.csdn.net/marsjohn/article/details/54911788 在数据的统计分析中,数据之间即变量x与Y之间的相关 ...
用Excle工具利用最小二乘法求回归方程
用Excle工具利用最小二乘法求回归方程首先在Excle表格录入数据然后计算x的平均数,y的平均数接着计算x的平方再算一列数据乘以另一列的数据利用数据分析进行求回归数据首先在Excle表格 ...
最小二乘法求拟合曲线函数的C语言实际应用
采用单片机等微处理器采集一些"线性"传感器数据时,注意这里的线性是指相似于线性变化,比如NTC热敏电阻.PT100铂电阻.PH复合电极传感器,这些传感器的变化特性类似于二维坐标轴上 ...
C++最小二乘法求多项式系数
/* 函数名称:Multinomial 函数作用:最小二乘法求多项式系数输出参数:Mat_<double>& F 多项式系数输入参数:double * x 输入数据的特征集合 ...
梯度下降最小二乘法 matlab,最小二乘法和梯度下降法的理解
最小二乘法在线性回归中,听的最多的应该算是最小二乘法了.最小二乘法在具体实现过程中保留核心思想的同时,会在算法上进行不同程度的改进,因此,最小二乘法有很多演变体,例如:递推最小二乘法,加权最小二乘法 ...
计算机语言平均数怎么算,使用python怎么求三个数的平均值
使用python怎么求三个数的平均值发布时间:2021-04-27 17:31:39 来源:亿速云阅读:64 作者:Leah 本篇文章给大家分享的是有关使用python怎么求三个数的平均值,小编觉 ...
python练习题（python之“求一个数的阶乘并求结果中从后向前数第一个不为0(零)的数” 等）
实验环境:python2.7 题目1:python之"求一个数的阶乘并求结果中从后向前数第一个不为0(零)的数" 程序: import math def factorial(n): ...

python最小二乘法求a b_python_numpy实用的最小二乘法理解

python最小二乘法求a b_python_numpy实用的最小二乘法理解相关推荐

最新文章

热门文章