最小二乘、加权最小二乘 matlab实现

1. 定义

最小二乘：

最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。

最小二乘法还可用于曲线拟合，其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。

加权最小二乘法：

一般最小二乘法将时间序列中的各项数据的重要性同等看待，而事实上时间序列各项数据对未来的影响作用应是不同的。一般来说，近期数据比起远期数据对未来的影响更大。因此比较合理的方法就是使用加权的方法，对近期数据赋以较大的权数，对远期数据则赋以较小的权数。加权最小二乘法采用指数权数W。

此处不做推导，网上一大堆，可自行查阅。

2. Matlab-Code

此处权重设置为：W(i,i) = 0.95^i;

若权重设置为W(i,i) = 1;，那么它就是普通的最小二乘 T.T!。

function [fitY] = weightedLeastSquares(X, Y, order, fitX)
% X/Y: data of coordinate-x/y, （需要处理的坐标数据）
% Polynomial of (order_num) order，（拟合多项式-阶数）
% return fitY （返回值为拟合后的Y坐标）k = size(X, 2);% Construct the matrix X0X0 = zeros(order + 1, k);for k0 = 1:k           for n0 = 1 : order+1X0(n0, k0) = X(k0)^(order + 1 - n0);endendX = X0';% Construction weight matrix (这里就是最重要的权重系数)% W : i/k  or  (i/k)^2  or  (i/k)^3W = zeros(k);for i = 1:k
%         W(i,i) = 1;
%         W(i,i) = i/k;W(i,i) = 0.95^i;end% Coefficients of eigenvalues Coeff = (X'*W*X) \ X'*W*Y';% Coefficient initialization && Constructing polynomial equationfitY = Coeff(1) * fitX.^order; for i = 2:1:order+1     fitY = fitY + Coeff(i)*fitX.^(order+1-i);end
end

3. 测试

输入一组坐标，计算一二阶对应拟合结果。

dataX = [1 2 3 5 7 9 10 11 13 ]';
dataY = [1 3 4 5 6 7 10 14 16 ]';
plot(dataX,dataY,'*k')
hold on, plot(1:14, weightedLeastSquares(dataX', dataY', 1, 1:14),'-.r')
hold on, plot(1:14, weightedLeastSquares(dataX', dataY', 2, 1:14),'-.b')

最小二乘、加权最小二乘 matlab实现相关推荐

matlab fair,matlab练习程序（加权最小二乘）
起本篇题目还是比较纠结的,原因是我本意打算寻找这样一个算法:在测量数据有比较大离群点时如何估计原始模型. 上一篇曲面拟合是假设测量数据基本符合均匀分布,没有特别大的离群点的情况下,我们使用最小二乘得到 ...
计算机视觉滤波器大小,计算机视觉——加权最小二乘（WLS）滤波器
计算机视觉--加权最小二乘(WLS)滤波器计算机视觉--加权最小二乘(WLS)滤波器 Edge-Preserving Decompositions for Multi-Scale Tone and ...
R构建加权最小二乘回归模型（Weighted Least Squares Regression）
R构建加权最小二乘回归模型(Weighted Least Squares Regression) 目录 R构建加权最小二乘回归模型(Weighted Least Squares Regression)
python加权最小二乘_【Python】统计科学之加权最小二乘法
首页专栏 python 文章详情 0 统计科学之加权最小二乘法张俊红发布于今天 10:03 今天这篇来讲讲加权最小二乘法(WLS),加权最小二乘是在普通的最小二乘回归(OLS)的基础上进行改造的 ...
计量经济学笔记5-Eviews操作-异方差的检验与消除（White检验与加权最小二乘）
完成期末作业的同时来更一下博客问题背景: 对中国储蓄存款总额(Y,亿元)与GDP(亿元)两个变量进行一元线性回归,检验并消除异方差. White检验是通过一个辅助回归式进行异方差检验.用残差平方对原 ...
异方差性以及加权最小二乘优化
异方差性(heteroscedasticity )是相对于同方差而言的.所谓同方差,是为了保证回归参数估计量具有良好的统计性质,经典线性回归模型的一个重要假定:总体回归函数中的随机误差项满足同方差性, ...
次梯度（坐标法）、迭代加权最小二乘、ADMM求解Lasso
Lasso的特性及简介: 在最小二乘中,常把岭回归与Lasso来进行比较,它们都能对数据防止过拟合,这是为什么呢? 当特征之间存在高度相关关系的时候,假设有两个特征高度负相关,那么不带正则化的回归 ...
最优加权最小二乘估计
文章目录 Reference 最小二乘估计加权最小二乘估计递推最小二乘法 Reference Matrix Differentiation 加权最小二乘法与局部加权线性回归卡尔曼滤波与组合导航原 ...
SPSS加权最小二乘估计的实现
多元加权最小二乘估计选择"分析"-"回归"-"线性" 选入自变量与因变量选择"保存",在"残差" ...
古典最小二乘估计，加权最小二乘估计，递归最小二乘估计以及卡尔曼滤波
古典最小二乘估计,加权最小二乘估计,递归最小二乘估计以及卡尔曼滤波古典最小二乘估计,以测量误差的平方和作为损失函数. 根据高斯-马尔可夫定理,古典最小二乘估计在线性测量系统中,在测量噪声为零均值,同 ...

最小二乘、加权最小二乘 matlab实现

1. 定义

2. Matlab-Code

3. 测试

最小二乘、加权最小二乘 matlab实现相关推荐

最新文章

热门文章