偏最小二乘回归

背景:在实际问题中,经常遇到需要研究两组多重相关变量间的相互依赖关系,并研究用一组变量(常称为自变量或预测变量)去预测另一组变量(常称为因变量或响应变量),除了最小二乘准则下的经典多元线性回归分析(MLR),提取自变量组主成分的主成分回归分析(PCR)等方法外,还有近年发展起来的偏最小二乘(PLS)回归方法。

偏最小二乘回归提供一种多对多线性回归建模的方法,特别当两组变量的个数很多,且都存在多重相关性,而观测数据的数量(样本量)又较少时,用偏最小二乘回归建立的模型具有传统的经典回归分析等方法所没有的优点。

偏最小二乘回归分析在建模过程中集中了主成分分析,典型相关分析和线性回归分析方法的特点,因此在分析结果中,除了可以提供一个更为合理的回归模型外,还可以同时完成一些类似于主成分分析和典型相关分析的研究内容,提供更丰富、深入的一些信息。

matlab如下:(模板)

代码有详解

clc,clear
load pz.txt %原始数据存放在纯文本文件 pz.txt 中
mu=mean(pz);sig=std(pz); %求均值和标准差
rr=corrcoef(pz); %求相关系数矩阵
data=zscore(pz); %数据标准化
n=3;m=3; %n 是自变量的个数,m 是因变量的个数
x0=pz(:,1:n);y0=pz(:,n+1:end);
e0=data(:,1:n);f0=data(:,n+1:end);
num=size(e0,1);%求样本点的个数
chg=eye(n); %w 到 w*变换矩阵的初始化
for i=1:n
%以下计算 w,w*和 t 的得分向量,matrix=e0'*f0*f0'*e0; [vec,val]=eig(matrix); %求特征值和特征向量val=diag(val); %提出对角线元素[val,ind]=sort(val,'descend'); w(:,i)=vec(:,ind(1)); %提出最大特征值对应的特征向量-538-w_star(:,i)=chg*w(:,i); %计算 w*的取值t(:,i)=e0*w(:,i); %计算成分 ti 的得分alpha=e0'*t(:,i)/(t(:,i)'*t(:,i)); %计算 alpha_i chg=chg*(eye(n)-w(:,i)*alpha'); %计算 w 到 w*的变换矩阵e=e0-t(:,i)*alpha'; %计算残差矩阵e0=e;
%以下计算 ss(i)的值beta=[t(:,1:i),ones(num,1)]\f0; %求回归方程的系数beta(end,:)=[]; %删除回归分析的常数项cancha=f0-t(:,1:i)*beta; %求残差矩阵ss(i)=sum(sum(cancha.^2)); %求误差平方和
%以下计算 press(i) for j=1:num t1=t(:,1:i);f1=f0; she_t=t1(j,:);she_f=f1(j,:); %把舍去的第 j 个样本点保存起来t1(j,:)=[];f1(j,:)=[]; %删除第 j 个观测值beta1=[t1,ones(num-1,1)]\f1; %求回归分析的系数beta1(end,:)=[]; %删除回归分析的常数项cancha=she_f-she_t*beta1; %求残差向量press_i(j)=sum(cancha.^2); end press(i)=sum(press_i); if i>1 Q_h2(i)=1-press(i)/ss(i-1); else Q_h2(1)=1; end if Q_h2(i)<0.0975 fprintf('提出的成分个数 r=%d',i); r=i; break end
end
beta_z=[t(:,1:r),ones(num,1)]\f0; %求 Y 关于 t 的回归系数
beta_z(end,:)=[]; %删除常数项
xishu=w_star(:,1:r)*beta_z; %求Y关于X的回归系数,且是针对标准数据的回归系数,
每一列是一个回归方程
mu_x=mu(1:n);mu_y=mu(n+1:end);
sig_x=sig(1:n);sig_y=sig(n+1:end);
-539-
for i=1:m ch0(i)=mu_y(i)-mu_x./sig_x*sig_y(i)*xishu(:,i); %计算原始数据的回归方程的常数
项
end
for i=1:m xish(:,i)=xishu(:,i)./sig_x'*sig_y(i); %计算原始数据的回归方程的系数,每一列是一
个回归方程
end
sol=[ch0;xish] %显示回归方程的系数,每一列是一个方程,每一列的第一个数是
常数项
save mydata x0 y0 num xishu ch0 xish

画直方图的 MATLAB 程序为:bar(xishu’)

画体能训练的预测图的 MATLAB 程序如下:

如果你要参加数学建模竞赛的话,你会发现很多题都会运用画体能训练的预测图,并将它直观的表示出来,你的目的就达到了。

load mydata
num
ch0=repmat(ch0,num,1);
yhat=ch0+x0*xish; %计算 y 的预测值
y1max=max(yhat);
y2max=max(y0); -542-
ymax=max([y1max;y2max])
cancha=yhat-y0; %计算残差
subplot(2,2,1)
plot(0:ymax(1),0:ymax(1),yhat(:,1),y0(:,1),'*')
subplot(2,2,2)
plot(0:ymax(2),0:ymax(2),yhat(:,2),y0(:,2),'O')
subplot(2,2,3)
plot(0:ymax(3),0:ymax(3),yhat(:,3),y0(:,3),'H')

数学建模 偏最小二乘回归模型相关推荐

  1. 数学建模-偏最小二乘回归模型

    偏最小二乘回归提供一种多对多线性回归建模的方法,特别当两组变量的个数很多,且都存在多重相关性,而观测数据的数量(样本量)又较少时,用偏最小二乘回归建立的模型具有传统的经典回归分析等方法所没有的优点. ...

  2. 数学建模_统计回归模型的梳理与总结:逐步回归,残差检验,自相关

    统计回归模型 (一)逐步回归 前提:当自变量x1,x2,x3-xn过多时,希望进行简化,找到对因变量贡献相对较大的自变量 需要计算出相关系数矩阵 然后根据自变量的贡献系数 找出贡献最大的自变量,与贡献 ...

  3. 【数学建模】最小二乘回归+Java代码实现

    文章目录 最小二乘法的历史 最小二乘法的原理 最小二乘法的公式 Java代码实现最小二乘法 输出预测结果 最小二乘法的历史 1801年,意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星.经过40天 ...

  4. 【预测模型】偏最小二乘回归模型

    目录 1.问题描述 2.代码实现 1.问题描述 在这个数据系统中被测的样本点,是某健身俱乐部的 20 位中年男子.被测变量分为两组.第一组是身体特征指标 X ,包括:体重.腰围.脉搏.第二组变量是训练 ...

  5. matlab做偏最小二乘回归(PLS带精度验证)

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/lusongno1/article/de ...

  6. MATLAB小技巧(21)矩阵分析--偏最小二乘回归

    MATLAB小技巧(21)矩阵分析--偏最小二乘回归 前言 一. MATLAB仿真 二. 仿真结果 三. 小结 前言 MATLAB进行图像处理相关的学习是非常友好的,可以从零开始,对基础的图像处理都已 ...

  7. 应用预测建模第六章线性回归习题6.1【主成分分析,模型的最优参数选择与模型对比 ,多元线性回归,稳健回归,偏最小二乘回归,岭回归,lasso回归,弹性网】

    模型:多元线性回归,稳健回归,偏最小二乘回归,岭回归,lasso回归,弹性网 语言:R语言 参考书:应用预测建模 Applied Predictive Modeling (2013) by Max K ...

  8. 应用预测建模第六章-线性回归-预测化合物溶解度练习-R语言(多元线性回归,稳健回归,偏最小二乘回归,岭回归,lasso回归,弹性网)

    模型:多元线性回归,稳健回归,偏最小二乘回归,岭回归,lasso回归,弹性网 语言:R语言 参考书:应用预测建模 Applied Predictive Modeling (2013) by Max K ...

  9. python pls_【建模应用】PLS偏最小二乘回归原理与应用

    1.回归 "回归"一词来源于对父母身高对于子女身高影响的研究.有人对父母的身高与子女身高做统计,发现除了父母高则子女普遍高的常识性结论外,子女的身高总是"趋向" ...

最新文章

  1. JavaScript实现冒泡排序
  2. 美多商城之用户登录(QQ登录)
  3. [译]通过wp-config来定制你的WordPress
  4. Exception经验之谈,万万没想到被很多团队采纳!
  5. VB高效导入Excel2003和Excel2007文件到MSHFlexGrid控件显示
  6. IE与Firefox的CSS兼容
  7. 论文笔记 《Maxout Networks》 《Network In Network》
  8. ITK:复制过滤器filter
  9. 7种方法帮助企业改进软件维护效率
  10. c#队列取值_C# 队列
  11. 中国移动游戏趋势洞察报告
  12. 跳台阶问题:动态规划,公式
  13. Spring mvc 转发
  14. Leetcode每日一题:167.two-sum-ii-input-array-is-sorted(两数之和Ⅱ-输入有序数组)
  15. Float,Double单双精度在线转换成二进制
  16. 发现一本好书--《Windows用户态程序高效排错 》
  17. 指纹识别算法c++实现
  18. 微型计算机经历了那几个阶段,微型计算机的发展经历了哪几个阶段,各阶段微处理器的主要特征是什么...
  19. 闪讯(NetKeeper)——OpenWrt安装闪讯(NetKeeper)插件(校园网电信宽带闪讯(NetKeeper)认证解决方案)
  20. 一台电脑有几个计算机用户账户,多人共用一台电脑设置多个使用账户的方法

热门文章

  1. 型车载DVD影音系统
  2. 选择AI智能外呼机器人,实现真正的开源节流
  3. 在Windows上如何创建批处理.bat文件
  4. windows mobile ?
  5. dreamweaver html设计,怎么用Dreamweaver设计网页
  6. HTML可以写一个非常漂亮的简历你还不来看看吗?赶紧收藏备用吧!!!
  7. 2018ccpc-wannafly winter camp div2.Day3、Day4
  8. linux串口卡驱动下载,ch350l驱动
  9. 热敏电阻和温度转换公式和程序
  10. 我的程序员之路(15)——2019年前半年总结