python pls_偏最小二乘（pls）回归分析

姓名：车文扬学号：16020199006

转载至：https://blog.csdn.net/revitalise/article/details/82530693，有删节

【嵌牛导读】：偏最小二乘回归分析

【嵌牛鼻子】：pls

【嵌牛提问】：偏最小二乘回归基本思想是什么？

【嵌牛正文】：

偏最小二乘用于查找两个矩阵(X和Y)的基本关系，即一个在这两个空间对协方差结构建模的隐变量方法。偏最小二乘模型将试图找到X空间的多维方向来解释Y空间方差最大的多维方向。偏最小二乘回归特别适合当预测矩阵比观测的有更多变量，以及X的值中有多重共线性的时候。通过投影预测变量和观测变量到一个新空间来寻找一个线性回归模型。

一、数学原理

为了实现偏最小二乘回归的基本思想，要求t1和u1的协方差最大，即求解下面的优化问题

利用拉格朗日乘数法求出w1和c1满足

偏最小二乘回归的成分、残差矩阵有许多优良的性质，其中之一是成分之间是相互正交的，这在一定程度上消除了多重线性相关性。偏最小二乘回归算法的实质是按照协方差极大化准则，在分解自变量变量数据矩阵 X 的同时，也在分解因变量数据矩阵 Y，并且建立相互对应的解释隐变量与反应隐变量之间的回归关系方程，充分体现了偏最小二乘回归的基本思想。

python pls_偏最小二乘（pls）回归分析相关推荐

偏最小二乘(PLS)原理分析Python实现
目录 1 偏最小二乘的意义 2 PLS实现步骤 3 弄懂PLS要回答的问题 4 PLS的原理分析 4.1 自变量和因变量的主成分求解原理 4.1.1 确定目标函数 4.1 ...
多元线性回归算法: 线性回归Linear Regression、岭回归Ridge regression、Lasso回归、主成分回归PCR、偏最小二乘PLS
0. 问题描述输入数据:X=(x1,x2,....,xm)\mathbf{X} = (x_1, x_2,...., x_m)X=(x1,x2,....,xm), 相应标签 Y=(y1,y2,. ...
r语言pls分析_R语言中的偏最小二乘PLS回归算法
偏最小二乘回归: 我将围绕结构方程建模(SEM)技术进行一些咨询,以解决独特的业务问题.我们试图识别客户对各种产品的偏好,传统的回归是不够的,因为数据集的高度分量以及变量的多重共线性.PLS是处理这些 ...
sparse pls MATLAB,偏最小二乘PLS和一些光谱预处理的matlab程序
[实例简介] 在网上下载的一些关于PLS和光谱预处理的matlab程序,程序比较多,都放在一起的,有需要的可以看看 [实例截图] [核心代码] pls1 └── pls1 ├── GA │ ├── ...
xgboost回归预测模型_偏最小二乘回归分析法从预测角度对所建立的回归模型进行比较...
在实际问题中,经常遇到需要研究两组多重相关变量间的相互依赖关系,并研究用一组变量(常称为自变量或预测变量)去预测另一组变量(常称为因变量或响应变量), 除了最小二乘准则下的经典多元线性回归分析(MLR ...
偏最小二乘回归和偏最小二乘路径模型
1. 偏最小二乘回归(Partial least squares regression, PLS回归) 偏最小二乘 (PLS) 回归是将预测变量减少为较小的一组不相关分量并对这些分量(而不是原始数据) ...
ESL3.5 学习笔记（主成分回归，偏最小二乘回归步骤详解）
3.5 运用派生输入方向的方法这是一篇有关<统计学习基础>,原书名The Elements of Statistical Learning的学习笔记,该书学习难度较高,有很棒的学者将其翻 ...
ESL第十八章高维问题对角LDA/最近收缩重心、RDA/对偶优化/L2带核、函数型数据/Fused Lasso/字符串核/距离矩阵、有监督PCA/生存分析/偏最小二乘/预处理、多重检验/FDR
(最后一章了,加油!) 目录 18.1 当 p p p远大于 N N N 18.2 对角线性判别分析Diagonal Linear Discriminant Analysis和最近收缩重心Neares ...
python pls_【建模应用】PLS偏最小二乘回归原理与应用
1.回归 "回归"一词来源于对父母身高对于子女身高影响的研究.有人对父母的身高与子女身高做统计,发现除了父母高则子女普遍高的常识性结论外,子女的身高总是"趋向" ...

python pls_偏最小二乘（pls）回归分析

python pls_偏最小二乘（pls）回归分析相关推荐

最新文章

热门文章