什么是主成分分析？经典案例解析变量降维

1、作用

主成分分析将多个有一定相关性的指标进行线性组合，以最少的维度解释原数据中尽可能多的信息为目标进行降维，降维后的各变量间彼此线性无关，最终确定的新变量是原始变量的线性组合，且越往后主成分在方差中的比重也小，综合原信息的能力越弱，与因子分析不同的是，因子分析是利用少数几个公共因子去解释较多个要观测变量中存在的关系，它不是对原始变量的重新组合。

2、输入输出描述

输入：2个或两个以上的定量变量（假设为N个变量）
输出：最低可降维成1维（一个变量，一般用于综合评价），最多可降维成N个变量（一般用于数据脱敏），同时可以获取降维后各个变量的组成权重，用于代表原先变量的数据保留情况。

3、案例示例

示例：某金融服务公司为了了解贷款客户的信用程度，评价客户的信用等级，采用信用评级常用的5C(能力，品格，担保，资本，环境)方法，说明客户违约的可能性。某金融服务公司为了了解贷款客户的信用程度，评价客户的信用等级，采用信用评级常用的5C(能力，品格，担保，资本，环境)方法，说明客户违约的可能性。

品格:指客户的名誉；
能力:指客户的偿还能力；
资本:指客户的财务实力和财务状况；
担保:指对申请贷款项担保的覆盖程度；
环境:指外部经济政策环境对客户的影响

4、案例数据

主成分分析案例数据

5、案例操作

Step1：新建项目；
Step2：上传数据；
Step3：选择对应数据打开后进行预览，确认无误后点击开始分析；

step4：选择【主成分分析】；
step5：查看对应的数据数据格式，【主成分分析】要求输入数据为放入 [定量] 自变量X（变量数≥2）。
step6：选择主成分个数（注意：主成分个数的选择，依赖于个人能接受的最大主成分个数，而特征根选择则是根据设定的阈值为界限，以大于该界限对应的主成分个数作为选取的主成分个数，默认为1。）
step7：点击【开始分析】，完成全部操作。

6、输出结果分析

输出结果1：KMO检验和Bartlett的检验

图表说明： KMO检验的结果显示，KMO的值为0.796，同时，Bartlett球形检验的结果显示，显著性P值为0.000***，水平上呈现显著性，拒绝原假设，即表明各变量间具有相关性，主成分分析的结果是有效的，结果可靠程度为一般。

输出结果2：方差解释表格

图表说明： 上表为总方差解释表格，主要是看主成分对于变量解释的贡献率（可以理解为究竟需要多少主成分才能把变量表达为100%），一般都要表达到90%以上才可以，否则就要调整主成分数量。由表可知，前三个主成分累积解释的贡献率达到93.192%(一般情况下大于90%即可），说明使用前三个主成分就能够很好地评价客户的信用等级。

输出结果3：碎石图

图表说明： 当折线由陡峭突然变得平稳时，陡峭到平稳对应的因子个数即为参考提取因子个数。由图可知，从第三个主成分开始，主成分的特征根值开始缓慢的下降，且在满足主成分累积解释的贡献率达到90%的情况下，我们可以选择三个主成分。

输出结果4：因子载荷系数表

图表说明： 上表为因子载荷系数表，可以分析到每个主成分中隐变量的重要性。第一个主成分与能力、品格、资本、担保这四个变量的相关程度较大，可以概括为“个人信用品质”；第二个主成分主与环境这一个变量的相关程度较大，可以概括为“外部政策影响”。（注意：因子载荷矩系数表在主成分分析的意义不大）

输出结果5：因子载荷矩阵热力图

图表说明：上图为载荷矩阵热力图，可以分析到每个主成分中隐变量的重要性，热力图颜色越深说明相关性越大。第一个主成分与能力、品格、资本、担保这四个变量的相关程度较大，第二个主成分主与环境这一个变量的相关程度较大。（注意：因子载荷矩阵热力图在主成分分析的意义不大）

输出结果6：因子载荷象限分析

图表说明：因子载荷图通过将多因子降维成双主成分或者三主成分，通过象限图的方式呈现主成分的空间分布。
如果提取3个主成分时，则呈现三维载荷因子散点图。（注意：因子载荷象限分析在主成分分析的意义不大）。

输出结果7：成分矩阵表

图表说明：由上表可得到主成分分析降维后的计算公式：
模型的公式：
F1=0.249×资本+0.257×能力+0.259×品格+0.253×担保+0.152×环境
F2=-0.22×资本-0.28×能力-0.224×品格+0.121×担保+1.014×环境
F3=1.164×资本+0.438×能力-0.693×品格-1.096×担保+0.351×环境
由上可以得到： F=(0.708/0.932)×F1+(0.164/0.932)×F2+(0.06/0.932)×F3

输出结果8：因子权重分析
主成分权重结果

名称	方差解释率	累计方差解释率	权重
主成分1	0.708	0.708	76.007%
主成分2	0.164	0.872	17.589%
主成分3	0.06	0.932	6.405%

图表说明： 主成分分析的权重计算结果显示，主成分1的权重为76.007%、主成分2的权重为17.589%、主成分3的权重为6.405%，其中指标权重最大值为主成分1（76.007%），最小值为主成分3（6.405%）。

输出结果9：综合得分表

排名	行索引	综合得分	主成分1	主成分2	主成分3
1	15	1.8538295995859835	2.3248216300730853	0.9779487873062188	-1.3303185831711435
2	75	1.4723957232759053	1.544483584272385	1.2945857359568032	1.1051978488533383
3	38	1.4298921242938714	1.5887697372260392	1.4345302365976729	-0.46833778766180745
4	73	1.4008217827223286	1.6464177131142415	0.7084566988169066	0.3875996122435289
5	79	1.3732757944415963	1.3877097295577525	0.6550270848498913	3.1744695634450593
6	85	1.2953101116714913	1.6990247160343628	0.1316428119766888	-0.3000846705856502
7	78	1.1059035231396432	1.8868381363056903	-1.258557370289778	-1.668501316949743
8	42	1.0220092257911602	1.6020659364712124	-0.7066790149104903	-1.1144512450972166
9	77	1.0083686566692855	0.9119272719161094	1.626777380958888	0.45459014754220217
10	20	0.9895379357348344	0.9742050138033878	1.7206025988609701	-0.8361828333192036

图表说明：由综合得分可知，其中第15位客户的综合得分最高，也就是他的信用等级最高，其次是第75位客户。（注意：综合得分在主成分分析的意义不大）

7、注意事项

主成分要求变量之间的共线性或相关关系比较强，否则不能通过KMO检验和Bartlett球形检验；
主成分分析倾向于降维，从而达到简化系统结构，抓住问题实质的目的。（可侧重于输出结果2、输出结果3、输出结果8）；
主成分分析时通常需要综合自己的专业知识，以及软件结果进行综合判断，即使是特征根值小于1，也一样可以提取主成分；
KMO值为null不存在可能导致的原因为：

（1）样本量过少容易导致相关系数过高，一般希望分析样本量大于5倍分析项个数；
（2）各个分析项之间的相关关系过高或过低。

8、模型理论

主成分分析法是运用“降维”思想，把多个指标变换成少数综合指标的多元统计方法，这里的综合指标就是主成分。每个主成分都是原始变量的线性组合，彼此相互独立，并保留了原始变量绝大部分信息。其本质是通过原始变量的相关性，寻求相关变量的综合替代对象，并且保证了转化过程中的信息损失最小。
根据标准化后的数据集计算协方差矩阵Ｒ:

计算矩阵Ｒ的特征值 λ１≥λ２≥…≥λｎ≥０及对应的特征向量ｕ１ ,ｕ２ ,…,ｕｎ ,其中ｕｊ＝ (ｕ１j,ｕ２j, …,ｕnj) ,ｕnj表示第j个特征向量的第n个分量; 由特征向量组成n个新的指标变量:

式中,ｙ1 是第1主成分,ｙ2是第2主成分,…,ｙn 是第n主成分。计算各主成分ｙj贡献率ｂj(j=1,2,...,n) 及ｙ1,ｙ2 ,…,ｙn (ｐ≤ｎ)的累计贡献率 αｐ。

9、参考文献

[1]何晓群.多元统计分析.北京：中国人民大学出版社，2012.
[2] 王伟，赵明.主成分分析法在航材分类指标体系构建中的应用[J].舰船电子工程，2019，39 (1): 118-120.
[3]丁敬国,郭锦华. 基于主成分分析协同随机森林算法的热连轧带钢宽度预测[J]. 东北大学学报（自然科学版）2021,42(9):1268-1274,1289.

10、学习网站

SPSSPRO-免费专业的在线数据分析平台