因子分析 factor analysis (二 ) ：因子分析模型

因子分析系列博文:

因子分析 factor analysis (一 )：模型的理论推导

因子分析 factor analysis (三) ：因子载荷矩阵的估计方法

因子分析 factor analysis (四) ：因子旋转（正交变换）

因子分析 factor analysis (五) ：因子得分

因子分析 factor analysis (六) ：用因子分析法进行综合评价

因子分析 factor analysis (七) ：因子分析法与主成分分析的异同

一因子分析的原理

二因子分析模型 2.1 数学模型 2.2 因子分析模型的性质

2.3 因子载荷矩阵中的几个统计性质

一因子分析的原理

因子分析(factor analysis)是一种数据简化的技术。它通过研究众多变量之间的内部依赖关系，探求观测数据中的基本结构，并用少数几个假想变量来表示其基本的数据结构。这几个假想变量能够反映原来众多变量的主要信息。原始的变量是可观测的显在变量，而假想变量是不可观测的潜在变量，称为因子。

因子分析与回归分析不同，因子分析中的因子是一个比较抽象的概念，而回归因子有非常明确的实际意义。

主成分分析分析与因子分析也有不同，主成分分析仅仅是变量变换，而因子分析需要构造因子模型。

主成分分析:原始变量的线性组合表示新的综合变量，即主成分。

因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。

二因子分析模型

2.1 数学模型

2.2 因子分析模型的性质

（1）原始变量 X 的协方差矩阵的分解

（2）载荷矩阵不是唯一的

设 T 为一个 $p\times p$ 的正交矩阵，令 $\tilde{A} =AT ,\tilde{F}=T^{T}F$ ,则模型可以表示为 $X=\mu +\tilde{A}\tilde{F}+\varepsilon$

2.3 因子载荷矩阵中的几个统计性质

2.3.1 因子载荷 $a_{ij}$ 的统计意义

因子载荷 $a_{ij}$ 是第 $i$ 个变量与第 $j$ 个公共因子的相关系数，反映了第i个变量与第 j
个公共因子的相关重要性。绝对值越大，相关的密切程度越高。

2.3.2 变量共同度的统计意义

变量 $X_{i}$ 的共同度是因子载荷矩阵的第i行的元素的平方和，记为 $h_{i}^{2}=\sum_{j=1}^{m}a_{ij}^{2}$

对（49）式两边求方差，得

可以看出所有的公共因子和特殊因子对变量 $X_{i}$ 的贡献为1。如果 $\sum_{j=1}^{m}a_{ij}^{2}$ 非常靠近1， $\sigma _{i}^{2}$ 非常小，则因子分析的效果好，从原变量空间到公共因子空间的转化效果好。

2.3.3 公共因子 $F_{j}$ 方差贡献的统计意义

因子载荷矩阵中各列元素的平方和 $S_{j}=\sum_{i=1}^{p}a_{ij}^{2}$ 称为 $F_{j} \left ( j=1,2,...,m \right )$ 对所有的 $X_{i}$ 的方差贡献和，衡量 $F_{j}$ 的相对重要性。

因子分析系列博文:

因子分析 factor analysis (一 )：模型的理论推导

因子分析 factor analysis (二 ) ：因子分析模型

因子分析 factor analysis (三) ：因子载荷矩阵的估计方法

因子分析 factor analysis (四) ：因子旋转（正交变换）

因子分析 factor analysis (五) ：因子得分

因子分析 factor analysis (六) ：用因子分析法进行综合评价

因子分析 factor analysis (七) ：因子分析法与主成分分析的异同

因子分析 factor analysis (二 ) ：因子分析模型相关推荐

因子分析 factor analysis (七) ：因子分析法与主成分分析的异同
因子分析系列博文: 因子分析 factor analysis (一 ):模型的理论推导因子分析 factor analysis (二 ) : 因子分析模型因子分析 factor analysis ...
因子分析 factor analysis (五) ：因子得分
因子分析系列博文: 因子分析 factor analysis (一 ):模型的理论推导因子分析 factor analysis (二 ) : 因子分析模型因子分析 factor analysis ...
因子分析 factor analysis (三) ：因子载荷矩阵的估计方法
因子分析系列博文: 因子分析 factor analysis (一 ):模型的理论推导因子分析 factor analysis (二 ) : 因子分析模型因子分析 factor analysis ...
浅谈因子分析（Factor Analysis）
问题之前我们考虑的训练数据中样例的个数m都远远大于其特征个数n,这样不管是进行回归.聚类等都没有太大的问题.然而当训练样例个数m太小,甚至m<<n的时候,使用梯度下降法进行回归时,如果初 ...
因子分析（Factor Analysis）
1 问题之前我们考虑的训练数据中样例的个数m都远远大于其特征个数n,这样不管是进行回归.聚类等都没有太大的问题.然而当训练样例个数m太小,甚至m<<n的时候,使用梯度下降法进行回归时 ...
因子分析（Factor Analysis）最大似然法
1 问题之前我们考虑的训练数据中样例的个数m都远远大于其特征个数n,这样不管是进行回归.聚类等都没有太大的问题.然而当训练样例个数m太小,甚至m<<n的时候,使用梯度下降法进行回归时,如 ...
因子分析(factor analyis)
转自:http://www.cnblogs.com/jerrylead/archive/2011/05/11/2043317.html 1 问题之前我们考虑的训练数据中样例的个数m都远远大于其特征个 ...
MachineLearning 2. 因子分析（Factor Analysis）
点击关注,桓峰基因桓峰基因生物信息分析,SCI文章撰写及生物信息基础知识学习:R语言学习,perl基础编程,linux系统命令,Python遇见更好的你 68篇原创内容公众号关注公众号,桓峰基 ...
R语言探索性因子分析（Exploratory factor analysis）
R语言探索性因子分析(Exploratory factor analysis) 因子分析的方法一般有两种:一是探索性因子分析(EFA):二是验证性因子分析(CFA).探索性因子分析有助于建立新的假设. ...
第九讲：因子分析（Factor analysis）
如果有一个多个高斯模型混合(a mixture of several Gaussians)而来的数据集 x ( i ) ∈ R n x^{(i)} ∈ R^n x(i)∈Rn ,那么就可以用期望最大化 ...

因子分析 factor analysis (二 ) ：因子分析模型

一因子分析的原理