因子分析——python
目录
一、起源
二、基本思想
三、算法用途
四、因子分析步骤
五、factor_analyzer库
四、实例详解
1.导入库
2.读取数据
3.充分性检测
3.1 Bartlett's球状检验
3.2 KMO检验
4.选择因子个数
4.1 特征值和特征向量
4.2 可视化展示
4.3 可视化中显示中文不报错
5.因子旋转
5.1 建立因子分析模型
5.2 查看因子方差-get_communalities()
5.3 查看旋转后的特征值
5.4 查看成分矩阵
5.5 查看因子贡献率
6.隐藏变量可视化
7.转成新变量
五·、参考资料
一、起源
因子分析的起源是这样的：1904年英国的一个心理学家发现学生的英语、法语和古典语成绩非常有相关性，他认为这三门课程背后有一个共同的因素驱动，最后将这个因素定义为“语言能力”。
基于这个想法，发现很多相关性很高的因素背后有共同的因子驱动，从而定义了因子分析，这便是因子分析的由来。
二、基本思想
我们再通过一个更加实际的例子来理解因子分析的基本思想：
现在假设一个同学的数学、物理、化学、生物都考了满分，那么我们可以认为这个学生的理性思维比较强，在这里理性思维就是我们所说的一个因子。在这个因子的作用下，偏理科的成绩才会那么高。
到底什么是因子分析？就是假设现有全部自变量x的出现是因为某个潜在变量的作用，这个潜在的变量就是我们说的因子。在这个因子的作用下，x能够被观察到。
因子分析就是将存在某些相关性的变量提炼为较少的几个因子，用这几个因子去表示原本的变量，也可以根据因子对变量进行分类。
因子分子本质上也是降维的过程，和主成分分析（PCA）算法比较类似。
三、算法用途
因子分析法和主成分分析法有很多类似之处。因子分析的主要目的是用来描述隐藏在一组测量到的变量中的一些更基本的，但又无法直接测量到的隐性变量。因子分析法也可以用来综合评价。
其主要思路是利用研究指标的之间存在一定的相关性，从而推想是否存在某些潜在的共性因子，而这些不同的潜在的共性因子不同程度地共同影响着研究指标。因子分析可以在许多变量中找出隐藏的具有代表性的因子，将共同本质的变量归入一个因子，可以减少变量的数目。
四、因子分析步骤
应用因子分析法的主要步骤如下：
对所给的数据样本进行标准化处理
计算样本的相关矩阵R
求相关矩阵R的特征值、特征向量
根据系统要求的累积贡献度确定主因子的个数
计算因子载荷矩阵A
最终确定因子模型
五、factor_analyzer库
利用Python进行因子分析的核心库是：factor_analyzer
pip install factor_analyzer
这个库主要有两个主要的模块需要学习：
factor_analyzer.analyze（重点）
factor_analyzer.factor_analyzer
官网学习地址：factor_analyzer package — factor_analyzer 0.3.1 documentation
四、实例详解
数据来源于中国统计年鉴。
1.导入库
# 数据处理
import pandas as pd
import numpy as np# 绘图
import seaborn as sns
import matplotlib.pyplot as plt
# 因子分析
from factor_analyzer import FactorAnalyzer2.读取数据
df = pd.read_csv("D:\桌面\demo.csv",encoding='gbk')
df输出：
如果不想要城市那一列的话，可以在读取的时候就删除，也可以后面再删
比如，读取时删除
df = pd.read_csv("D:\桌面\demo.csv", index_col=0,encoding='gbk').reset_index(drop=True)
df返回：
然后我们查询一下，数据的缺失值情况：
df.isnull().sum()返回：
然后，我们可以针对的，对数据进行一次处理：
比如删除无效字段的那一列
# 去掉无效字段
df.drop(["变量名1","变量名2","变量名3"],axis=1,inplace=True)或者，删除空值
# 去掉空值
df.dropna(inplace=True)3.充分性检测
在进行因子分析之前，需要先进行充分性检测，主要是检验相关特征阵中各个变量间的相关性，是否为单位矩阵，也就是检验各个变量是否各自独立。
3.1 Bartlett's球状检验
检验总体变量的相关矩阵是否是单位阵（相关系数矩阵对角线的所有元素均为1,所有非对角线上的元素均为零）；即检验各个变量是否各自独立。
如果不是单位矩阵，说明原变量之间存在相关性，可以进行因子分子；反之，原变量之间不存在相关性，数据不适合进行主成分分析
from factor_analyzer.factor_analyzer import calculate_bartlett_sphericitychi_square_value, p_value = calculate_bartlett_sphericity(df)
chi_square_value, p_value返回：
3.2 KMO检验
检查变量间的相关性和偏相关性，取值在0-1之间；KOM统计量越接近1，变量间的相关性越强，偏相关性越弱，因子分析的效果越好。
通常取值从0.6开始进行因子分析
#KMO检验
from factor_analyzer.factor_analyzer import calculate_kmo
kmo_all,kmo_model=calculate_kmo(df)
kmo_model返回：
通过结果可以看到KMO大于0.6，也说明变量之间存在相关性，可以进行分析。
4.选择因子个数
方法：计算相关矩阵的特征值，进行降序排列
4.1 特征值和特征向量
faa = FactorAnalyzer(25,rotation=None)
faa.fit(df)# 得到特征值ev、特征向量v
ev,v=faa.get_eigenvalues()
print(ev,v)返回：
4.2 可视化展示
将特征值和因子个数的变化绘制成图形：
# 同样的数据绘制散点图和折线图
plt.scatter(range(1, df.shape[1] + 1), ev)
plt.plot(range(1, df.shape[1] + 1), ev)# 显示图的标题和xy轴的名字
# 最好使用英文，中文可能乱码
plt.title("Scree Plot")
plt.xlabel("Factors")
plt.ylabel("Eigenvalue")plt.grid() # 显示网格
plt.show() # 显示图形返回：
从上面的图形中，我们明确地看到：选择2或3个因子就可以了
4.3 可视化中显示中文不报错
只需要在画图前，再导入一个库即可，见代码
import matplotlib as mplmpl.rcParams['font.sans-serif'] = ['SimHei'] # 指定默认字体
mpl.rcParams['axes.unicode_minus'] = False # 解决保存图像是负号'-'显示为方块的问题5.因子旋转
5.1 建立因子分析模型
在这里选择，最大方差化因子旋转
# 选择方式： varimax 方差最大化
# 选择固定因子为 2 个
faa_two = FactorAnalyzer(2,rotation='varimax')
faa_two.fit(df)返回：
ratation参数的其他取值情况：
varimax (orthogonal rotation)
promax (oblique rotation)
oblimin (oblique rotation)
oblimax (orthogonal rotation)
quartimin (oblique rotation)
quartimax (orthogonal rotation)
equamax (orthogonal rotation)
5.2 查看因子方差-get_communalities()
查看公因子方差
# 公因子方差
faa_two.get_communalities()返回：
查看每个变量的公因子方差数据
pd.DataFrame(faa_two.get_communalities(),index=df.columns)返回：
5.3 查看旋转后的特征值
faa_two.get_eigenvalues()返回：
pd.DataFrame(faa_two.get_eigenvalues())返回：
5.4 查看成分矩阵
查看它们构成的成分矩阵：
# 变量个数*因子个数
faa_two.loadings_返回：
如果转成DataFrame格式，index就是我们的变量，columns就是指定的因子factor。转DataFrame格式后的数据：
pd.DataFrame(faa_two.loadings_,index=df.columns)返回：
5.5 查看因子贡献率
通过理论部分的解释，我们发现每个因子都对变量有一定的贡献，存在某个贡献度的值，在这里查看3个和贡献度相关的指标：
总方差贡献：variance (numpy array) – The factor variances
方差贡献率：proportional_variance (numpy array) – The proportional factor variances
累积方差贡献率：cumulative_variances (numpy array) – The cumulative factor variances
我们来看一下总方差贡献吧
faa_two.get_factor_variance()返回：
6.隐藏变量可视化
为了更直观地观察每个隐藏变量和哪些特征的关系比较大，进行可视化展示，为了方便取上面相关系数的绝对值：
df1 = pd.DataFrame(np.abs(faa_two.loadings_),index=df.columns)
print(df1)返回：
然后我们通过热力图将系数矩阵绘制出来：
# 绘图plt.figure(figsize = (14,14))
ax = sns.heatmap(df1, annot=True, cmap="BuPu")# 设置y轴字体大小
ax.yaxis.set_tick_params(labelsize=15)
plt.title("Factor Analysis", fontsize="xx-large")# 设置y轴标签
plt.ylabel("Sepal Width", fontsize="xx-large")
# 显示图片
plt.show()# 保存图片
# plt.savefig("factorAnalysis", dpi=500)返回：
7.转成新变量
上面我们已经知道了2个因子比较合适，可以将原始数据转成2个新的特征，具体转换方式为：
faa_two.transform(df)返回：
转成DataFrame格式后数据展示效果更好：
df2 = pd.DataFrame(faa_two.transform(df))
print(df2)返回：
五·、参考资料
1、Factor Analysis：Factor Analysis with Python — DataSklr
2、多因子分析：因子分析(factor analysis)例子–Python | 文艺数学君
3、factor_analyzer package的官网使用手册：factor_analyzer package — factor_analyzer 0.3.1 documentation
4、浅谈主成分分析和因子分析：浅谈主成分分析与因子分析 - 知乎
因子分析——python相关推荐
- 因子分析python代码_关于「因」的诗词(649首)_诗词名句网
全吴临巨溟,百里到沪渎.海物竞骈罗,水怪争渗漉. 狂蜃吐其气,千寻勃然蹙.一刷半天墨,架为欹危屋. 展开全文 怒鲸瞪相向,吹浪山毂毂.倏忽腥杳冥,须臾坼崖谷. 帝命有严程,慈物敢潜伏.嘘之为玄云,弥亘 ...
- python乳腺癌细胞挖掘
随着人们生活水平提高,大家不仅关注如何生活,而且关注如何生活得更好.在这个背景下,精准治疗和预测诊断成为当今热门话题. 据权威医学资料统计,全球大约每13分钟就有一人死于乳腺癌,乳腺癌已成为威胁当代人 ...
- LDA(线性判别分析(普通法))详解 —— python
在这里和大家道个歉,因为我有一篇matlab的LDA和这篇内容大致相同,我就犯懒了,直接复制,没想到公式复制过来全变成了图片,然后造成了,排版有问题,非常难看,真的很抱歉!!!以后大家督促哈,我再犯懒 ...
- LDA(线性判别分析)详解 —— matlab
目录 前言 正题 1.LDA的思想 2. 瑞利商(Rayleigh quotient)与广义瑞利商(genralized Rayleigh quotient) 3. 二类LDA原理 4.多类LDA原理 ...
- IPad上windows远程桌面软件推荐
博主是一个码农,有时候在外边却需要上公司的内网服务器处理一些事物,但是随身又不想带笔记本电脑,就想如何通过IPad去操作,以下是一些记录. 为了更舒适更高效,我买了一个IPAD键盘,冠捷KB701(上 ...
- python因子分析案例_Python——因子分析（KMO检验和Bartlett's球形检验）
因子分析用Python做的一个典型例子 一.实验目的 采用合适的数据分析方法对下面的题进行解答 二.实验要求 采用因子分析方法,根据48位应聘者的15项指标得分,选出6名最优秀的应聘者. 三.代码 i ...
- python vector变量_用Python实现因子分析
因子分析(factor analysis)因子分析的一般步骤factor_analyzer模块进行因子分析使用Python实现因子分析初始化构建数据将原始数据标准化处理 X计算相关矩阵C计算相关矩阵C ...
- python 因子分析_因子分析在python上的实现
因子分析(Factor Analysis)是指研究从变量群中提取共性因子的统计技术,这里的共性因子指的是不同变量之间内在的隐藏因子.例如,一个学生的数学.物理.化学成绩都很好,那么潜在的共性因子可能是 ...
- 基于python的多因子分析
公众号:尤而小屋 作者:Peter 编辑:Peter 大家好,我是Peter~ 最近看了很多的关于因子分析的资料,整理出这篇理论+实战文章分享给大家.后续会出一篇PCA主成分分析的文章,将主成分分析和 ...
最新文章
- 为何很多理财平台扣钱很快，但是提现的时候却很慢？
- php分页操作,PHP实现适用于文件内容操作的分页类
- 思科光传输功率查询_常见的6款40G QSFP+光模块型号介绍及应用
- json符号解释大全_水电图纸图例大全，电气、弱电、给排水常用图例
- JSP的MVC模式(JavaBean、Servlet、JSP)
- MySQL 【Row】下的 Event_type
- linux下关于程序性能和系统性能的工具、方法
- NS 一张SD卡三系统(真实10.2,虚拟SX 11.0.1,虚拟大气层12.02)，重启随意切换，免插线注入
- 计算机ppt实训报告总结,计算机实训总结模板
- 三种经典网页音乐播放器
- notepad 打开php乱码,notepad++打开dll是乱码
- windows7操作系统安装步骤（精简版）
- 研究生毕业2w的工作是什么样的？
- 计算机窗口是什么意思解释,Windows电脑窗口是什么？关于电脑窗口的一些基础知识...
- python全栈开发工程师招聘_浅谈Python全栈开发工程师，让程序员都眼红的职业！...
- 优美图案c语言程序,C语言编程之一个最优美的图案
- 《Kubernetes知识篇：基于Pod进行资源配额管理》
- 精益管理的几大核心理念
- python try/except与try/finally使用
- 普通美国人把钱花哪儿了