2 使用NumPy和SciPy进行数值分析

2.1 基本概念

1 from numpy importarray2 from numpy.random importnormal, randint3 #使用List来创造一组数据

4 data = [1, 2, 3]5 #使用ndarray来创造一组数据

6 data = array([1, 2, 3])7 #创造一组服从正态分布的定量数据

8 data = normal(0, 10, size=10)9 #创造一组服从均匀分布的定性数据

10 data = randint(0, 10, size=10)

2.2 中心位置(均值、中位数、众数)

数据的中心位置是我们最容易想到的数据特征。借由中心位置,我们可以知道数据的一个平均情况,如果要对新数据进行预测,那么平均情况是非常直观地选择。数据的中心位置可分为均值(Mean),中位数(Median),众数(Mode)。其中均值和中位数用于定量的数据,众数用于定性的数据。

对于定量数据(Data)来说,均值是总和除以总量(N),中位数是数值大小位于中间(奇偶总量处理不同)的值:

均值相对中位数来说,包含的信息量更大,但是容易受异常的影响。使用NumPy计算均值与中位数:

1 from numpy importmean, median2

3 #计算均值

4 mean(data)5 #计算中位数

6 median(data)

对于定性数据来说,众数是出现次数最多的值,使用SciPy计算众数:

1 from scipy.stats importmode2

3 #计算众数

4 mode(data)

2.3 发散程度(极差、方差、标准差、变异系数)

对数据的中心位置有所了解以后,一般我们会想要知道数据以中心位置为标准有多发散。如果以中心位置来预测新数据,那么发散程度决定了预测的准确性。数据的发散程度可用极差(PTP)、方差(Variance)、标准差(STD)、变异系数(CV)来衡量,它们的计算方法如下:

极差是只考虑了最大值和最小值的发散程度指标,相对来说,方差包含了更多的信息,标准差基于方差但是与原始数据同量级,变异系数基于标准差但是进行了无量纲处理。使用NumPy计算极差、方差、标准差和变异系数:

1 from numpy importmean, ptp, var, std2

3 #极差

4 ptp(data)5 #方差

6 var(data)7 #标准差

8 std(data)9 #变异系数

10 mean(data) / std(data)

2.4 偏差程度(z-分数)

之前提到均值容易受异常值影响,那么如何衡量偏差,偏差到多少算异常是两个必须要解决的问题。定义z-分数(Z-Score)为测量值距均值相差的标准差数目:

当标准差不为0且不为较接近于0的数时,z-分数是有意义的,使用NumPy计算z-分数:

1 from numpy importmean, std2

3 #计算第一个值的z-分数

4 (data[0]-mean(data)) / std(data)

通常来说,z-分数的绝对值大于3将视为异常。

2.5 相关程度

有两组数据时,我们关心这两组数据是否相关,相关程度有多少。用协方差(COV)和相关系数(CORRCOEF)来衡量相关程度:

协方差的绝对值越大表示相关程度越大,协方差为正值表示正相关,负值为负相关,0为不相关。相关系数是基于协方差但进行了无量纲处理。使用NumPy计算协方差和相关系数:

1 from numpy importarray, cov, corrcoef2

3 data =array([data1, data2])4

5 #计算两组数的协方差

6 #参数bias=1表示结果需要除以N,否则只计算了分子部分

7 #返回结果为矩阵,第i行第j列的数据表示第i组数与第j组数的协方差。对角线为方差

8 cov(data, bias=1)9

10 #计算两组数的相关系数

11 #返回结果为矩阵,第i行第j列的数据表示第i组数与第j组数的相关系数。对角线为1

12 corrcoef(data)

2.6 回顾

方法

说明

numpy

array

创造一组数

numpy.random

normal

创造一组服从正态分布的定量数

numpy.random

randint

创造一组服从均匀分布的定性数

numpy

mean

计算均值

numpy

median

计算中位数

scipy.stats

mode

计算众数

numpy

ptp

计算极差

numpy

var

计算方差

numpy

std

计算标准差

numpy

cov

计算协方差

numpy

corrcoef

计算相关系数

3 使用Matplotlib进行图分析

3.1 基本概念

使用图分析可以更加直观地展示数据的分布(频数分析)和关系(关系分析)。柱状图和饼形图是对定性数据进行频数分析的常用工具,使用前需将每一类的频数计算出来。直方图和累积曲线是对定量数据进行频数分析的常用工具,直方图对应密度函数而累积曲线对应分布函数。散点图可用来对两组数据的关系进行描述。在没有分析目标时,需要对数据进行探索性的分析,箱形图将帮助我们完成这一任务。

在此,我们使用一组容量为10000的男学生身高,体重,成绩数据来讲解如何使用Matplotlib绘制以上图形,创建数据的代码如下:

1 from numpy importarray2 from numpy.random importnormal3

4 defgenData():5 heights =[]6 weights =[]7 grades =[]8 N = 10000

9

10 for i inrange(N):11 whileTrue:12 #身高服从均值172,标准差为6的正态分布

13 height = normal(172, 6)14 if 0 < height: break

15 whileTrue:16 #体重由身高作为自变量的线性回归模型产生,误差服从标准正态分布

17 weight = (height - 80) * 0.7 + normal(0, 1)18 if 0 < weight: break

19 whileTrue:20 #分数服从均值为70,标准差为15的正态分布

21 score = normal(70, 15)22 if 0 <= score and score <= 100:23 grade = 'E' if score < 60 else ('D' if score < 70 else ('C' if score < 80 else ('B' if score < 90 else 'A')))24 break

25 heights.append(height)26 weights.append(weight)27 grades.append(grade)28 returnarray(heights), array(weights), array(grades)29

30 heights, weights, grades = genData()

View Code

3.2 频数分析

3.2.1 定性分析(柱状图、饼形图)

柱状图是以柱的高度来指代某种类型的频数,使用Matplotlib对成绩这一定性变量绘制柱状图的代码如下:

1 from matplotlib importpyplot2

3 #绘制柱状图

4 defdrawBar(grades):5 xticks = ['A', 'B', 'C', 'D', 'E']6 gradeGroup ={}7 #对每一类成绩进行频数统计

8 for grade ingrades:9 gradeGroup[grade] = gradeGroup.get(grade, 0) + 1

10 #创建柱状图

11 #第一个参数为柱的横坐标

12 #第二个参数为柱的高度

13 #参数align为柱的对齐方式,以第一个参数为参考标准

14 pyplot.bar(range(5), [gradeGroup.get(xtick, 0) for xtick in xticks], align='center')15

16 #设置柱的文字说明

17 #第一个参数为文字说明的横坐标

18 #第二个参数为文字说明的内容

19 pyplot.xticks(range(5), xticks)20

21 #设置横坐标的文字说明

22 pyplot.xlabel('Grade')23 #设置纵坐标的文字说明

24 pyplot.ylabel('Frequency')25 #设置标题

26 pyplot.title('Grades Of Male Students')27 #绘图

28 pyplot.show()29

30 drawBar(grades)

绘制出来的柱状图的效果如下:

而饼形图是以扇形的面积来指代某种类型的频率,使用Matplotlib对成绩这一定性变量绘制饼形图的代码如下:

1 from matplotlib importpyplot2

3 #绘制饼形图

4 defdrawPie(grades):5 labels = ['A', 'B', 'C', 'D', 'E']6 gradeGroup ={}7 for grade ingrades:8 gradeGroup[grade] = gradeGroup.get(grade, 0) + 1

9 #创建饼形图

10 #第一个参数为扇形的面积

11 #labels参数为扇形的说明文字

12 #autopct参数为扇形占比的显示格式

13 pyplot.pie([gradeGroup.get(label, 0) for label in labels], labels=labels, autopct='%1.1f%%')14 pyplot.title('Grades Of Male Students')15 pyplot.show()16

17 drawPie(grades)

绘制出来的饼形图效果如下:

3.2.2 定量分析(直方图、累积曲线)

直方图类似于柱状图,是用柱的高度来指代频数,不同的是其将定量数据划分为若干连续的区间,在这些连续的区间上绘制柱。使用Matplotlib对身高这一定量变量绘制直方图的代码如下:

1 from matplotlib importpyplot2

3 #绘制直方图

4 defdrawHist(heights):5 #创建直方图

6 #第一个参数为待绘制的定量数据,不同于定性数据,这里并没有事先进行频数统计

7 #第二个参数为划分的区间个数

8 pyplot.hist(heights, 100)9 pyplot.xlabel('Heights')10 pyplot.ylabel('Frequency')11 pyplot.title('Heights Of Male Students')12 pyplot.show()13

14 drawHist(heights)

直方图对应数据的密度函数,由于身高变量是属于服从正态分布的,从绘制出来的直方图上也可以直观地看出来:

使用Matplotlib对身高这一定量变量绘制累积曲线的代码如下:

1 from matplotlib importpyplot2

3 #绘制累积曲线

4 defdrawCumulativeHist(heights):5 #创建累积曲线

6 #第一个参数为待绘制的定量数据

7 #第二个参数为划分的区间个数

8 #normed参数为是否无量纲化

9 #histtype参数为'step',绘制阶梯状的曲线

10 #cumulative参数为是否累积

11 pyplot.hist(heights, 20, normed=True, histtype='step', cumulative=True)12 pyplot.xlabel('Heights')13 pyplot.ylabel('Frequency')14 pyplot.title('Heights Of Male Students')15 pyplot.show()16

17 drawCumulativeHist(heights)

累积曲线对应数据的分布函数,由于身高变量是属于服从正态分布的,从绘制出来的累积曲线图上也可以直观地看出来:

3.3 关系分析(散点图)

在散点图中,分别以自变量和因变量作为横纵坐标。当自变量与因变量线性相关时,在散点图中,点近似分布在一条直线上。我们以身高作为自变量,体重作为因变量,讨论身高对体重的影响。使用Matplotlib绘制散点图的代码如下:

from matplotlib importpyplot#绘制散点图

defdrawScatter(heights, weights):#创建散点图

#第一个参数为点的横坐标

#第二个参数为点的纵坐标

pyplot.scatter(heights, weights)

pyplot.xlabel('Heights')

pyplot.ylabel('Weights')

pyplot.title('Heights & Weights Of Male Students')

pyplot.show()

drawScatter(heights, weights)

我们在创建数据时,体重这一变量的确是由身高变量通过线性回归产生,绘制出来的散点图如下:

3.4 探索分析(箱形图)

在不明确数据分析的目标时,我们对数据进行一些探索性的分析,通过我们可以知道数据的中心位置,发散程度以及偏差程度。使用Matplotlib绘制关于身高的箱形图的代码如下:

1 from matplotlib importpyplot2

3 #绘制箱形图

4 defdrawBox(heights):5 #创建箱形图

6 #第一个参数为待绘制的定量数据

7 #第二个参数为数据的文字说明

8 pyplot.boxplot([heights], labels=['Heights'])9 pyplot.title('Heights Of Male Students')10 pyplot.show()11

12 drawBox(heights)

绘制出来的箱形图中,包含3种信息:

Q2所指的红线为中位数

Q1所指的蓝框下侧为下四分位数,Q3所指的蓝框上侧为上四分位数,Q3-Q1为四分为差。四分位差也是衡量数据的发散程度的指标之一。

上界线和下界线是距离中位数1.5倍四分位差的线,高于上界线或者低于下界线的数据为异常值。

3.5 回顾

方法

说明

bar

柱状图

pie

饼形图

hist

直方图&累积曲线

scatter

散点图

boxplot

箱形图

xticks

设置柱的文字说明

xlabel

横坐标的文字说明

ylabel

纵坐标的文字说明

title

标题

show

绘图

4 总结

描述性统计是容易操作,直观简洁的数据分析手段。但是由于简单,对多元变量的关系难以描述。现实生活中,自变量通常是多元的:决定体重不仅有身高,还有饮食习惯,肥胖基因等等因素。通过一些高级的数据处理手段,我们可以对多元变量进行处理,例如特征工程中,可以使用互信息方法来选择多个对因变量有较强相关性的自变量作为特征,还可以使用主成分分析法来消除一些冗余的自变量来降低运算复杂度。

5 参考资料

python画直方图成绩分析-使用Python进行描述性统计相关推荐

  1. python画直方图成绩分析-使用Python绘制直方图和正态分布曲线

    本文主要介绍两个内容: 如何使用记事本生成包含某一数据集的CSV文件: 如何使用Python绘制给定数据集的直方图和正态分布曲线. 1. 使用记事本创建CSV文件 ① 新建一个文本文件,打开后输入数据 ...

  2. python画直方图成绩分析-python plotly绘制直方图实例详解

    计算数值出现的次数 import cufflinks as cf cf.go_offline() import numpy as np import pandas as pd set_slippage ...

  3. python画直方图成绩分析-Python数据分析:直方图及子图的绘制

    1.直方图的绘制也需要用到matplotlib下的pylab,只不过在绘制折线图时我们采用的是plot(),而绘制直方图时我们需要采用hist().由于在绘制过程中缺少真实数据,我在这里采用np.ra ...

  4. 用Python制作一个成绩分析程序

    用Python做一个成绩分析程序 第一步:导库 第二步:导入数据 第三步:输出数据并建立分隔栏 第四步:完成分数统计并画出饼图 本程序可以实现画班级成绩饼图的效果. 第一步:导库 from pyech ...

  5. python 描述性分析的包_pasty描述性统计包

    http://patsy.readthedocs.io/en/latest/overview.html pasty功能:线性分析里因素分析(方差分析) and Patsy takes care of ...

  6. python画画用哪个软件_如何用python画韦恩图? 使用python的tutul工具,画一朵雏菊花...

    使用python的tutul工具,画一朵雏菊花 如何用python画韦恩图?不管什么时候,给心留一点空间.人生一世,不用什么都要去争,不是什么都要去抢,欲望少一点,满足多一点,这样才会活得潇洒一点,人 ...

  7. python画直方图代码-Python绘制直方图及子图的方法分析(代码示例)

    本篇文章给大家带来的内容是关于Python绘制直方图及子图的方法分析(代码示例),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助. 1.直方图的绘制也需要用到matplotlib下的py ...

  8. python 画蜘蛛_R绘图 vs Python绘图(散点图、折线图、直方图、条形图、箱线图、饼图、热力图、蜘蛛图)...

    写在前面:为啥不用excel绘制这些图,用PoweBI,帆软BI等可视化软件来绘图,不是更方便吗?的确,这些工具都很方便,但同时,它们显得很呆,不够灵活,更为致命的是,它们绘制出的图形,分辨率不够,用 ...

  9. python画简便的图片-用python简单处理图片(5):图像直方图

    我们先来看两个函数reshape和flatten: 假设我们先生成一个一维数组: vec=np.arange(15) print vec 显示为: [ 0 1 2 3 4 5 6 7 8 9 10 1 ...

最新文章

  1. AngularJS学习的一些网址
  2. Android4.2.2源码目录结构分析
  3. Go channel 的妙用
  4. HTML/CSS基础知识(四)
  5. linphone-android移植
  6. html提交表单给php邮件发送,在HTML表单中通过PHP自动发送电子邮件
  7. MFC----ListBox用法
  8. Android 下拉刷新用法
  9. SpringBoot启动自动执行sql脚本
  10. AI2019下载Adobe Illustrator CC2019安装教程
  11. ubuntu格式化磁盘并挂载
  12. Ubuntu 22.04 双网卡网关设置报错:Conflicting default route declarations for IPv4
  13. SQL SERVER 使用stuff函数进行分组且合并
  14. packet tracer配置ssh、telnet
  15. 系统性能优化的十大策略(强烈推荐,建议收藏)
  16. BlockingQueue解析
  17. 我为何一直强调外包公司别去
  18. 微机原理与接口技术 学习笔记(五) 8255(可编程并行接口芯片) 与 8253(可编程定时/计数器)
  19. 谷歌的ie9.js ie8.js ie7.js 解决IE5、IE6、IE7、IE8与W3C标准的冲突
  20. 【鸡汤里面的干货】农村娃娃毕业不到四年在深圳核心地段安家置业的背后是什么在支撑?

热门文章

  1. 如何将adb shell里面查到的文件复制到本地电脑
  2. Could not find method google() for arguments [] on repository container.
  3. TLS与SSL之间关系——SSL已经被IEFT组织废弃,你可以简单认为TLS是SSL的加强版
  4. LSM树——放弃读能力换取写能力,将多次修改放在内存中形成有序树再统一写入磁盘,查找复杂度O(k*log(n)),结合bloom filter提高查找性能...
  5. 前端错误信息收集(errorEruda)解析
  6. python excle写数据
  7. 3.1.7 封装的应用
  8. Linux 常用命令九 tar
  9. Bootstrap(一):CSS--栅格系统
  10. java开源的cms系统jsp cms系统