总第194篇/张俊红

我们在前面讲过数据的正态性检验:正态性检验,介绍了检验数据是否正态的两种方法。这一节我们来看一下,如果数据不满足正态时该怎么办,答案就是将非正态数据通过Box-Cox变换进一步转换成符合正态分布的数据。这一篇就给大家分享下Box-Cox变换的具体内容。

Box-Cox变换是多种变换的总称,具体的公式如下:

上面公式中y(λ)表示变换后的值,根据λ的值不同,属于不同的变换,当λ值取以下特定的几个值时就变成了特殊的数据变换:

  • 当λ=0时,Box-Cox变换就变成了对数变换,y(λ) = ln(y);

  • 当λ=0.5时,Box-Cox变换就变成了平方根变换,y(λ) = y^1/2

  • 当λ=1时,Box-Cox变换变换就是它本身,y(λ) = y

  • 当λ=2时,Box-Cox变换就变成了平方变化,y(λ) = y^2

  • 当λ=-1时,Box-Cox变换就变成了倒数变化,y(λ) = 1/y。

λ值除了可以选择上述特定的值以外,还可以选择其他值,那当我们拿到一份非正态数据时,我们应该取λ值等于多少对齐进行变换呢?这个又该怎么定呢?

λ值取多少,我们可以利用Python中现成的函数,让函数自动去探索,然后返回给我们最优的值是多少就可以。这个函数就是boxcox_normmax,这个函数用来计算给定的非正态数据对应的最优λ值。

boxcox_normmax(x[, brack, method])参数:x:非正态数据brack: λ值搜索间隔,默认即可method:计算λ值的方法,有pearsonr、mle、all三种可选,默认为pearsonr,即按照相关性的方法去计算,如果选all,则会返回各种方法的计算结果返回值:返回λ值

当我们得到最优的λ值以后,就可以根据λ值进行数据转换了,这个时候可以用另外的一个函数boxcox,这个函数是根据指定的λ值对原始数据进行转换。

boxcox(x[, lmbda, alpha])参数:x:非正态数据lambda:转换的λ值alpha:计算置信区间时所用到的alpha值返回值:boxcox:经过转换以后的数据maxlog:如果在传入时lambda参数值没有指定的话,该函数也会计算一个λ值出来(min_ci, max_ci):如果lambda参数为空且alpha参数不为空时,会计算maxlog的一个置信区间出来

我们上面讲了计算λ值有不同的方法,那到底哪种方法计算出来的λ值更加可靠一些呢?我们可以通过另外一个函数boxcox_normplot来查看到底哪种方法计算出来的λ值更可靠。

boxcox_normplot(x, la, lb, plot=None, N=80)参数:x:非正态数据la,lb:λ值的上下界plot:绘图的画布N:横轴的坐标点个数返回值:lmbdas:通过box-cox算出来的多个λ值ppcc:相关系数,可以理解成λ值的可靠程度

以上就是box-cox变换过程中用到的三个不同的函数,接下来我们给大家实际演示一下这三个函数如何使用。

首先,我们导入一份非正态数据,并绘制这份数据的概率密度图,需要这份数据的在公众号后台回复非正态数据,即可获得。

import pandas as pd
import numpy as np
import seaborn as sns
df = pd.read_excel(r"非正态数据集.xlsx")
sns.distplot(df["price"],color = "#D86457")

通过上面的概率密度图,我们可以看出这是一份偏态数据,也就是非正态。接下来我们先利用boxcox_normmax函数来寻找最优λ值,代码如下:

from scipy import stats
stats.boxcox_normmax(df["price"])
---
返回:0.17896037184755484

在获得最优λ值以后,我们再利用boxcox函数来进行数据转换,具体代码如下:

x = stats.boxcox(df["price"],stats.boxcox_normmax(df["price"]))
sns.distplot(x,color = "#D86457")

对转换后的数据再次进行概率密度图的绘制,我们可以看到,数据就很正态了。

接下来再来我们再看一下我们计算出来的λ值是不是最优的,具体代码如下:

fig = plt.figure()
ax = fig.add_subplot(111)
stats.boxcox_normplot(df["price"], -20, 20,plot = ax)
plt.axvline(x = stats.boxcox_normmax(df["price"]),color = "#D86457")
plt.show()

中间红色那条线的位置就是我们求出来最优的λ值,结果很吻合。

以上就是关于Box-Cox变换的理论和实战内容,大家多多练习。

分析遇到非正态数据该怎么办?相关推荐

  1. 过程能力分析02—Box-Cox变换:非正态数据能力分析的处理办法

    在上一文章<过程能力分析01-不要忽略"稳定">中,我们强调了做过程能力分析之前需要稳定的过程,在本篇文章中我们来讨论另外一个前提-数据正态.其中我们在之前的文章中对正 ...

  2. 数据分析方法:非正态数据转化成正态数据

    数据分析方法:非正态数据转化成正态数据 大部分的数据分析都希望原始数据是满足正态分布的定距变量.然而,显示是残酷的,在各种研究中,常常需要面对非正态分布的定距数据.为了解决数据的正态性问题,数学家们总 ...

  3. Nhanes临床数据库挖掘教程2—非正态数据的基线表绘制(2)

    美国国家健康与营养调查( NHANES, National Health and Nutrition Examination Survey)是一项基于人群的横断面调查,旨在收集有关美国家庭人口健康和营 ...

  4. 优思学院|六西格玛中的非正态的数据如何处理?教你这一招

    正态分佈的假设 正态分布的假设,经常应用于很多统计分析方法中,例如控制图(Control Chart). 制程能力分析(Cp/Cpk).t-检验.及变异数分析 (Analysis of varianc ...

  5. 10 拷贝数变异分析(非GATK)

    12 拷贝数变异分析(非GATK) CNVkit CNVkit 的用法比较简单,可以参考官网的教程:https://cnvkit.readthedocs.io/en/stable/index.html ...

  6. 生存分析彭非_21世纪统计学系列教材 生存分析_11396967.pdf

    21世纪统计学系列教材生存分析_11396967高清电子书图书扫描版本文档PDF [General Information] 书名=21世纪统计学系列教材 生存分析 作者=彭非,王伟编著 页数=510 ...

  7. PolyPhen:分析人类非同义突变对蛋白质的影响

    欢迎关注"生信修炼手册"! 蛋白质是生命活动的基本单位,研究位于编码区的基因组变异,最重要的一点就是分析该变异是否会影响蛋白质的结构与功能.之前的文章中介绍了SIFT软件,本篇介绍 ...

  8. ceph bluestore源码分析:非对齐写逻辑

    文章目录 环境 原理说明 总结 环境 ceph:12.2.1 场景:ec 2+1 部署cephfs,执行如右写模式:dd if=/dev/zero of=/xxx/cephfs bs=6K count ...

  9. 计算机辅助正畸学模型分析,计算机辅助口腔正畸算法研究

    摘要: 随着计算机性能的提高和三维扫描.图形图像处理.虚拟现实等技术的进步,现代医学和计算机技术交叉融合.相互渗透,现代医学正面临着一场数字化的革命. 计算机辅助口腔正畸是口腔正畸学界最新的研究热点. ...

最新文章

  1. matlab 2016b更改工作路径
  2. python封装类连接mysql数据_python操作mysql数据库基本类封装
  3. 最小表达式_C# 09.找最大和最小的数字
  4. winform Outlookbar
  5. java 捆绑_java – 如何在jar文件中捆绑图像
  6. ❤️六W字《计算机基础知识》(二)(建议收藏)❤️
  7. 如何快速找出找出两个数组中的_看动画学算法之:排序-快速排序
  8. 英语c开头语言,字母c开头的英语短语
  9. [HAOI2015]树上染色(树形背包)
  10. ios mailto:// 用邮箱发邮件_投简历用什么邮箱最好?投简历怎么发邮件?
  11. android音频杂音问题_如何让短视频音质更好,AE+PR短视频音频输出处理讲解
  12. Codeforces Round #277 (Div. 2) E. LIS of Sequence DP
  13. 深度补全(一)-论文阅读-翻译(Depth Map Prediction from a Single Image using a Multi-Scale Deep Network)
  14. java截取视频第一帧图片
  15. Matlab之linspace函数
  16. 查看mysql的用户名和密码_怎么查看mysql的用户名和密码
  17. 使用OpenVINO部署ONNX模型
  18. ElasticSearch基础学习
  19. 致那些喜欢站在上帝视角的人
  20. 3、python 视频转图片及图片转视频、裁剪、创建图片压缩成视频

热门文章

  1. redis序列化_scrapy_redis中序列化源码及其在程序设计中的应用
  2. rhel 4/oracle linux 4/centos linux 4 配置本地yum资源库
  3. 高考带给了我们什么..........
  4. centos7.3部署kvm虚拟化
  5. css中一些必要的公共样式
  6. 根据一级分类查询所有子级分类
  7. A*寻路算法所生成的路径
  8. “Zhuang.Data”轻型数据库访问框架(一)开篇介绍
  9. SQL应用与开发:(三)数据操作 #183; 改 AND 删
  10. Exchange 邮件投递被拒的问题分析