一、NAN 和 Inf

NAN（Not A number）：意思：不是一个数字，是一个空值

Inf（Infinity 英 /ɪn’fɪnɪtɪ/ 美 /ɪn’fɪnəti/ ）：意识是：无穷、无穷大

在使用numpy数组的过程中时常会出现nan或者inf的元素，可能会造成数值计算时的一些错误。这里提供一个numpy库函数的用法，使nan和inf能够最简单地转换成相应的数值。

numpy.nan_to_num(x): 函数就是把nan和inf数值转换成数值

使用0代替数组x中的nan元素，使用有限的数字代替inf元素

>>>import numpy as np
>>> a = np.array([[np.nan,np.inf],\
...               [-np.nan,-np.inf]])
>>> a
array([[  nan,   inf],[  nan,  -inf]])
>>> np.nan_to_num(a)
array([[ 0.00000000e+000,  1.79769313e+308],[ 0.00000000e+000, -1.79769313e+308]])

判断是否为空值和无穷值的函数

isinf
isneginf
isposinf
isnan
isfinite

使用方法也很简单，以isnan举例说明：

>>> import numpy as np
>>> np.isnan(np.array([[1, np.nan, np.inf],\
...               [np.nan, -np.inf, -0.25]]))
array([[False,  True, False],[ True, False, False]], dtype=bool)

pandas也有判断是否为空值的函数

>>> import pandas as pd
>>> pd.isnull(np.nan)
True

#同样的pd.notnull()用来判断不为nan值

二、机器学习中空值的处理方法

目前有三类处理方法：

用平均值、中值、分位数、众数、随机值等替代。效果一般，因为等于人为增加了噪声。
用其他变量做预测模型来算出缺失变量。效果比方法1略好。有一个根本缺陷，如果其他变量和缺失变量无关，则预测的结果无意义。如果预测结果相当准确，则又说明这个变量是没必要加入建模的。一般情况下，介于两者之间。
最精确的做法，把变量映射到高维空间。比如性别，有男、女、缺失三种情况，则映射成3个变量：是否男、是否女、是否缺失。连续型变量也可以这样处理。比如Google、百度的CTR预估模型，预处理时会把所有变量都这样处理，达到几亿维。这样做的好处是完整保留了原始数据的全部信息、不用考虑缺失值、不用考虑线性不可分之类的问题。缺点是计算量大大提升。
而且只有在样本量非常大的时候效果才好，否则会因为过于稀疏，效果很差。

Reference：
1、https://www.zhihu.com/question/26639110
2、https://blog.csdn.net/xiaodongxiexie/article/details/54352889

如果你觉得对你有帮助，希望你可以打赏知识！

支付宝收款码

微信收款码

如果你热衷技术，想寻找志同道合的伙伴，欢迎加入我们！

微信交流

QQ技术交流群

机器学习中如何处理缺失数据（NAN和Ifo）？相关推荐

机器学习中如何处理不平衡数据？
点击"小詹学Python",选择"星标"公众号重磅干货,第一时间送达选自 | TowardsDataScience 参与 | 贾伟.路本文转载自机器之心, ...
机器学习中如何处理不平衡数据
https://mp.weixin.qq.com/s/x48Ctb0_Eu1kcSGTYLt5BQ
纠正Pandas中的缺失数据
目录介绍查找丢失的数据元素使用drop和dropna删除缺少的Pandas列丢掉丢失的Pandas行替换值摘要将数据加载到灵活的结构后,我们需要确定如何处理丢失和重复的数据元素. 下载C ...
eviews如何处理缺失数据填补_python数据预处理之异常值、缺失值处理方法
数据预处理是明确分析目标与思路之后进行数据分析的第一步,也是整个项目中最基础.花费时间较长的工作.除了互联网埋点的数据或企业内部的业务数据之外,往往我们拿到的,比如说网上采集的数据并不是那样规整,这类 ...
机器学习中如何解决数据不平衡问题？
文章目录目录什么是数据不平衡问题? 数据不平衡会造成什么影响? 如何处理数据不平衡问题? 1.重新采样训练集 1.1随机欠抽样 1.2.基于聚类的过采样 2.使用K-fold交叉验证 3.转化为一 ...
机器学习处理不平衡数据_在机器学习中处理不平衡数据
机器学习处理不平衡数据 As an ML engineer or data scientist, sometimes you inevitably find yourself in a situat ...
azure机器学习_如何在Azure机器学习中使用JSON数据
azure机器学习 Azure Machine Learning (also known as Azure ML) is cloud-based machine learning solution o ...
eviews如何处理缺失数据填补_用EVIEWS把缺失数据补全
(一)个案剔除法最常见.最简单的处理缺失数据的方法是用个案剔除法也是很多统计软件(如SPSS和SAS)默认的缺失值处理方法.在这种方法中如果任何一个变量含有缺失数据的话,就把相对应的个案从分析中剔除 ...
在机器学习中处理大量数据！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:牧小熊,华中农业大学,Datawhale成员知乎 | https ...

机器学习中如何处理缺失数据（NAN和Ifo）？

机器学习中如何处理缺失数据（NAN）？

一、NAN 和 Inf

二、机器学习中空值的处理方法

机器学习中如何处理缺失数据（NAN和Ifo）？相关推荐

最新文章

热门文章