Python Pandas DataFrame 删除缺失值 None Nan drop dropna 替换缺失值 fillna 重复值删除 duplicate 数值替换 replace apply
一、获取缺失值。
二、剔除缺失值。
三、缺失值补全。
四、重复值剔除(按照行和列)。
五、数值转换。
原始数据展示。数据下载链接 https://download.csdn.net/download/qq_35240689/86723500?spm=1001.2014.3001.5503
一、获取缺失值。
1. 获取所有的缺失值.
获取所有的缺失值,返回一个 true 和 false 的表
df.isnull()
2. 统计缺失值,按照每一列统计
df.isnull().sum()
3. 统计缺失值 按行
df.isnull().sum(axis='columns')
4. 查看列 是否全部缺失
df.isnull().all()
二、 剔除缺失值
1. 剔除 植物园
这一列缺失值的 2种方式
df1 = df.drop(columns='植物园')
df1 = df.drop('植物园', axis=1)
2.通过数据索引的方式来剔除掉缺测数据。 列
df1 = df.loc[:, ~(df.isnull().all())]
3. 删除所有 有缺失的行
df1[~(df1.isnull().any('columns'))]
这种方式看起来明显比drop()的方式要复杂一点,那么是不是意味着我们就学drop()就行了,不用再去记住索引方式。
当然不是!drop()看起来简单只是因为刚好只有一列需要剔除,加入我们需要剔除很多数据,那使用drop()就不足以完成任务,还是要配合索引的方式。
下面我们来看一下剔除行里的缺测值,上面的数据有很多行都有缺测值,如果在drop函数中一个一个填是很不现实的,那么我们看一下合理的解决方案应该是什么样的。
4. 以上两种方法都还是有一些复杂,这是因为其实pandas还内置了更方便的函数供我们调用,那就是dropna()
inplace 表示是否替换原数据
剔除列的缺失值; how=‘all’ 所有值为空才删除
df.dropna(axis='columns', how='all', inplace=True)
剔除行的缺失值;只要有一个值为空就删除
df.dropna(axis='index', how='any', inplace=True)
三、缺失值补全。
用前一行的数据填充
df.fillna(method='ffill')
用后一行的数据填充
df.fillna(method='bfill')
四、重复值剔除(按照行和列)。
返回的是 True 和 False 的 列表
df.duplicated()
剔除重复行
df.drop_duplicates()
返回的是 True 和 False 的 列表
df.duplicated(subset=['天坛'], keep=False)
剔除 天坛 这列里面的所有重复值
df.drop_duplicates(subset=['天坛'], keep=False)
五、数值转换
1. replace
单值转换,将Nan 替换成 -9999
df.replace(np.nan, -9999)
多值转化,将想替换的元素放在一个 [ ] 里就行
df.replace([np.nan, 0], -9999)
2. apply
replace可以进行简单的数据替换,但如果想进行更为复杂的操作replace是无法完成的。
然而对DataFrame而言,apply是非常重要的数据处理方法,它可以接收各种各样的函数(Python内置的或自定义的),处理方式很灵活,完成各种复杂的需求。他的实际作用是将函数作为一个对象,通过apply的调用对DataFrame里的数组元素应用这个函数。
只关注和设置这个规则,循环这种事情交给编程语言去处理
def aqi_level(aqi):if aqi>0 and aqi<=50:level = '优'elif aqi>50 and aqi<=100:level = '良'elif aqi>100 and aqi<=150:level = '轻度污染'elif aqi>150 and aqi<=200:level = '中度污染'elif aqi>200 and aqi<=300:level = '重度污染'else:level = '严重污染'return level# 数据预处理一下 将所有的类型都转为 AQI
aqi = df[df['type']=='AQI']
aqi['东四'].apply(aqi_level)
- applymap
apply() 可以实现对某一行或某一列的函数应用,如果想对 DataFrame中 的全部数值都使用这个函数来进行转化我们就需要用到 applymap()
#~aqi.columns.isin(['date', 'hour', 'type'])
取非这三列的所有列
aqi.loc[:, ~aqi.columns.isin(['date', 'hour', 'type'])].apply(np.mean, axis=0)aqi.loc[:, ~aqi.columns.isin(['date', 'hour', 'type'])].applymap(aqi_level)
Python Pandas DataFrame 删除缺失值 None Nan drop dropna 替换缺失值 fillna 重复值删除 duplicate 数值替换 replace apply相关推荐
- python pandas DataFrame 替换 NaN 值 和 删除 NaN 所在的行。
python pandas DataFrame 替换 NaN 值 和 删除 NaN 所在的行. import pandas as pd import numpy as np df1 = pd.Data ...
- python pandas DataFrame 查找NaN所在的位置
python pandas DataFrame 查找 NaN 所在的位置 import pandas as pd import numpy as np df1 = pd.DataFrame({'日期' ...
- python pandas DataFrame 数据替换
python pandas DataFrame 替换 import pandas as pd import numpy as np df1 = pd.DataFrame({'日期': ['2021-7 ...
- python pandas dataframe 行列选择,切片操作 原创 2017年02月15日 21:43:18 标签: python 30760 python pandas dataframe
python pandas dataframe 行列选择,切片操作 原创 2017年02月15日 21:43:18 标签: python / 30760 编辑 删除 python pandas dat ...
- python pandas dataframe 列 转换为离散值
python pandas dataframe 列 转换为离散值 import pandas as pd import numpy as np df1 = pd.DataFrame({'日期': [' ...
- python pandas DataFrame 排序
python pandas DataFrame 排序 import pandas as pd import numpy as np df1 = pd.DataFrame({'日期': ['2021-7 ...
- python pandas DataFrame 字符串转日期格式
python pandas DataFrame 字符串转日期格式 import pandas as pd import numpy as np df1 = pd.DataFrame({'日期': [' ...
- python pandas DataFrame 转置
python pandas DataFrame 转置 import pandas as pd df1 = pd.DataFrame({'日期': ['2021-7-2', '2021-8-2', '2 ...
- Python pandas.DataFrame.combine_first函数方法的使用
Pandas是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的.Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具.Pandas提供了大量能使我们快速 ...
最新文章
- 两个有序数组的合并,python版
- Java领域的对象如何传输-如何解决报错的问题呢?
- w3wp oracle,w3wp.exe占用CPU超过50%的处理
- python3中property使用方法详解
- python execute异步执行_封装了一个对mysql进行异步IO的小工具
- Atitit usrQBK13 html dsl 规范与解决方案
- 安装Zorin os
- 没有什么能难倒程序员,教你如何下载付费歌曲
- fckeditor java_FCKeditor在线编辑器(Java)
- 基于MATLAB的列车防护曲线组合步长算法分析与仿真验证
- Vue2.0源码解析 - 知其然知其所以然之keep-alive原理分析(一)
- 毁掉一家公司最好的方式,就是跟员工讨价还价
- 揭开智慧校园的神秘面纱
- Unity中常用的游戏存档/读档技术
- 焦距、光圈和景深的关系and实拍图像
- KubeEdge 王泽锋:只有代码没有生命力,凝聚开发者的社区才能活力无限 I OpenTEKr 大话开源 Vol.8
- Web应用防火墙是什么?有哪些功能?
- 复正弦信号、实数信号的DFT
- 宋鸿兵在《货币战争5》中谈到的美国医疗
- 网络攻防环境的搭建--MacOs配置Vmnet1及Vmnet8
热门文章
- 为什么要用CAT工具辅助翻译?为什么要用翻译管理系统?以memoQ为例
- 2017年计算机统考试题,2017年计算机统考试题题库及答案
- Android 集成Face++ 人脸识别(3.0+SDK)
- jdk,jre,ide概念辨析
- Latex中用Bibtex来引用文献
- 中国有望成为世界第一个发射量子轨道卫星的国家
- VS发生RC1107错误的原因
- Nginx域名配置详细介绍
- 【计组期末复习一】第八章:CPU的结构和功能 :指令中各有哪些字段?变址寻址和基址寻址异同?如何设计计算机指令?如何求寻址范围?
- bookkeeper命令行操作