点击上方“编程派”,选择设为“设为星标”

优质文章,第一时间送达!

前言

Excel与Python都是数据分析中常用的工具,本文将使用动态图(Excel)+代码(Python)的方式来演示这两种工具是如何实现数据的读取、生成、计算、修改、统计、抽样、查找、可视化、存储等数据处理中的常用操作!

数据读取

说明:读取本地Excel数据

Excel

Excel读取本地数据需要打开目标文件夹选中该文件并打开

Pandas

Pandas支持读取本地Excel、txt文件,也支持从网页直接读取表格数据,只用一行代码即可,例如读取上述本地Excel数据可以使用pd.read_excel("示例数据.xlsx")

数据生成

说明:生成指定格式/数量的数据

Excel

以生成10*2的0—1均匀分布随机数矩阵为例,在Excel中需要使用rand()函数生成随机数,并手动拉取指定范围

Pandas

在Pandas中可以结合NumPy生成由指定随机数(均匀分布、正态分布等)生成的矩阵,例如同样生成10*2的0—1均匀分布随机数矩阵为,使用一行代码即可:pd.DataFrame(np.random.rand(10,2))

数据存储

说明:将表格中的数据存储至本地

Excel

在Excel中需要点击保存并设置格式/文件名

Pandas

‍在Pandas中可以使用pd.to_excel("filename.xlsx")来将当前工作表格保存至当前目录下,当然也可以使用to_csv保存为csv等其他格式,也可以使用绝对路径来指定保存位置

数据筛选

说明:按照指定要求筛选数据

Excel

使用我们之前的示例数据,在Excel中筛选出薪资大于5000的数据步骤如下

Pandas

在Pandas中,可直接对数据框进行条件筛选,例如同样进行单个条件(薪资大于5000)的筛选可以使用df[df['薪资水平']>5000],如果使用多个条件的筛选只需要使用&(并)与|(或)操作符实现

数据插入

说明:在指定位置插入指定数据

Excel

在Excel中我们可以将光标放在指定位置并右键增加一行/列,当然也可以在添加时对数据进行一些计算,比如我们就可以使用IF函数(=IF(G2>10000,"高","低")),将薪资大于10000的设为高,低于10000的设为低,添加一列在最后

Pandas

在pandas中,如果不借助自定义函数的话,我们可以使用cut方法来实现同样操作

bins = [0,10000,max(df['薪资水平'])]group_names = ['低','高']df['new_col'] = pd.cut(df['薪资水平'], bins, labels=group_names)

数据删除

说明:删除指定行/列/单元格

Excel

在Excel删除数据十分简单,找到需要删除的数据右键删除即可,比如删除刚刚生成的最后一列

Pandas

在pandas中删除数据也很简单,比如删除最后一列使用del df['new_col']即可

数据排序

说明:按照指定要求对数据排序

Excel

在Excel中可以点击排序按钮进行排序,例如将示例数据按照薪资从高到低进行排序可以按照下面的步骤进行

Pandas

在pandas中可以使用sort_values进行排序,使用ascending来控制升降序,例如将示例数据按照薪资从高到低进行排序可以使用df.sort_values("薪资水平",ascending=False,inplace=True)

缺失值处理

说明:对缺失值(空值)按照指定要求处理

Excel

在Excel中可以按照查找—>定位条件—>空值来快速定位数据中的空值,接着可以自己定义缺失值的填充方式,比如将缺失值用上一个数据进行填充

Pandas

在pandas中可以使用data.isnull().sum()来检查缺失值,之后可以使用多种方法来填充或者删除缺失值,比如我们可以使用df = df.fillna(axis=0,method='ffill')来横向/纵向用缺失值前面的值替换缺失值

数据去重

说明:对重复值按照指定要求处理

Excel

在Excel中可以通过点击数据—>删除重复值按钮并选择需要去重的列即可,例如对示例数据按照创建时间列进行去重,可以发现去掉了196 个重复值,保留了 629 个唯一值。

Pandas

在pandas中可以使用drop_duplicates来对数据进行去重,并且可以指定列以及保留顺序,例如对示例数据按照创建时间列进行去重df.drop_duplicates(['创建时间'],inplace=True),可以发现和Excel处理的结果一致,保留了 629 个唯一值。

格式修改

说明:修改指定数据的格式

Excel

在Excel中可以选中需要转换格式的数据之后右键—>修改单元格格式来选择我们需要的格式

Pandas

在Pandas中没有一个固定修改格式的方法,不同的数据格式有着不同的修改方法,比如类似Excel中将创建时间修改为年-月-日可以使用df['创建时间'] = df['创建时间'].dt.strftime('%Y-%m-%d')

数据交换

说明:交换指定数据

Excel

在Excel中交换数据是很常用的操作,以交换示例数据中地址与岗位两列为例,可以选中地址列,按住shift键并拖动边缘至下一列松开即可

Pandas

在pandas中交换两列也有很多方法,以交换示例数据中地址与岗位两列为例,可以通过修改列号来实现

数据合并

说明:将两列或多列数据合并成一列

Excel

在Excel中可以使用公式也可以使用Ctrl+E快捷键完成多列合并,以公式为例,合并示例数据中的地址+岗位列步骤如下

Pandas

在Pandas中合并多列比较简单,类似于之前的数据插入操作,例如合并示例数据中的地址+岗位列使用df['合并列'] = df['地址'] + df['岗位']

数据拆分

说明:将一列按照规则拆分为多列

Excel

在Excel中可以通过点击数据—>分列并按照提示的选项设置相关参数完成分列,但是由于该列含有[]等特殊字符,所以需要先使用查找替换去掉

Pandas

在Pandas中可以使用.split来完成分列,但是在分列完毕后需要使用merge来将分列完的数据添加至原DataFrame,对于分列完的数据含有[]字符,我们可以使用正则或者字符串lstrip方法进行处理,但因不是pandas特性,此处不再展开。

数据分组

说明:对数据进行分组计算

Excel

在Excel中对数据进行分组计算需要先对需要分组的字段进行排序,之后可以通过点击分类汇总并设置相关参数完成,比如对示例数据的学历进行分组并求不同学历的平均薪资

Pandas

在Pandas中对数据进行分组计算可以使用groupby轻松搞定,比如使用df.groupby("学历").mean()一行代码即可对示例数据的学历进行分组并求不同学历的平均薪资,结果与Excel一致

数据计算

说明:对数据进行一些计算

Excel

在Excel中有很多计算相关的公式,比如可以使用COUNTIFS来统计薪资大于10000的岗位数量有518个

Pandas

在Pandas中可以直接使用类似数据筛选的方法来统计薪资大于10000的岗位数量len(df[df["薪资水平"]>10000])

数据统计

说明:对数据进行一些统计计算

Excel

在Excel中有很多统计相关的公式,也有现成的分析工具,比如对薪资水平列进行描述性统计分析,可以通过添加工具库之后点击数据分析按钮并设置相关参数

Pandas

在pandas中也有现成的函数describe快速完成对数据的描述性统计,比如使用df["薪资水平"].describe()即可得到薪资列的描述性统计结果

数据可视化

说明:对数据进行可视化

Excel

在Excel中可以通过点击插入并选择图表来快速完成对数据的可视化,比如制作薪资的直方图,并且有很多样式可以直接使用

Pandas

在Pandas中也支持直接对数据绘制不同可视化图表,例如直方图,可以使用plot或者直接使用hist来制作df["薪资水平"].hist()

数据抽样

说明:对数据按要求采样

Excel

在Excel中抽样可以使用公式也可以使用分析工具库中的抽样,但是仅支持对数值型的列抽样,比如随机抽20个示例数据中薪资的样本

Pandas

在pandas中有抽样函数sample可以直接抽样,并且支持任意格式的数据抽样,可以按照数量/比例抽样,比如随机抽20个示例数据中的样本

数据透视表

说明:制作数据透视表

Excel

数据透视表是一个非常强大的工具,在Excel中有现成的工具,只需要选中数据—>点击插入—>数据透视表即可生成,并且支持字段的拖取实现不同的透视表,非常方便,比如制作地址、学历、薪资的透视表

Pandas

在Pandas中制作数据透视表可以使用pivot_table函数,例如制作地址、学历、薪资的透视表pd.pivot_table(df,index=["地址","学历"],values=["薪资水平"]),虽然结果一样,但是并没有Excel一样方便调整与多样

vlookup

说明:利用VLOOKUP查找数据

Excel

VLOOKUP算是EXCEL中最核心的功能之一了,我们用一个简单的数据来进行示例

Pandas

在Pandas中没有现成的vlookup函数,所以实现匹配查找需要一些步骤,首先我们读取该表格

接着将该dataframe切分为两个

最后修改索引并使用update进行两表的匹配

结束语

以上就是使用Pandas来演示如何实现Excel中的常用操作的全部过程,其实可以发现Excel的优点就是大多由交互式的点击完成数据处理,而Pandas则完全依赖于代码,对于有些操作比如数据透视表,用Excel制作更加方便,而有些操作比如数据的分组、计算等,因Pandas可以与NumPy等其他优秀的Python库结合而显得更加强大,所以我们在处理数据时也需要正确选择使用的工具!

回复下方「关键词」,获取优质资源

回复关键词「 pybook03」,立即获取主页君与小伙伴一起翻译的《Think Python 2e》电子版

回复关键词「入门资料」,立即获取主页君整理的 10 本 Python 入门书的电子版

回复关键词「m」,立即获取Python精选优质文章合集

回复关键词「book 数字」,将数字替换成 0 及以上数字,有惊喜好礼哦~

题图:pexels,CC0 授权。

好文章,我在看❤️

excel去重_Python 轻松搞定 Excel 常用的 20 个操作相关推荐

  1. 用Python轻松搞定Excel中的20个常用操作

    来源 |早起Python(ID: zaoqi-python) Excel与Python都是数据分析中常用的工具,本文将使用动态图(Excel)+代码(Python)的方式来演示这两种工具是如何实现数据 ...

  2. 用 Python 轻松搞定 Excel 中的 20 个常用操作

    来源 |早起Python(ID: zaoqi-python) Excel与Python都是数据分析中常用的工具,本文将使用动态图(Excel)+代码(Python)的方式来演示这两种工具是如何实现数据 ...

  3. c#读取excel两列数据并绘制xy曲线_用Python轻松搞定Excel中的20个常用操作

    来源 |早起Python(ID: zaoqi-python) Excel与Python都是数据分析中常用的工具,本文将使用动态图(Excel)+代码(Python)的方式来演示这两种工具是如何实现数据 ...

  4. excel行列互换_1秒轻松搞定EXCEL表格行列内容互换

    Hello,大家好!办公一点通,工作更轻松.我是头条号职场加油驿站,我又来和大家分享EXCEL办公小技能了~今天和大家分享如何1秒搞定EXCEL表格行列内容互换,快来和我一起学习吧 问题:经常处理数据 ...

  5. 计算机乘法公式多列,书生妙招:一招轻松搞定Excel多列数据乘积后求和问题-excel乘法公式...

    大家在日常工作中经常会遇到多列数据乘积后求和的问题,如图1所示,计算"数列1x数列2"后的总和,甚至需要计算"数列1x数列2x数列3"后的总和. 图1 我们一般 ...

  6. 【Excel VBA】轻松搞定数字、文本单元格格式错乱问题

    纲举目张 说明 代码code 使用说明 说明 在使用Excel的时候最遇到的烦恼就是本来应该是数字的却被认为的文本,导致不能进行计算,本来应该是文本的内容结果被认为是数字,结果显示成了科学计数法,甚至 ...

  7. 读取、回收和重用:使用 Excel、XML 和 Java 技术轻松搞定报告,第 2 部分

    本周您推脱老板的 #432 创新理由了吗?您是否尝试过推脱? 本系列的其他文章 读取.回收和重用:使用 Excel.XML 和 Java 技术轻松搞定报告,第 1 部分 有幸的是,您不必推脱.本系列的 ...

  8. excel表格末尾添加一行_Excel这些办公必备小技巧,Excel表格轻松搞定

    Hi,大家好!欢迎来到小龙自修室! 今天小龙继续和大家分享一些在日常办公中使用Excel表格时常用的一些小技巧,用起来简单方便,也可以提高我们的工作效率! 下面就就一起来看看有哪些吧! 01文字分散对 ...

  9. html转word并保持格式不变,表格从Word转Excel想保持格式不变?用这两种方法,保你轻松搞定...

    相信在职场办公,大家或多或少都有遇见过这样的问题,需要把Word中的表格转移到Excel中,很多人第一时间就复制黏贴然后再重新调整格式,一两个表格还好说,如果是批量的你怕是要累死了. 表格从Word转 ...

最新文章

  1. 2. Web Dynpro for ABAP :Component Controller
  2. CAS服务下单点登录(服务端与客户端)
  3. springboot 建readme_经验分享:给项目创建和编写README.md文件的步骤
  4. 如何查询Linux内核版本
  5. 【LogStash】LogStash 配置后无法启动的问题
  6. 区块链 2.0:下一个计算范式
  7. python之路_django分页及session介绍
  8. php fastdfs扩展,php如何安装fastdfs扩展
  9. JS查漏补缺(自用版)
  10. 6.1 ELMo数学理解
  11. 通过方法将汉字转成拼音
  12. 让Google chrome支持迅雷
  13. XP不能访问Win7共享
  14. linux 配置jdk 环境变量 没效果,linux下jdk环境变量配置深度分析----解决环境变量不生效的问题...
  15. 阵列卡PERCH330_H730配置手册
  16. flv文件修复工具——FLVMDI的使用方法
  17. 【软件构造】过程与配置管理
  18. CC3200学习——blinky资料
  19. mitmproxy的介绍以及配置过程中的问题
  20. 宜信微服务架构落地及其演进

热门文章

  1. Soul网关源码解析目录
  2. mysql 时间点_mysql 时间
  3. linux的cache过高的原因定位与解决echo 3 > /proc/sys/vm/drop_caches
  4. vue ---- 组件综合案例(购物车案例)
  5. mysql批量存图片_教你如何在MySQL数据库中直接储存图片(3)
  6. 如何修改bt tracker服务器,bt tracker服务器
  7. java正则表达式所有字符串_“JAVA”正则表达式如何匹配所有符合要求的子字符串?...
  8. Eureka 配置参数说明
  9. mysqld_exporter报错Error 1146: Table 'my2.status' doesn't exist
  10. virtualbox+vagrant学习-2(command cli)-7-vagrant login命令