【Python自动化Excel】pandas处理Excel的拆分、合并
话说Excel数据表,分久必合、合久必分。Excel数据表的“分”与“合”是日常办公中常见的操作。手动操作并不困难,但数据量大了之后,重复性操作往往会令人崩溃。利用Python的Pandas库,便可以自动实现Excel数据表的“分分合合”。下面结合实例来分享本人整理的实用代码片段。(如有更好的方式,欢迎批评指正)
分:纵向“分”
从数据平台(如问卷平台)中导出的数据往往是清单型的,每一行都是一条记录,数据量大的时候,表格往往是很“长”的。有时需要按照某列的不同数值,将一个总表“分”成单独的一些Excel文件。
一个工作表“分”为多个Excel文件
def to_excelByColName(sourceDf,colName,outPath,excelName):'''纵向“分”:一个工作表“分”为多个Excel文件根据指定的列名中的不同值,分解Excel,并存储成多个Excel文件。sourceDf:原始的DataFramecolName:指定列名outPath:输出路径excelName:文件名,加.xlsx后缀'''colNameList = sourceDf[colName].drop_duplicates().tolist()for eachColName in colNameList:sourceDf[sourceDf[colName]==eachColName].to_excel('/'.join([outPath,eachColName+excelName]),index=False)
例如:将20个班级1000名学生的总表,按班级分成20个Excel文件。
调用to_excelByColName
函数,效果如下:
to_excelByColName(sourceDf = sourceDf,colName="班级",outPath=".\分班数据表",excelName="生成数据表.xlsx")
一个工作表“分”为一个文件的多个sheet
def to_excelByColNameWithSheets(sourceDf,colName,outPath):'''纵向“分”:一个工作表“分”为一个文件的多个sheet根据指定的列名中的不同值,分解Excel,并存储成单个Excel文件的多个Sheet。sourceDf:原始的DataFramecolName:指定列名outPath:输出路径,加.xlsx后缀'''writer = pd.ExcelWriter(outPath)colNameList = sourceDf[colName].drop_duplicates().tolist()for eachColName in colNameList:sourceDf[sourceDf[colName]==eachColName].to_excel(writer,sheet_name=eachColName)writer.save()
例如:将20个班级1000名学生的总表,按班级分成1个Excel文件的20个sheet表。
调用to_excelByColNameWithSheets
函数,效果如下:
to_excelByColNameWithSheets(sourceDf = sourceDf,colName="班级",outPath=".\分班数据表\生成数据表.xlsx")
分:横向“分”
在处理数据的时候,有时需要添加多个辅助列,这样也会让数据表越来越“宽”。而最终我们只需要某些关键列即可,那么这就涉及到横向数据分割,或者说提取某些列保持成一个单独的数据表。横向的分割只需要给DataFrame传入列名列表即可。
例如:只需要数据表中的姓名和班级字段,可以这样写。
df1 = sourceDf[["姓名","班级"]]
df1.to_excel("只含有姓名和班级的数据表.xlsx")
合:纵向“合”
对于结构相同的数据,在数据处理时可以将其在纵向上拼接,方便一起处理。
多个Excel文件合并成一个工作表
def readExcelFilesByNames(fpath,fileNameList=[],header=0):'''纵向“合”:多个Excel文件合并成一个工作表读取路径下指定的Excel文件,并合并成一个总的DataFrame。每个Excel文件的数据表格式上要一致。1.fpath:必填,是Excel文件所在路径,不加文件名2.fileNameList:需要读取的Excel文件名列表3.header:指定读取的行数'''outdf = pd.DataFrame()for fileName in fileNameList:tempdf =pd.read_excel('/'.join([fpath,fileName]),header = header)outdf = pd.concat([outdf,tempdf])return outdf
例如:将20个班级的Excel文件,合并成一个数据表
调用readExcelFilesByNames
函数,效果如下:
fileNameList = ["六1班数据表.xlsx", "六2班数据表.xlsx", "六3班数据表.xlsx", "六4班数据表.xlsx","六5班数据表.xlsx", "六6班数据表.xlsx", "六7班数据表.xlsx", "六8班数据表.xlsx","六9班数据表.xlsx", "六10班数据表.xlsx", "六11班数据表.xlsx", "六12班数据表.xlsx","六13班数据表.xlsx", "六14班数据表.xlsx", "六15班数据表.xlsx", "六16班数据表.xlsx","六17班数据表.xlsx", "六18班数据表.xlsx", "六19班数据表.xlsx", "六20班数据表.xlsx",
]
readExcelFilesByNames(fpath = ".\分班数据表",fileNameList=fileNameList)
多个Sheet合并成一个工作表
def readExcelBySheetsNames(fpath,header = 0,prefixStr = "",sheetNameStr ="sheetName",prefixNumStr = "prefixNum"):'''纵向“合”:多个Sheet合并成一个工作表读取所有的Excel文件的sheet,并合并返回一个总的DataFrame。每个sheet的数据表格式上要一致。1.fpath:必填,是Excel文件的路径,加文件名2.会生成两个新列:sheetName和prefixNum,方便数据处理sheetName列是所有sheet的名称列prefixNum列是计数列3.header:指定读取的行数'''xl = pd.ExcelFile(fpath)# 获取Excel文件内的所有的sheet名称sheetNameList = xl.sheet_namesoutfd = pd.DataFrame()num = 0 for sheetName in sheetNameList:num += 1data = xl.parse(sheetName,header=header)# 产生sheet名称列和计数列data[sheetNameStr] = sheetNamedata[prefixNumStr] = prefixStr +str(num)# 数据表拼接outfd = pd.concat([outfd,data.dropna()])xl.close()return outfd
如下调用readExcelBySheetsNames
,运行效果如下:
readExcelBySheetsNames(fpath = ".\分班数据表\总数据表.xlsx",sheetNameStr ="sheet名",prefixNumStr = "sheet序号")
合:横向“合”
对于不同Excel工作表之间的横向合并,主要是用根据某些列(如:姓名、身份证号等)进行合并。在pandas库中可以用merge
方法来实现,这是个十分好用的方式,展开讲篇幅较长,后续详细整理。
DataFrame.merge(right, how='inner', on=None, left_on=None, right_on=None, left_index=False, right_index=False, sort=False, suffixes=('_x', '_y'), copy=True, indicator=False, validate=None)
结语
本文所谈的Python处理Excel文件方式主要是基于pandas
库的,主要针对的是清单型的数据表
。清单型的数据表在下面的文章中有详细介绍:
数据表的分
主要涉及的是文件保存(写入),对程序来说属于输出
环节;
数据表的合
主要针对的是文件打开(读取),对程序而言属于输入
环节。
以上代码在针对大量重复性的表格分与合时,优势巨大;但对于偶尔、少量的分与合,也许用鼠标点击更快。
技术没有好坏之分,需要我们灵活使用!
清单型的数据表在下面的文章中有详细介绍:
数据表的分
主要涉及的是文件保存(写入),对程序来说属于输出
环节;
数据表的合
主要针对的是文件打开(读取),对程序而言属于输入
环节。
以上代码在针对大量重复性的表格分与合时,优势巨大;但对于偶尔、少量的分与合,也许用鼠标点击更快。
技术没有好坏之分,需要我们灵活使用!
【Python自动化Excel】pandas处理Excel的拆分、合并相关推荐
- 初学python,利用pandas读取excel出现乱码的问题
初学python,利用pandas读取excel出现乱码的问题 初学python,利用pandas读取excel文件时,出现中文乱码: 左侧出现中文乱码 解决过程: 初始判断是是pandas读取中文出 ...
- 在Excel表格中如何快速拆分合并单元格
在Excel表格中如何快速拆分合并单元格 目录 在Excel表格中如何快速拆分合并单元格 1.例如:将销售人列中的合并单元格拆分还原 2.选中销售人姓名,点击[开始]选项卡中[合并居中] 3.再点击[ ...
- Python自动化复制整张Excel表的内容
现状描述: 因每天需要接收各个小组的工作日报,由我汇总到一个Excel里面,该Excel分成多个sheet展示.每个小组的日报复制粘贴容易出错,且重复性劳动,于是想用python来实现自动化拷贝. 需 ...
- 【Python自动化办公】实现excel表中的数据批量导入到word指定位置(表格形式和下滑线形式)
文章目录 案例1--word模板为表格 案例2--word模板中带有下划线形式 python docx基本操作 回到需求 案例1--word模板为表格 目的就是把excel中的数据,填入word模板中 ...
- python日记Day18——Pandas之Excel绘图
python日记--Pandas之Excel绘图 利用pandas和pyplot进行数据可视化,绘图过程中使用到的excel文件如下:excel文件,提取码:falj 柱图的绘制 1.柱状图: imp ...
- Python自动化小技巧11——excel文件的文字内容筛选
上一期讲述了怎么讲多个excel多sheet表进行批量合并,本次案例就是来讲讲合并之后对数据进行清洗整理的过程,筛掉无用的数据. 这个案例中博主是处理文本,主要是各大平台上的新闻的文字.筛选就是把那些 ...
- Python:使用pandas读取excel
使用新版本的excel,可以直接读取. 使用pandas读取excel指定sheet页: import numpy as np import pandas as pd# 默认首行会作为datafram ...
- 简单易学的python自动化办公教学视频-Python自动化办公之操作Excel文件
模块导入 import openpyxl 读取Excel文件 打开Excel文件 workbook = openpyxl.load_workbook("test.xlsx") 输出 ...
- python操作excel表格-Python自动化办公之操作Excel文件
模块导入 import openpyxl 读取Excel文件 打开Excel文件 workbook = openpyxl.load_workbook("test.xlsx") 输出 ...
- python自动化办公教程-Python自动化办公之操作Excel文件
模块导入 import openpyxl 读取Excel文件 打开Excel文件 workbook = openpyxl.load_workbook("test.xlsx") 输出 ...
最新文章
- 暴 雨 雲 于 7月17日
- Java--消除重复数字后的最大值
- C++继承机制下的析构函数
- Linux内核调试方法总结之sysrq
- ITK:在图像中线性插值位置
- 雅虎公司C#笔试题(之二)
- 2016 GDCPC 省赛总结
- Spring学习--实现 FactoryBean 接口在 Spring IOC 容器中配置 Bean
- 常用的redis命令
- Parallels Desktop:pd虚拟机 17 for mac
- 简单的数据库group by后要进行某字段拼接
- 使用MVC2模式创建新闻网站
- 一文读懂OSI七层网络模型与TCP-IP模型和对等网络通信协议
- 【前端知识梳理】HTML篇 笔记整理(一)
- 推荐几款不错的企业网站,前端设计师寻求设计灵感!
- Scrapy中Spiders的用法
- 微服务03 分布式搜索引擎 elasticsearch ELK kibana RestAPI 索引库 DSL查询 RestClient 黑马旅游
- 分享一个强大无痛的英语学习网站
- C#随机函数Radom问题详解
- EXCEL之VLOOKUP函数——查找、分组、排序