如何利用Python编程批量处理Excel来提高日常工作效率!
最近的工作遇到一个需求,整理多个相同格式但是不标准的Excel表格,最终汇总成一个Excel表格,并进行数据透视分析。
表格内涉及到合并的单元格,不同表格表头位置有偏差等问题。目标是将所有表格内容相同表头内容统计到一个表内。由于Excel表格内容数据量巨大,如果使用人力的手段,工作量巨大,并且容易出错(预估工作量3天)。所以决定使用Python对Excel进行自动处理,实现一键导出目标Excel的目的。
大致步骤:Python学习交流群:1004391443
1.安装Python3,pip工具环境
2.安装xlrd和xlwt
3.读取所有源Excel文件
4.将读取到的Excel信息组织到新的Excel对象中
5.数据缓存和分析
6.向新Excel对象中追加分析结果
7.将新Excel对象保存为目标输出文件(最终想要的文件)
1.对于Python环境的安装本文不做说明。
2.安装Python扩展包有不同的方式,这里使用pip命令安装xlrd和xlwt。
在Windows下,打开命令提示符(控制台),cd python的安装路径下Scripts文件夹下(在这里有pip命令执行工具)。或者将该路径添加到系统环境变量。
xlrd:读取Excel的扩展包
执行:pip install xlrd
xlwt:写入Excel的扩展包
执行:pip install xlwt
随便写一个py文件写入import xlrd, xlwt 执行该文件不出错说明安装成功。
或者打开python自带的编辑器进行输入测试。
3.具体代码如下
# -*- coding: utf-8 -*-import xlrdimport xlwtimport sys def read(file_list):# 创建新的workbook out_work_book = xlwt.Workbook(encoding = 'utf-8') # 为了将多个文件的相同表头的sheet和并到一个sheet内,定义新sheet写入的行号位置 out_work_book_rows = [0,0]# 取得传入的文件列表 (第一个参数为脚本名字) for file_name in file_list[1:]: # 打开文件 workbook = xlrd.open_workbook(file_name) # 取得当前文档的sheet列表 sheet_names = workbook.sheet_names()for sheet_idx in range(len(sheet_names)): sheet_name = sheet_names[sheet_idx] # sheet = workbook.sheet_by_index(sheet_idx) sheet = workbook.sheet_by_name(sheet_name)# sheet.row_values(n) 获取整行数据 # sheet.col_values(n) 获取整列数据# 获取行数 rows_count = sheet.nrows # 获取列数 cols_count = sheet.ncols # 存储写入的列数 write_col_count# 创建新的sheet if len(out_work_book_sheet) <= sheet_idx: out_work_book_sheet[sheet_idx] = out_work_book.add_sheet('sheet'+sheet_idx)# 写入sheet for curr_col_num in range(cols_count) # 当前列的内容 col = sheet.col_values(curr_col_num) # 遍历当前列的所有选项 for index in range(len(col)) # 当前列第index的内容 value = col[index] # 在写入的sheet的行号上,加入上一个表写到的位置行号,继续向后追加内容 out_work_book_sheet[sheet_idx].write(out_work_book_rows[sheet_idx] + index, write_col_count, value) write_col_count++ out_work_book_rows[sheet_idx] += cols_count # 输出目标文件 out_work_book.save('out.xls')if __name__ == "__main__": read(sys.argv)
4.针对合并的单元格,上述代码会出现合并单元格只有一个格子有内容其余为空的情况。这种情形,现将当前sheet表格内所有合并单元格数据保存下来,当遇到属于合并单元格的部分,则默认选取该合并单元格的第一个格子的数值即可。代码如下:
def get_merged_cells_value(sheet, row_index, col_index):# 获得当前sheet的所有合并单元格数据 merged = sheet.merged_cells # 判断给定的单元格,是否属于合并单元格,如果是合并单元格,就返回合并单元格的内容 for (rlow, rhigh, clow, chigh) in merged: if (row_index >= rlow and row_index < rhigh): if (col_index >= clow and col_index < chigh): cell_value = sheet.cell_value(rlow, clow) return cell_value return None
5.数据缓存可以利用python中的容器,和对象结构,将Excel中的数据对象化,在读取时候进行实例化然后进行保存。在需要进行数据分析的时候利用。
6.在遇到特殊的表格格式的时候,读取的内容可能在转存的时候出现类型错误,导致无法识别。例如时间类型,正确显示需要按特定格式进行读取并且转换。
表格类型说明: table.ctype
0 empty
1 string
2 number
3 date
4 boolean
5 error
代码如下:
from datetime import datetime,date def get_merged_cells_value(workbook, sheet, row_index, col_index):# 获得当前sheet的所有合并单元格数据 merged = sheet.merged_cells # 判断给定的单元格,是否属于合并单元格,如果是合并单元格,就返回合并单元格的内容 for (rlow, rhigh, clow, chigh) in merged: if (row_index >= rlow and row_index < rhigh): if (col_index >= clow and col_index < chigh):if sheet.cell(rlow, clow).ctype == 3: date_value = xlrd.xldate_as_tuple(sheet.cell(rlow, clow), workbook.datemode) # 转换显示格式为2019/05/05 cell_value = date(*date_value[:3]).strftime('%Y/%m/%d') else: cell_value = sheet.cell_value(rlow, clow) return cell_value return None
7.最终,我们写一个windows下的bat批处理文件或者在linux下写一个shell,将文档名字作为参数传入执行即可。
到此我利用程序完成了几天的工作,还可以在以后相同的使用环境下更快速的完成工作。
相信大家如果有一些编程基础,完全可以通过上述内容,学会使用python处理巨量Excel数据。
如何利用Python编程批量处理Excel来提高日常工作效率!相关推荐
- 如何使用python编程解决生活中的问题-日常工作问题处理中Python程序的运用
计算机应用毕业论文第八篇:日常工作问题处理中Python程序的运用 摘要:Python是一门简单.实用而且有趣的百搭款语言,在Web应用开发.系统网络运维.科学与数字计算.网络编程等领域都有所建树.在 ...
- python识别鼠标在excel中选中的区域_[Excel技巧] 提高你工作效率的9个Excel技巧,职场新人必备...
小伙伴们,今天给大家送上五一礼物:9个提高工作效率的Excel技巧!赶紧收藏起来吧. 快速合并两列单元格内容 将Excel表格B列和D列内容合并至H列,只需要在第一个对应单元格输入B.D两列对应单元格 ...
- 利用Pajek软件批量处理excel数据,批量生成网络关系图
利用Pajek软件批量处理excel数据,批量生成网络关系图 Pajek软件大家想必都不陌生,但是我很陌生,因为我用它不是进行网络分析,而是用它来画关系图(类似网络图).但是Pajek软件手工操作时一 ...
- 利用python处理dna序列_利用Python编程提取基因组基因序列
生物技术. DOI: 10.16660/j.cnki.1674-098X.2019.11.141 利用Python编程提取基因组基因序列 ① 庞雪原 张婷婷 (东北农业大学生命科学学院 黑龙江哈尔滨 ...
- python处理大量excel数据-python如何批量处理excel数据?
python如何批量处理excel数据? python批量处理excel数据的方法: excel的内容需要有规律,python才能按顺序读取出来. 比如按行按列读取. 一.安装xlrd模块 到pyth ...
- python处理excel表格数据-利用Python处理和分析Excel表中数据实战.doc
利用Python处理和分析Excel表中数据实战 [利用python进行数据分析--基础篇]利用Python处理和分析Excel表中数据实战 原创 2017年06月28日 15:09:32 标签: p ...
- Python:利用python编程实现三维图像绘制展示(六面体旋转、三维球柱状体、下雪场景等)
Python:利用python编程实现三维图像绘制展示(六面体旋转.三维球柱状体.下雪场景等) 目录 利用python编程实现三维图像绘制展示(六面体旋转.三维球柱状体.下雪场景等) 1.实现六面体旋 ...
- Python:利用python编程将上海十六区,2020年5月份房价实时地图(数据来源房天下)进行柱状图、热图可视化
Python:利用python编程将上海十六区,2020年5月份房价实时地图(数据来源房天下)进行柱状图.热图可视化 目录 上海十六区,2020年5月份房价实时地图(数据来源房天下)可视化 雷达图.柱 ...
- pyaudio:基于pyaudio利用Python编程从电脑端录制音频保存到指定文件夹+将录音上传服务器+录音进行识别并转为文本保存
pyaudio:基于pyaudio利用Python编程从电脑端录制音频保存到指定文件夹+将录音上传服务器+录音进行识别并转为文本保存 目录 输出结果 代码实现 输出结果 代码实现 # -*- codi ...
最新文章
- Java基础知识回顾之四 ----- 集合List、Map和Set
- pandas改变dataframe的列的顺序、改变数据列的排列次序
- Android--在程序里浏览网页/Webview的使用
- 电商网站数据分析的重要性
- Chrome 开发者工具的Timeline和Profiles提高Web应用程序的性能[转]
- 07Java Server Pages
- c语言鸡蛙问题用while,C语言第3章课件.ppt
- Analysis::checkBidir2Nx2N()
- 2022Java最新学习路线(初学者必看)
- 什么软件可以测试QQ特别关心,qq特别关心查询工具
- 计算机照片文件大小,怎么把照片文件大于30k
- 软考高项——计算专题
- 多目标布谷鸟(MOCS)优化算法附Matlab代码
- idea使用svn拉取项目代码_idea下载svn的项目并且运行操作
- javaee之用户信息增删改查案例
- 凯恩帝数控系统面板介绍_凯恩帝数控车床操作面板按钮详解
- 设置html字体大小 js,js如何改变文章的字体大小
- 腾讯阿里的螺丝钉,一样会生锈!
- split().reverse().join()放一起 好记很多
- BiliBili 扭蛋机