Python 可以通过各种库去解析我们常见的数据。其中 csv 文件以纯文本形式存储表格数据,以某字符作为分隔值,通常为逗号;xml 可拓展标记语言,很像超文本标记语言 Html ,但主要对文档和数据进行结构化处理,被用来传输数据;json 作为一种轻量级数据交换格式,比 xml 更小巧但描述能力却不差,其本质是特定格式的字符串;Microsoft Excel 是电子表格,可进行各种数据的处理、统计分析和辅助决策操作,其数据格式为 xls、xlsx。接下来主要介绍通过 Python 简单解析构建上述数据,完成数据的“珍珠翡翠白玉汤”。

Python 解析构建 csv

通过标准库中的 csv 模块,使用函数 reader()、writer() 完成 csv 数据基本读写。

  1 import csv
  2
  3 with open('readtest.csv', newline='') as csvfile:
  4     reader = csv.reader(csvfile)
  5     for row in reader:
  6         print(row)
  7
  8 with open('writetest.csv', 'w', newline='') as csvfile:
  9     writer = csv.writer(csvfile)
 10     writer.writerow("onetest")
 11     writer.writerows("someiterable")

其中 reader() 返回迭代器, writer() 通过 writerow() 或 writerows() 写入一行或多行数据。两者还可通过参数 dialect 指定编码方式,默认以 excel 方式,即以逗号分隔,通过参数 delimiter 指定分隔字段的单字符,默认为逗号。

在 Python3 中,打开文件对象 csvfile ,需要通过 newline='' 指定换行处理,这样读取文件时,新行才能被正确地解释;而在 Python2 中,文件对象 csvfile 必须以二进制的方式 'b' 读写,否则会将某些字节(0x1A)读写为文档结束符(EOF),导致文档读取不全。

除此之外,还可使用 csv 模块中的类 DictReader()、DictWriter() 进行字典方式读写。

  1 import csv
  2
  3 with open('readtest.csv', newline='') as csvfile:
  4     reader = csv.DictReader(csvfile)
  5     for row in reader:
  6         print(row['first_test'], row['last_test'])
  7
  8 with open('writetest.csv', 'w', newline='') as csvfile:
  9     fieldnames = ['first_test', 'last_test']
 10     writer = csv.DictWriter(csvfile, fieldnames=fieldnames)
 11     writer.writeheader()
 12     writer.writerow({'first_test': 'hello', 'last_test': 'wrold'})
 13     writer.writerow({'first_test': 'Hello', 'last_test': 'World'})
 14     #writer.writerows([{'first_test': 'hello', 'last_test': 'wrold'}, {'first_test': 'Hello', 'last_test': 'World'}])

其中 DictReader() 返回有序字典,使得数据可通过字典的形式访问,键名由参数 fieldnames 指定,默认为读取的第一行。

DictWriter() 必须指定参数 fieldnames 说明键名,通过 writeheader() 将键名写入,通过 writerow() 或 writerows() 写入一行或多行字典数据。

Python 解析构建 xml

通过标准库中的 xml.etree.ElementTree 模块,使用 Element、ElementTree 完成 xml 数据的读写。

  1 from xml.etree.ElementTree import Element, ElementTree
  2 root = Element('language')
  3 root.set('name', 'python')
  4 direction1 = Element('direction')
  5 direction2 = Element('direction')
  6 direction3 = Element('direction')
  7 direction4 = Element('direction')
  8 direction1.text = 'Web'
  9 direction2.text = 'Spider'
 10 direction3.text = 'BigData'
 11 direction4.text = 'AI'
 12 root.append(direction1)
 13 root.append(direction2)
 14 root.append(direction3)
 15 root.append(direction4)
 16 #import itertools
 17 #root.extend(chain(direction1, direction2, direction3, direction4))
 18 tree = ElementTree(root)
 19 tree.write('xmltest.xml')

写 xml 文件时,通过 Element() 构建节点,set() 设置属性和相应值,append() 添加子节点,extend() 结合循环器中的 chain() 合成列表添加一组节点,text 属性设置文本值,ElementTree() 传入根节点构建树,write() 写入 xml 文件。

  1 import xml.etree.ElementTree as ET
  2 tree = ET.parse('xmltest.xml')
  3 #from xml.etree.ElementTree import ElementTree
  4 #tree = ElementTree().parse('xmltest.xml')
  5 root = tree.getroot()
  6 tag = root.tag
  7 attrib = root.attrib
  8 text = root.text
  9 direction1 = root.find('direction')
 10 direction2 = root[1]
 11 directions = root.findall('.//direction')
 12 for direction in root.findall('direction'):
 13     print(direction.text)
 14 for direction in root.iter('direction'):
 15     print(direction.text)
 16 root.remove(direction2)

读 xml 文件时,通过 ElementTree() 构建空树,parse() 读入 xml 文件,解析映射到空树;getroot() 获取根节点,通过下标可访问相应的节点;tag 获取节点名,attrib 获取节点属性字典,text 获取节点文本;find() 返回匹配到节点名的第一个节点,findall() 返回匹配到节点名的所有节点,find()、findall() 两者都仅限当前节点的一级子节点,都支持 xpath 路径提取节点;iter() 创建树迭代器,遍历当前节点的所有子节点,返回匹配到节点名的所有节点;remove() 移除相应的节点。

除此之外,还可通过 xml.sax、xml.dom.minidom 去解析构建 xml 数据。其中 sax 是基于事件处理的;dom 是将 xml 数据在内存中解析成一个树,通过对树的操作来操作 xml;而 ElementTree 是轻量级的 dom ,具有简单而高效的API,可用性好,速度快,消耗内存少,但生成的数据格式不美观,需要手动格式化。

Python 解析构建 json

通过标准库中的 json 模块,使用函数 dumps()、loads() 完成 json 数据基本读写。

  1 >>> import json
  2 >>> json.dumps(['foo', {'bar': ('baz', None, 1.0, 2)}])
  3 '["foo", {"bar": ["baz", null, 1.0, 2]}]'
  4 >>> json.loads('["foo", {"bar":["baz", null, 1.0, 2]}]')
  5 ['foo', {'bar': ['baz', None, 1.0, 2]}]

json.dumps() 是将 obj 序列化为 json 格式的 str,而 json.loads() 是反向操作。其中 dumps() 可通过参数 ensure_ascii 指定是否使用 ascii 编码,默认为 True;通过参数  separators=(',', ':') 指定 json 数据格式中的两种分隔符;通过参数 sort_keys 指定是否使用排序,默认为 False。

除此之外,还可使用 json 模块中的函数 dump()、load() 进行 json 数据读写。

  1 import json
  2 with open('jsontest.json', 'w') as jsonfile:
  3     json.dump(['foo', {'bar': ('baz', None, 1.0, 2)}], jsonfile)
  4 with open('jsontest.json') as jsonfile:
  5     json.load(jsonfile)

功能与 dumps()、loads() 相同,但接口不同,需要与文件操作结合,多传入一个文件对象。

Python 解析构建 excel

通过 pip 安装第三方库 xlwt、xlrd 模块,完成 excel 数据的读写。

  1 import xlwt
  2 wbook = xlwt.Workbook(encoding='utf-8')
  3 wsheet = wbook.add_sheet('sheet1')
  4 wsheet.write(0, 0, 'Hello World')
  5 wbook.save('exceltest.xls')

写 excel 数据时,通过 xlwt.Workbook() 指定编码格式参数 encoding 创建工作表,add_sheet() 添加表单,write() 在相应的行列单元格中写入数据,save() 保存工作表。

  1 import xlrd
  2 rbook = xlrd.open_workbook('exceltest.xls')
  3 rsheet = rbook.sheets()[0]
  4 #rsheet = rbook.sheet_by_index(0)
  5 #rsheet = rbook.sheet_by_name('sheet1')
  6 nr = rsheet.nrows
  7 nc = rsheet.ncols
  8 rv = rsheet.row_values(0)
  9 cv = rsheet.col_values(0)
 10 cell = rsheet.cell_value(0, 0)

读 excel 数据时,通过 xlrd.open_workbook() 打开相应的工作表,可使用列表下标、表索引 sheet_by_index()、表单名 sheet_by_name() 三种方式获取表单名,nrows 获取行数,ncols 获取列数,row_values() 返回相应行的值列表,col_values() 返回相应列的值列表,cell_value() 返回相应行列的单元格值。

文档

csv:Python3 中的 csv、Python2 中的 csv

xml:xml.etree.elementtree

json:Python3 中的 json

excel:github 中的 xlwt、github 中的 xlrd

转载于:https://www.cnblogs.com/sherlockChen/p/8313529.html

Python 解析构建数据大杂烩 -- csv、xml、json、excel相关推荐

  1. Python项目实践之二:下载数据(CSV和JSON )

    Python项目实践之二:下载数据(CSV和JSON ) 下载数据的可视化着重点在于从网上下载数据进行分析后,进行可视化处理,网上的数据格式多的难以置信,且大多未经过仔细检查,如果能够对这些数据进行分 ...

  2. python解析jason数据

    今天在观察python脚本的时候,看到了python解析jason数据这么一段. 经过相关查找,终于弄清楚了python是怎么解析jason结构,取得数据的. 我们通过以下命令: target = u ...

  3. 一文综述python读写csv xml json文件各种骚操作

    Python优越的灵活性和易用性使其成为最受欢迎的编程语言之一,尤其是对数据科学家而言.这在很大程度上是因为使用Python处理大型数据集是很简单的一件事情. 如今,每家科技公司都在制定数据战略.他们 ...

  4. python解析返回值类型为xml的数据接口

    样参 <?xml version="1.0" encoding="UTF-8"?>-<root><state>success ...

  5. python处理大型数据的csv

    在训练机器学习模型的过程中,源数据常常不符合我们的要求.大量繁杂的数据,需要按照我们的需求进行过滤.拿到我们想要的数据格式,并建立能够反映数据间逻辑结构的数据表达形式.  最近就拿到一个小任务,需要处 ...

  6. python爬虫——保存数据为.csv文件

    CSV(Comma Separated Values)格式是电子表格和数据库中最常见的输入.输出文件格式 爬虫保存数据为.csv文件步骤: 1.导包 import csv 2.创建或打开文件,设置文件 ...

  7. python解析雷达数据_激光雷达数据解析(Python-lidar-data-analysis_V1.0)

    2017年9月3号,杭州天气燥热,跑这来读研了,换专业了,一切从头开始. 上手的第一件事,解析激光雷达数据.(这是个半残废的小代码工程,最后不了了之,当做经验,也来写个半残废的博客) 语言: pyth ...

  8. python教程1001python教程 - 百度_用python解析处理百度地图的xml文件

    今天周末,正好昨天对python的xml处理稍微了解了下,所以就拿出前几天申请的一个百度map的key,来处理下返回的xml文件,还好对着别人的做法,依葫芦画瓢,搞出来了.感觉效率不怎么高,估计是处理 ...

  9. pandas版xml json excel互转

    import json import xmltodict import pandas as pd# 定义xml转json的函数class Json_xml():def __init__(self):p ...

最新文章

  1. 阻止保存要求重新创建表的更改
  2. python培训比较好的机构-python哪家的培训比较好?
  3. SQL Server-聚焦WHERE Column = @Param OR @Param IS NULL有问题?
  4. PureFtp的安装与配置
  5. atitit 新特性与趋势管理的艺术 v2 s52.docx 1. lang语言系列 java node.js php 2 1.1. Atitit js es5 es6新特性 attilax总结
  6. e: 无法定位软件包 python-pip_关于Sony镜头不同系列定位的最全面分析
  7. Android Java开发实例项目+游戏视频教程免费下载咯。。
  8. 操作系统:信号量机制之生产者与消费者实验
  9. 第二讲:PN结与二极管的特性
  10. 华为首部鸿蒙手机,液态镜头首次亮相亚美AM8探秘华为首部鸿蒙手机P50
  11. LeetCode 1665. 完成所有任务的最少初始能量
  12. 应用程序图标变成白色
  13. 学习笔记之在eclipse中,使用ADT开发
  14. selenium源码通读·5 |webdriver/common/action_chains.py-ActionChains类
  15. 某“工匠杯”内部预选赛
  16. C++ 开发【梦幻西游】500多行代码实现
  17. IFR报告称新冠疫情后的恢复对“机器人技术”的需求很高
  18. 经典:全国老婆一览表
  19. 递归和回溯相关面试算法总结
  20. Jmockit 基础

热门文章

  1. IT兄弟连 JavaWeb教程 使用Servlet实现在页面中显示随机数
  2. 写给自己看的三栏布局的演示
  3. 新手理解的JS原型链 1
  4. 基于jquery,ajax请求及自我终止的函数封装
  5. ./configure make make install详解
  6. 记一次ZABBIX监控JMX故障
  7. Android基础之Java多态、继承、重载和重写的区别
  8. redux 思考以及源码解析
  9. 统一的Ajax提交封装,一劳永逸好工具(带跨域处理)
  10. 《利用python进行数据分析》读书笔记--第四章 numpy基础:数组和矢量计算