python文件和数据格式化
文件的使用
文件的类型
文件的理解
文件是数据的抽象和集合
- 文件是存储在辅助存储器上的数据序列
- 文件是数据存储的一种形式
- 文件展现形态:文本文件和二进制文件
文本文件 vs 二进制文件
- 文本文件和二进制文件只是文件的展示方式
- 本质上,所有文件都是二进制形式存储
- 形式上,所有文件采用两种方式展示
文本文件
- 由单一特定编码组成的文件,如UTF-8编码
- 由于存在编码,也被看成是存储着的长字符串
- 适用于例如:.txt文件、.py文件
二进制文件
- 直接由比特0和1组成,没有统一字符编码
- 一般存在二进制0和1的组织结构,即文件格式
- 适用于例如:.png文件、.avi文件等
文件的打开和关闭
文件处理的步骤:打开-操作-关闭
文件打开以后就可以对文件进行读写
#读文件函数
a.read(size)
a.readline(size)
a.readlines(hint)#写文件函数
a.write(s)
a.writelines(lines)
a.seek(offset)
文件路径
<变量名> = open(<文件名>, <打开模式>)
打开模式
文件的打开模式 | 描述 |
---|---|
‘r’ | 只读模式,默认值,如果文件不存在,返回FileNotFoundError |
‘w’ | 覆盖写模式,文件不存在则创建,存在则完全覆盖 |
‘x’ | 创建写模式,文件不存在则创建,存在则返回FileExistsError |
‘a’ | 追加写模式,文件不存在则创建,存在则在文件最后追加内容 |
‘b’ | 二进制文件模式 |
‘t’ | 文本文件模式,默认值 |
‘+’ | 与r/w/x/a一同使用,在原功能基础上增加同时读写功能 |
文件的关闭
<文件名>.close()
文件内容的读取
操作方法 | 描述 |
---|---|
<f>.read(size=-1) | 读入全部内容,如果给出参数,读入前size长度 |
<f>.readline(size=-1) | 读入全部内容,如果给出参数,读入该行前size长度 |
<f>.readlines(hint=-1) | 读入文件所有行,以每行为元素形成列表,如果给出参数,读入前hint行 |
文件的全文本操作
- 遍历全文本:方法一
fname = input("请输入要打开的文件名称:")
fo = open(fname,"r")
txt = fo.read()
#对全文txt进行处理
fo.close()
- 遍历全文本:方法二
fname = input("请输入要打开的文件名称:")
fo = open(fname,"r")
txt = fo.read(2)
while txt != "":#对txt进行处理txt = fo.read(2)
fo.close()
文件的逐行操作
- 逐行遍历文件:方法一
fname = input("请输入要打开的文件名称:")
fo = open(fname,"r")
for line in fo.readlines():print(line)
fo.close()
- 逐行遍历文件:方法二
fname = input("请输入要打开的文件名称:")
fo = open(fname,"r")
for line in fo:print(line)
fo.close()
数据的文件写入
操作方法 | 描述 |
---|---|
<f>.write(s) | 向文件写入一个字符串或字节流 |
<f>.writelines(lines) | 将一个元素全为字符串的列表写入文件 |
<f>.seek(offset) | 改变当前文件操作指针的位置,offset含义如下:0-文件开头,1-当前位置,2-文件结尾 |
fo = open("output.txt","w+")
ls = ["中国","法国","美国"]
fo.writelines(ls)
for line in fo:print(line)
fo.close()
此时控制台没有任何输出
fo = open("output.txt","w+")
ls = ["中国","法国","美国"]
fo.writelines(ls)
fo.seek(0)
for line in fo:print(line)
fo.close()
此时输出“中国法国美国”
实例:自动轨迹绘制
问题分析
- 需求:根据脚本来绘制图形
- 不是写代码而是数据绘制图形
- 数据脚本是自动化最重要的第一步
基本思路
- 步骤1:定义数据文件格式(接口)
- 步骤2:编写程序,根据文件接口解析参数绘制图形
- 步骤3:编制数据文件
编写程序
#AutoTraceDraw.py
import turtle as t
t.title('自动轨迹绘制')
t.setup(800,600,0,0)
t.pencolor("red")
t.pensize(5)#数据读取
datals = []
f = open("data.txt")
for line in f:line = line.replace("\n","")datals.append(list(map(eval, line.split(","))))#自动绘制
for i in range(len(datals)):t.pencolor(datals[i][3],datals[i][4],datals[i][5])t.fd(datals[i][0])if datals[i][1]:t.right(datals[i][2])else:t.left(datals[i][2])
数据文件
data.txt
300,0,144,1,0,0
300,0,144,0,1,0
300,0,144,0,0,1
300,0,144,1,1,0
300,0,108,0,1,1
184,0,72,1,0,1
184,0,72,0,0,0
184,0,72,0,0,0
184,0,72,0,0,0
184,1,72,1,0,1
184,1,72,0,0,0
184,1,72,0,0,0
184,1,72,0,0,0
184,1,72,0,0,0
184,1,720,0,0,0
运行结果
一维数据的格式化和处理
数据组织的维度
从一个数据到一组数据:一个数据表达一个含义,一组数据表达一个或多个含义
- 一维数据:由对等关系的有序或无序数据构成,采用线性方式组织,对应列表、数组、集合等概念。
- 二维数据:由多个一维数据构成,是一维数据的组合形式。表格是典型的二维数据。
- 多维数据:由一维或二维数据在新的维度上扩展形成
- 高维数据:键值对
数据的操作周期:存储<->表示<->操作
一维数据的表示
如果数据间有序:使用列表类型
- 列表类型可以表达一维有序数据
- for循环可以遍历数据,进而对每个数据进行处理
如果数据间无序:使用集合类型
- 集合类型可以表达一维无需数据
- for循环可以遍历数据,进而对每个数据进行处理
一维数据的存储
- 存储方式一:空格分隔
- 使用一个或多个空格分隔进行存储,不换行
- 缺点:数据中不能存在空格
- 存储方式二:逗号分隔
- 使用英文半角逗号分隔数据进行存储,不换行
- 缺点:数据中不能有英文逗号
- 存储方式三:其他方式
- 使用其他符号或符号组合分隔,建议采用特殊符号
- 缺点:需要根据数据特点定义,通用性较差
一维数据的处理
从空格分割的文件中读入数据
txt = open(fname).read()
ls = txt.split()
f.close()
从特殊符号分割的文件中读入数据
txt = open(fname).read()
ls = txt.split("$")
f.close()
采用空格分隔方式将数据写入文件
ls = ["中国","美国","日本"]
f = open(fname,'w')
f.write(' '.join(ls))
f.close()
二维数据的格式化和处理
二维数据的表示
使用列表类型(二维列表)
- 使用两层for循环遍历每个元素
- 外层列表中每个元素可以对应一行,也可以对应一列
CSV格式与二维数据的存储
CSV:Comma-Separated Values
- 国际通用的一二维数据存储格式,一般.csv扩展名
- 每行一个一维数据,采用逗号分隔,无空行
- Excel可读入输出,一般编辑软件都可以产生
- 如果某个元素确缺失,逗号仍要保留
- 二维数据的表头可以作为数据存储,也可以另行存储
二维数据的存储
- 按行存或按列存都可以,具体由程序决定
- 一般索引习惯:
ls[row][column]
,先行后列 - 根据一般习惯,外层列表每个元素是一行,按行存
二维数据的处理
从CSV文件中读入数据
fo = open(fname)
ls =[]
for line in fo:line = line.replace("\n","")ls.append(line.split(","))
fo.close()
将数据写入CSV文件
ls = [[],[],[]] #二维列表
f.open(fname,'w')
for item in ls:f.write(','.join(item) + '\n')
f.close()
二维数据的逐一处理
ls = [[],[],[]] #二维列表
for row in ls:for column in row:print(ls[row][column])
wordcloud库的使用
基本介绍
wordcloud是优秀的词云展示的第三方库,词云以词语为基本单位,更加直观和艺术的展示文本。
- 安装命令
pip install wordcloud
使用说明
wordcloud库把词云当作一个WordCloud对象
- wordcloud.WordCloud()代表一个文本对应的词云
- 可以根据文本中词语出现的频率等参数绘制词云
- 词云的形状、尺寸和颜色都可以设定
wordcloud库常规方法
w = wordcloud.WordCloud()
- 以WordCloud对象为基础
- 配置参数、加载文本、输出文件
方法 | 描述 |
---|---|
w.generate(txt) |
向WordCloud对象w中加载文本txt,w.generate("python and wordcloud")
|
w.to_file(filename) |
将词云输出成图像文件,.png或.jpg格式,w.to_file("outfile.png")
|
- 步骤1:配置对象参数
- 步骤2:加载词云文本
- 步骤3:输出词云文件
import wordcloud
c = wordcloud.WordCloud()
c.generate("wordcloud by python")
c.to_file("pywordcloud.png")
从文本到图片,wordcloud做了哪些事情呢?
- 分隔:以空格分隔单词
- 统计:单词出现次数并过滤
- 字体:根据统计配置字号
- 布局:颜色环境尺寸
wordcloud配置对象参数
w = wordcloud.WordCloud(<参数>)
参数 | 描述 |
---|---|
width | 指定词云对象生成图片的宽度,默认400像素 |
height | 指定词云对象生成图片的高度,默认200像素 |
min_font_size | 指定词云中字体的最小字号,默认4号 |
max_font_size | 指定词云中字体的最大字号,根据高度自动调节 |
font_step | 指定词云中字体字号的不进间隔,默认为1 |
font_path | 指定字体文件的路径,默认None |
max_words | 指定词云显示的最大单词数量,默认为200 |
stop_words | 指定词云的排除词列表,即不显示的单词列表 |
mask | 指定词云形状,默认为长方形,需要引用imread()函数 |
background_color | 指定词云图片的背景颜色,默认为黑色 |
#指定词云形状,默认为长方形,需要引用imread()函数
from scipy.misc import imread
mk = imread("pic.png")
w = wordcloud.WordCloud(mask = mk)
两个小demo
import wordcloud
txt = "life is short, you need python"
w = wordcloud.WordCloud( \background_color = "white")
w.generate(txt)
w.to_file("d:/pywordcloud.png")
import jieba
import wordcloud
txt = "程序设计语言是计算机能够理解和\
识别用户操作意图的一种交互体系,它按照\
特定规则组织计算机指令,使计算机能够自\
动进行各种运算处理。"
w = wordcloud.WordCloud( width = 1000, \font_path = "msyh.ttc", height = 700)
w.generate(" ".join(jieba.lcut(txt)))
w.to_file("d:/zhongwenciyun.jpg")
实例:政府工作报告词云
问题分析
直观理解政策文件
- 需求:对于政府工作报告等政策文件,如何直观理解?
- 体会直观的价值:生成词云 & 优化词云
graph LR
政府工作报告等文件 --> 有效展示的词云
基本思路和代码实现
- 步骤1:读取文件,分词整理
- 步骤2:设置并输出词云
- 步骤3:观察结果,优化迭代
#GovRpWordCloudv1.py
import jieba
import wordcloud
f = open("关于实施乡村振兴战略的意见.txt","r",encoding="utf-8")
#f = open("新时代中国特色社会主义.txt","r",encoding="utf-8")
t = f.read()
f.close()
ls = jieba.lcut(t)
txt = " ".join(ls)
#w = wordcloud.WordCloud(max_words = 15,font_path = "msyh.ttc",width = 1000,height = 700,background_color = "white")
w = wordcloud.WordCloud(font_path = "msyh.ttc",width = 1000,height = 700,background_color = "white")
w.generate(txt)
w.to_file("GovRpWordCloudv1.png")
运行程序后,两个报告的词云如下:
增加参数max_words=15
,结果如下:
增加形状mask = mask
,词云图更加漂亮:
#GovRpWordCloudv1.py
import jieba
import wordcloud
from scipy.misc import imread
mask = imread("chinamap.jpg")
#mask = imread("fivestars.png")
f = open("关于实施乡村振兴战略的意见.txt","r",encoding="utf-8")
#f = open("新时代中国特色社会主义.txt","r",encoding="utf-8")
t = f.read()
f.close()
ls = jieba.lcut(t)
txt = " ".join(ls)
w = wordcloud.WordCloud(mask = mask,font_path = "msyh.ttc",width = 1000,height = 700,background_color = "white")
w.generate(txt)
w.to_file("GovRpWordCloudv1.png")
结果展示:
扩展能力
- 了解wordcloud更多参数,扩展词云能力
- 特色词云:设计一款属于自己的特色词云风格
- 更多文件:用更多文件练习词云生成
练习素材下载:
新时代中国特色社会主义.txt
关于实施乡村振兴战略的意见.txt
chinamap.jpg
fivestars.png
python文件和数据格式化相关推荐
- Python文件和数据格式化学习笔记
一.文件的使用 1. 文件的定义: 文件是数据的抽象和集合:文件是存储在辅助存储器上的数据序列:文件是数据存储的一种形式: 2. 文件的展现方式:文本文件和二进制文件(两种) 文本文件和二进制文件只是 ...
- Python文件和数据格式化(教程)
文件是一个存储在副主存储器的数据序列,可包含任何数据内容. 概念上,文件是数据的集合和抽象,类似的,函数是程序的集合和抽象. 用文件形式组织和表达数据更有效也更加灵活. 文件包括两种形式,文本文件和二 ...
- 7 Python文件与数据格式化
一.标准库OS常用命令 需要先自建一个文件夹,并将当前目录修改为该文件夹. import os os.getcwd() #查看当前路径 os.chdir("C:/Users/盛小胖yx/De ...
- python文件与数据格式化
[一]文件概述 1.文件标识 意义:找到计算机中唯一确定的文件 组成:文件路径.文件名主干.文件扩展名 2.文件类型(文本文件 ,二进制文件) 文本文件:专门存储文本字符数据. 二进制文件:不能直接使 ...
- Python 文件与数据格式化
目录 一.文件概述 二.文件的基本操作 三.文件与目录管理 一.文件概述 1.文件的标识:意义:找到计算机中唯一确定的文件. 组成:文件名主干.文件扩展名以及文件路径. 2.类型:计算机中的文件分为文 ...
- python——文件和数据格式化
一: 文件的打开关闭 文件处理的步骤: 打开-操作-关闭 文件的打开 <变量名> = open("<文件名>, <打开模式>") 打开模式 'r ...
- python文件和数据格式化思维导图,思维导图:Numpy+Pandas
思维导图:Numpy+Pandas 附:文本结构 Numpy+Pandas Numpy 基于矩阵运算的模块 数组转矩阵 A = np.array([[1,2,3],[2,3,4]]) 矩阵属性 ndi ...
- python——文件和数据格式化练习题:文件独特行数
描述 统计附件文件中与其他任何其他行都不同的行的数量,即独特行的数量. 问题分析 这道题是python123课程里面的一道题,我先说一下我的分析过程: 要实现问题找到不同行数,那就要用每一行分别和出它 ...
- Day06-Python文件和数据格式化
简介 此系列主要记录若干年前学习Python的心路历程,本文为第六章(同时也是基础内容的最后一章)Python文件和数据格式化.经过以上学习应该已经掌握Python的基本编程. 文件的使用: 数据的抽 ...
- Python语法基础(U.7)-文件和数据格式化
为mooc网站的北京理工大学的 嵩天 .黄天羽 .礼欣 三位老师的课程笔记. 欢迎starGITHUB可下载源码 7 文件和数据格式化 7.1 文件的使用 7.2 实例11:自动轨迹绘制 7.3 一维 ...
最新文章
- [bzoj] 1176 Mokia || CDQ分治
- java 代码 内存泄露_如何用Java编写一段代码引发内存泄露
- AXI4-Lite协议详解
- 用Jenkins自动化搭建测试环境_jenkins基础搭建_入门试炼02
- 漫话:应用程序被拖慢?罪魁祸首竟然是Log4j!
- angular div 滚动条事件_DOM事件
- js模板引擎art template数组渲染的方法
- 计算机辅助设计技术基础教程,《计算机辅助设计技术基础》课程教案.doc
- cad2020打印样式放在哪个文件夹_海龙V3.0 QP超级打印,一次性多文件多CAD,跨模型布局完成打印...
- centos7 安装搜狗拼音输入法
- 计算机视觉—车道线检测
- linux查看wifi信号命令_linux无线网络命令
- SEC再收中国互金企业招股书 融360成立简普科技拟融资2亿美元
- Linux操作系统基础之用户管理
- 冷战久了一定会分手的星座
- qrc文件的使用方法
- 华为浏览器html页样式没了,华为TE40web页面无发登录如何解决?
- Centos7.9+mysql8.0开启指定IP远程连接数据库
- 揭秘NSA秘密黑客组织方程式
- Unity游戏开发——向量运算(点乘和叉乘)
热门文章
- Minidwep-gtk字典 破 WPA
- c语言:鸡兔同笼问题
- 屏幕真伪测试软件,如何检测电视屏幕真伪4K、坏点漏光?两款工具一键识别!...
- 单片机ADC分压电阻测量直流电压
- 用91卫图助手获取研究区(勾画研究矢量shp格式范围等)
- MQL5 COOKBOOK: 获取仓位属性
- 金角大王 python_【51CTO学院三周年】 老男孩python全栈心路
- STM32 标准外设库(STM32F107)
- ubuntu16.04下安装teamview12版本
- Minecraft 1.19.2 Forge模组开发 01.Idea开发环境配置