系统重温Pandas笔记:(八)文本数据
文章目录
- 写在前面
- 一、str对象
- 1. str对象的设计意图
- 2. []索引器
- 3. string类型
- 二、正则表达式基础
- 1. 一般字符的匹配
- 3. 简写字符集
- 三、文本处理的五类操作
- 1. 拆分
- 2. 合并
- 3. 匹配
- 4. 替换
- 5. 提取
- 四、常用字符串函数
- 1. 字母型函数
- 2. 数值型函数
- 3. 统计型函数
- 4. 格式型函数
- 五、练习
- Ex1:房屋信息数据集
- Ex2:《权力的游戏》剧本数据集
写在前面
本文内容源自Datawhale 组队学习教程,并结合了部分自己的笔记和感悟。对Datawhale感兴趣且想进一步了解:https://github.com/datawhalechina/joyful-pandas
一、str对象
1. str对象的设计意图
str
对象是定义在Index
或Series
上的属性,专门用于逐元素处理文本内容,其内部定义了大量方法,因此对一个序列进行文本处理,首先需要获取其str
对象。在Python标准库中也有str
模块,为了使用上的便利,有许多函数的用法pandas
照搬了它的设计。
e.g.
s = pd.Series(['abcd', 'efg', 'hi'])
s.str.upper() # pandas中str对象上的upper方法
根据文档API
材料,在pandas
的50个str
对象方法中,有31个是和标准库中的str
模块方法同名且功能一致,这为批量处理序列提供了有力的工具。
2. []索引器
对于str
对象而言,可理解为其对字符串进行了序列化的操作,例如在一般的字符串中,通过[]
可以取出某个位置的元素,也能通过切片得到子串。通过对str
对象使用[]
索引器,可以完成完全一致的功能,并且如果超出范围则返回缺失值:
s.str[0]
0 a
1 e
2 h
dtype: objects.str[-1: 0: -2]
0 db
1 g
2 i
dtype: objects.str[2]
0 c
1 g
2 NaN
dtype: object
3. string类型
从pandas
的1.0.0
版本开始,引入了string
类型,其引入的动机在于:原来所有的字符串类型都会以object
类型的Series
进行存储,但object
类型只应当存储混合类型,例如同时存储浮点、字符串、字典、列表、自定义类型等,因此字符串有必要同数值型或category
一样,具有自己的数据存放类型,从而引入了string
类型。
总体上说,绝大多数对于object
和string
类型的序列使用str
对象方法产生的结果是一致,但是在下面提到的两点上有较大差异:
- 首先,应当尽量保证每一个序列中的值都是字符串的情况下才使用
str
属性,但这并不是必须的,其必要条件是序列中至少有一个可迭代(Iterable)对象,包括但不限于字符串、字典、列表。对于一个可迭代对象,string
类型的str
对象和object
类型的str
对象返回结果可能是不同的。
s = pd.Series([{1: 'temp_1', 2: 'temp_2'}, ['a', 'b'], 0.5, 'my_string'])
s.str[1]
0 temp_1
1 b
2 NaN
3 y
dtype: objects.astype('string').str[1]
0 1
1 '
2 .
3 y
dtype: string
除了最后一个字符串元素,前三个元素返回的值都不同,其原因在于:
1.当序列类型为object
时,是对于每一个元素进行[]
索引,因此对于字典而言,返回temp_1字符串,对于列表则返回第二个值,而第三个为不可迭代对象,返回缺失值,第四个是对字符串进行[]
索引。
2.而string
类型的str
对象先把整个元素转为字面意义的字符串,例如对于列表而言,第一个元素即 “{”,而对于最后一个字符串元素而言,恰好转化前后的表示方法一致,因此结果和object
类型一致。
- 除了对于某些对象的
str
序列化方法不同之外,两者另外的一个差别在于,string
类型是Nullable
类型,但object
不是。这意味着string
类型的序列,如果调用的str
方法返回值为整数Series
和布尔Series
时,其分别对应的dtype
是Int
和boolean
的Nullable
类型,而object
类型则会分别返回int/float
和bool/object
,取决于缺失值的存在与否。同时,字符串的比较操作,也具有相似的特性,string
返回Nullable
类型,但object
不会。
s = pd.Series(['a'])
s.str.len()
0 1
dtype: int64s.astype('string').str.len()
0 1
dtype: Int64s == 'a'
0 True
dtype: bools.astype('string') == 'a'
0 True
dtype: booleans = pd.Series(['a', np.nan]) # 带有缺失值
s.str.len()
0 1.0
1 NaN
dtype: float64s.astype('string').str.len()
0 1
1 <NA>
dtype: Int64s == 'a'
0 True
1 False
dtype: bools.astype('string') == 'a'
0 True
1 <NA>
dtype: boolean
最后需要注意的是,对于全体元素为数值类型的序列,即使其类型为object
或者category
也不允许直接使用str
属性。如果需要把数字当成string
类型处理,可以使用astype
强制转换为string
类型的Series
:
s = pd.Series([12, 345, 6789])
s.astype('string').str[1]0 2
1 4
2 7
dtype: string
二、正则表达式基础
这一节的两个表格来自于learn-regex-zh这个关于正则表达式项目,其使用MIT
开源许可协议。这里只是介绍正则表达式的基本用法,需要系统学习的读者可参考正则表达式必知必会一书。
1. 一般字符的匹配
正则表达式是一种按照某种正则模式,从左到右匹配字符串中内容的一种工具。对于一般的字符而言,它可以找到其所在的位置,这里为了演示便利,使用了python
中re
模块的findall
函数来匹配所有出现过但不重叠的模式,第一个参数是正则表达式,第二个参数是待匹配的字符串。例如,在下面的字符串中找出apple
:
import re
re.findall('Apple', 'Apple! This Is an Apple!')['Apple', 'Apple']
元字符 | 描述 |
---|---|
. | 匹配除换行符以外的任意字符 |
[ ] | 字符类,匹配方括号中包含的任意字符 |
[^ ] | 否定字符类,匹配方括号中不包含的任意字符 |
* | 匹配前面的子表达式零次或多次 |
+ | 匹配前面的子表达式一次或多次 |
? | 匹配前面的子表达式零次或一次 |
{n,m} | 花括号,匹配前面字符至少 n 次,但是不超过 m 次 |
(xyz) | 字符组,按照确切的顺序匹配字符xyz |
| | 分支结构,匹配符号之前的字符或后面的字符 |
\ | 转义符,它可以还原元字符原来的含义 |
^ | 匹配行的开始 |
$ | 匹配行的结束 |
re.findall('.', 'abc')
['a', 'b', 'c']re.findall('[ac]', 'abc')
['a', 'c']re.findall('[^ac]', 'abc')
['b']re.findall('[ab]{2}', 'aaaabbbb') # {n}指匹配n次
['aa', 'aa', 'bb', 'bb']re.findall('aaa|bbb', 'aaaabbbb')
['aaa', 'bbb']re.findall('a\\?|a\*', 'aa?a*a')
['a?', 'a*']
re.findall('a?.', 'abaacadaae') #.就表示要匹配一个字符,a?表示可以有个a也可以没有a
['ab', 'aa', 'c', 'ad', 'aa', 'e']
3. 简写字符集
此外,正则表达式中还有一类简写字符集,其等价于一组字符的集合:
简写 | 描述 |
---|---|
\w | 匹配所有字母、数字、下划线: [a-zA-Z0-9_] |
\W | 匹配非字母和数字的字符: [^\w] |
\d | 匹配数字: [0-9] |
\D | 匹配非数字: [^\d] |
\s | 匹配空格符: [\t\n\f\r\p{Z}] |
\S | 匹配非空格符: [^\s] |
\B | 匹配一组非空字符开头或结尾的位置,不代表具体字符 |
re.findall('.s', 'Apple! This Is an Apple!')
['is', 'Is']re.findall('\w{2}', '09 8? 7w c_ 9q p@')
['09', '7w', 'c_', '9q']re.findall('\w\W\B', '09 8? 7w c_ 9q p@')
['8?', 'p@']re.findall('.\s.', 'Constant dropping wears the stone.')
['t d', 'g w', 's t', 'e s']re.findall('上海市(.{2,3}区)(.{2,3}路)(\d+号)', '上海市黄浦区方浜中路249号 上海市宝山区密山路5号')
[('黄浦区', '方浜中路', '249号'), ('宝山区', '密山路', '5号')]
三、文本处理的五类操作
1. 拆分
str.split
能够把字符串的列进行拆分:
- 第一个参数为正则表达式
- 可选参数包括从左到右的最大拆分次数
n
,是否展开为多个列expand
。
s = pd.Series(['上海市黄浦区方浜中路249号', '上海市宝山区密山路5号'])
s.str.split('[市区路]')0 [上海, 黄浦, 方浜中, 249号]
1 [上海, 宝山, 密山, 5号]
dtype: object
s.str.split('[市区路]', n=2, expand=True)
与其类似的函数是str.rsplit
,其区别在于使用n
参数的时候是从右到左限制最大拆分次数。但是当前版本下rsplit
因为bug
而无法使用正则表达式进行分割。
2. 合并
关于合并一共有两个函数,分别是str.join
和str.cat
。
str.join
表示用某个连接符把Series
中的字符串列表连接起来,如果列表中出现了字符串元素则返回缺失值:
s = pd.Series([['a','b'], [1, 'a'], [['a', 'b'], 'c']])
s.str.join('-')0 a-b
1 NaN
2 NaN
dtype: object
str.cat
用于合并两个序列,主要参数为连接符sep
、连接形式join
以及缺失值替代符号na_rep
,其中连接形式默认为以索引为键的左连接。
s1 = pd.Series(['a','b'])
s2 = pd.Series(['cat','dog'])
s1.str.cat(s2,sep='-')
0 a-cat
1 b-dog
dtype: objects2.index = [1, 2]
s1.str.cat(s2, sep='-', na_rep='?', join='outer')
0 a-?
1 b-cat
2 ?-dog
dtype: object
3. 匹配
str.contains
返回了每个字符串是否包含正则模式的布尔序列:
s = pd.Series(['my cat', 'he is fat', 'railway station'])
s.str.contains('\s\wat')0 True
1 True
2 False
dtype: bool
str.startswith
和str.endswith
返回了每个字符串以给定模式为开始和结束的布尔序列,它们都不支持正则表达式:
s.str.startswith('my')
0 True
1 False
2 False
dtype: bools.str.endswith('t')
0 True
1 True
2 False
dtype: bool
- 如果需要用正则表达式来检测开始或结束字符串的模式,可以使用
str.match
,其返回了每个字符串起始处是否符合给定正则模式的布尔序列:
s.str.match('m|h')
0 True
1 True
2 False
dtype: bools.str[::-1].str.match('ta[f|g]|n') # 反转后匹配
0 False
1 True
2 True
dtype: bool
- 当然,这些也能通过在
str.contains
的正则中使用^
和$
来实现:
s.str.contains('^[m|h]')
0 True
1 True
2 False
dtype: bools.str.contains('[f|g]at|n$')
0 False
1 True
2 True
dtype: bool
- 还有一种返回索引的匹配函数,即
str.find
与str.rfind
,其分别返回从左到右和从右到左第一次匹配的位置的索引,未找到则返回-1。需要注意的是这两个函数不支持正则匹配,只能用于字符子串的匹配:
s = pd.Series(['This is an apple. That is not an apple.'])
s.str.find('apple')
0 11
dtype: int64s.str.rfind('apple')
0 33
dtype: int64
4. 替换
str.replace
和replace
并不是一个函数,在使用字符串替换时应当使用前者。
s = pd.Series(['a_1_b','c_?'])
s.str.replace('\d|\?', 'new')0 a_new_b
1 c_new
dtype: object
当需要对不同部分进行有差别的替换时,可以利用子组
的方法,并且此时可以通过传入自定义的替换函数来分别进行处理,注意group(k)
代表匹配到的第k
个子组(圆括号之间的内容)。实际数据处理中对应的替换,一般都会通过代码来获取数据从而构造字典映射,在具体写法上会简洁的多。
5. 提取
提取既可以认为是一种返回具体元素(而不是布尔值或元素对应的索引位置)的匹配操作,也可以认为是一种特殊的拆分操作。前面提到的str.split
例子中会把分隔符去除,这并不是用户想要的效果,这时候就可以用str.extract
进行提取:
pat = '(\w+市)(\w+区)(\w+路)(\d+号)'
s.str.extract(pat)
通过子组的命名,可以直接对新生成DataFrame
的列命名:
pat = '(?P<市名>\w+市)(?P<区名>\w+区)(?P<路名>\w+路)(?P<编号>\d+号)'
s.str.extract(pat)
str.extractall
不同于str.extract
只匹配一次,它会把所有符合条件的模式全部匹配出来,如果存在多个结果,则以多级索引的方式存储:
s = pd.Series(['A135T15,A26S5','B674S2,B25T6'], index = ['my_A','my_B'])
pat = '[A|B](\d+)[T|S](\d+)'
s.str.extractall(pat)
pat_with_name = '[A|B](?P<name1>\d+)[T|S](?P<name2>\d+)'
s.str.extractall(pat_with_name)
str.findall
的功能类似于str.extractall
,区别在于前者把结果存入列表中,而后者处理为多级索引,每个行只对应一组匹配,而不是把所有匹配组合构成列表。
s.str.findall(pat)my_A [(135, 15), (26, 5)]
my_B [(674, 2), (25, 6)]
dtype: object
四、常用字符串函数
除了上述介绍的五类字符串操作有关的函数之外,str
对象上还定义了一些实用的其他方法,在此进行介绍:
1. 字母型函数
upper, lower, title, capitalize, swapcase
这五个函数主要用于字母的大小写转化,从下面的例子中就容易领会其功能:
s = pd.Series(['lower', 'CAPITALS', 'this is a sentence', 'SwApCaSe'])
s.str.upper()
0 LOWER
1 CAPITALS
2 THIS IS A SENTENCE
3 SWAPCASE
dtype: objects.str.lower()
0 lower
1 capitals
2 this is a sentence
3 swapcase
dtype: objects.str.title()
0 Lower
1 Capitals
2 This Is A Sentence
3 Swapcase
dtype: objects.str.capitalize()
0 Lower
1 Capitals
2 This is a sentence
3 Swapcase
dtype: objects.str.swapcase() #它将字符串中的英文字母大小写互换,并返回修改后的字符串。
0 LOWER
1 capitals
2 THIS IS A SENTENCE
3 sWaPcAsE
dtype: object
2. 数值型函数
这里着重需要介绍的是pd.to_numeric
方法,它虽然不是str
对象上的方法,但是能够对字符格式的数值进行快速转换和筛选。其主要参数包括errors
和downcast
分别代表了非数值的处理模式和转换类型。其中,对于不能转换为数值的有三种errors
选项,raise, coerce, ignore
分别表示直接报错、设为缺失以及保持原来的字符串。
s = pd.Series(['1', '2.2', '2e', '??', '-2.1', '0'])
pd.to_numeric(s, errors='ignore')
0 1
1 2.2
2 2e
3 ??
4 -2.1
5 0
dtype: objectpd.to_numeric(s, errors='coerce')
0 1.0
1 2.2
2 NaN
3 NaN
4 -2.1
5 0.0
dtype: float64
在数据清洗时,可以利用coerce
的设定,快速查看非数值型的行:
s[pd.to_numeric(s, errors='coerce').isna()]2 2e
3 ??
dtype: object
3. 统计型函数
count
和len
的作用分别是返回出现正则模式的次数和字符串的长度:
s = pd.Series(['cat rat fat at', 'get feed sheet heat'])
s.str.count('[r|f]at|ee')
0 2
1 2
dtype: int64s.str.len()
0 14
1 19
dtype: int64
4. 格式型函数
格式型函数主要分为两类,第一种是除空型,第二种时填充型。
- 除空型函数一共有三种,它们分别是
strip, rstrip, lstrip
,分别代表去除两侧空格、右侧空格和左侧空格。这些函数在数据清洗时是有用的,特别是列名含有非法空格的时候。
my_index = pd.Index([' col1', 'col2 ', ' col3 '])
my_index.str.strip().str.len()
Int64Index([4, 4, 4], dtype='int64')my_index.str.rstrip().str.len()
Int64Index([5, 4, 5], dtype='int64')my_index.str.lstrip().str.len()
Int64Index([4, 5, 5], dtype='int64')
- 对于填充型函数而言,
pad
是最灵活的,它可以选定字符串长度、填充的方向和填充内容:
s = pd.Series(['a','b','c'])
s.str.pad(5,'left','*')
0 ****a
1 ****b
2 ****c
dtype: objects.str.pad(5,'right','*')
0 a****
1 b****
2 c****
dtype: objects.str.pad(5,'both','*')
0 **a**
1 **b**
2 **c**
dtype: objects.str.pad(6,'both','*') #两边不对称
0 **a***
1 **b***
2 **c***
dtype: object
上述的三种情况可以分别用rjust, ljust, center
来等效完成,需要注意ljust
是指右侧填充而不是左侧填充:
s.str.rjust(5, '*')
0 ****a
1 ****b
2 ****c
dtype: objects.str.ljust(5, '*')
0 a****
1 b****
2 c****
dtype: objects.str.center(5, '*')
0 **a**
1 **b**
2 **c**
dtype: object
在读取excel
文件时,经常会出现数字前补0的需求,例如证券代码读入的时候会把"000007"作为数值7来处理,pandas
中除了可以使用上面的左侧填充函数进行操作之外,还可用zfill
来实现。
s = pd.Series([7, 155, 303000]).astype('string')
s.str.pad(6,'left','0')
0 000007
1 000155
2 303000
dtype: strings.str.rjust(6,'0')
0 000007
1 000155
2 303000
dtype: strings.str.zfill(6) #直接在前面补0
0 000007
1 000155
2 303000
dtype: string
五、练习
Ex1:房屋信息数据集
现有一份房屋信息数据集如下:
df = pd.read_excel('data/house_info.xls', usecols=['floor','year','area','price'])
df.head(3)
1.将year
列改为整数年份存储。
2. 将floor
列替换为Level, Highest
两列,其中的元素分别为string
类型的层类别(高层、中层、低层)与整数类型的最高层数。
3. 计算房屋每平米的均价avg_price
,以***元/平米
的格式存储到表中,其中***
为整数。
1.将year
列改为整数年份存储。
解:
df.year = pd.to_numeric(df.year.str[:4]).astype('Int64')
df.head()
2. 将floor
列替换为Level, Highest
两列,其中的元素分别为string
类型的层类别(高层、中层、低层)与整数类型的最高层数。
解:
先从floor列里提取出层类别和层数:
pat = '(\w层)(共(\d+)层)'
new_cols = df.floor.str.extract(pat).rename(columns={0:'Level', 1:'Highest'})
new_cols
最后将提取出来的两列信息与原df进行拼接,并删去floor列:
df = pd.concat([df.drop(columns=['floor']), new_cols], 1)
df.head()
3. 计算房屋每平米的均价avg_price
,以***元/平米
的格式存储到表中,其中***
为整数。
解:
使用pd.to_numeric方法提取出价格和面积信息:
s_area = pd.to_numeric(df.area.str[:-1])
s_price = pd.to_numeric(df.price.str[:-1])
计算均价,并换算单位(万元换算为元),并转化为string类型,与“元/平米”相连:
df['avg_price'] = ((s_price/s_area)*10000).astype('int').astype('string') + '元/平米'
df.head()
Ex2:《权力的游戏》剧本数据集
现有一份权力的游戏剧本数据集如下:
df = pd.read_csv('data/script.csv')
df.head(3)
1.计算每一个Episode
的台词条数。
2.以空格为单词的分割符号,请求出单句台词平均单词量最多的前五个人。
3.若某人的台词中含有问号,那么下一个说台词的人即为回答者。若上一人台词中含有nnn个问号,则认为回答者回答了nnn个问题,请求出回答最多问题的前五个人。
1.计算每一个Episode
的台词条数。
解:
首先看一下列名,发现有列名包含多余的空格,如’ Season’和 'Episode ':
df.columnsIndex(['Release Date', ' Season', 'Episode ', 'Episode Title', 'Name','Sentence'],dtype='object')
所以首先对列名使用除空型函数,去除两侧空格:
df.columns = df.columns.str.strip()
df.columns
Index(['Release Date', 'Season', 'Episode', 'Episode Title', 'Name','Sentence'],dtype='object')
最后进行分组统计每一个Episode
的台词条数:
df.groupby(['Season', 'Episode'])['Sentence'].count()Season Episode
Season 1 Episode 1 327Episode 10 266Episode 2 283Episode 3 353Episode 4 404...
Season 8 Episode 2 405Episode 3 155Episode 4 51Episode 5 308Episode 6 240
Name: Sentence, Length: 73, dtype: int64
2.以空格为单词的分割符号,请求出单句台词平均单词量最多的前五个人。
解:
首先把姓名作为索引:
df1 = df.set_index('Name')
df1
然后以空格为单词的分割符号:
df1 = df1.Sentence.str.split()
df1Name
waymar royce [What, do, you, expect?, They're, savages., On...
will [I've, never, seen, wildlings, do, a, thing, l...
waymar royce [How, close, did, you, get?]
will [Close, as, any, man, would.]
gared [We, should, head, back, to, the, wall.]...
brienne [I, think, we, can, all, agree, that, ships, t...
bronn [I, think, that's, a, very, presumptuous, stat...
tyrion lannister [I, once, brought, a, jackass, and, a, honeyco...
man [The, Queen, in, the, North!]
all [The, Queen, in, the, North!, The, Queen, in, ...
Name: Sentence, Length: 23911, dtype: object
计算单句单词的数量:
df2 = df1.str.len()
df2Name
waymar royce 25
will 21
waymar royce 5
will 5
gared 7..
brienne 12
bronn 7
tyrion lannister 11
man 5
all 25
Name: Sentence, Length: 23911, dtype: int64
按照人名分组统计单句台词平均单词量,并从大到小排序:
df2.groupby('Name').mean().sort_values(ascending=False).head()
Name
male singer 109.000000
slave owner 77.000000
manderly 62.000000
lollys stokeworth 62.000000
dothraki matron 56.666667
Name: Sentence, dtype: float64
3.若某人的台词中含有问号,那么下一个说台词的人即为回答者。若上一人台词中含有nnn个问号,则认为回答者回答了nnn个问题,请求出回答最多问题的前五个人。
解:
首先先把台词和人名信息提出来,由于求的是回答的人,所以上一句台词对应的是下一个人,于是用shift滑窗函数把人名向后取一位:
s = pd.Series(df.Sentence.values, index=df.Name.shift(-1))
sName
will What do you expect? They're savages. One lot s...
waymar royce I've never seen wildlings do a thing like this...
will How close did you get?
gared Close as any man would.
royce We should head back to the wall....
bronn I think we can all agree that ships take prece...
tyrion lannister I think that's a very presumptuous statement.
man I once brought a jackass and a honeycomb into ...
all The Queen in the North!
NaN The Queen in the North! The Queen in the North...
Length: 23911, dtype: object
然后统计台词中问号的个数,并将结果按照人名分组后求和,得到每个人回答的问题数,并从大到小排序:
s.str.count('\?').groupby('Name').sum().sort_values(ascending=False).head()Name
tyrion lannister 527
jon snow 374
jaime lannister 283
arya stark 265
cersei lannister 246
dtype: int64
系统重温Pandas笔记:(八)文本数据相关推荐
- 系统重温Pandas笔记:(十)时序数据
文章目录 写在前面 一.时序中的基本对象 二.时间戳 1. Timestamp的构造与属性 2. Datetime序列的生成 [练一练] 3. dt对象 4. 时间戳的切片与索引 三.时间差 1. T ...
- 系统重温Pandas笔记:(七)缺失数据
文章目录 写在前面 一.缺失值的统计和删除 1. 缺失信息的统计 2. 缺失信息的删除 二.缺失值的填充和插值 1. 利用fillna进行填充 [练一练] 2. 插值函数 三.Nullable类型 1 ...
- pandas详解文本数据
文本数据 一.string类型的性质 1. string与object的区别 (1)字符存取方法会返回相应数据的Nullable类型,而object会岁缺失值的存在而改变返回类型 (2) 某些Seri ...
- 系统学习Pytorch笔记八:Tensorboard可视化与Hook机制
Pytorch官方英文文档:https://pytorch.org/docs/stable/torch.html? Pytorch中文文档:https://pytorch-cn.readthedocs ...
- 【Python基础】如何用Pandas处理文本数据?
作者:耿远昊,Datawhale成员,华东师范大学 文本数据是指不能参与算术运算的任何字符,也称为字符型数据.如英文字母.汉字.不作为数值使用的数字(以单引号开头)和其他可输入的字符.文本数据具有数据 ...
- 如何用Pandas处理文本数据?
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过Datawhale干货 作者:耿远昊,Datawhale成员,华东师范大学 文本数据是指不能参与算 ...
- Python 数据分析三剑客之 Pandas(八):数据重塑、重复数据处理与数据替换
CSDN 课程推荐:<迈向数据科学家:带你玩转Python数据分析>,讲师齐伟,苏州研途教育科技有限公司CTO,苏州大学应用统计专业硕士生指导委员会委员:已出版<跟老齐学Python ...
- 为什么我们需要使用Pandas新字符串Dtype代替文本数据对象
We have to represent every bit of data in numerical values to be processed and analyzed by machine l ...
- 《Python Cookbook 3rd》笔记(5.1):读写文本数据
读写文本数据 问题 你需要读写各种不同编码的文本数据,比如 ASCII,UTF-8 或 UTF-16 编码等. 解法 使用带有 rt 模式的 open() 函数读取文本文件(t表示text文本模式,默 ...
- pandas 空字符串与na区别_python从安装到数据分析应用高手 Pandas处理文本数据(一)...
数据分析师的一天 作为一名数据分析师,目前而言是以业务为中心,取数,清洗整理数据,取数与清洗数据会消耗大量的工作时间,毕竟代码需要跟着业务节奏变化. 其中文本数据相比数值数据更具复杂性,本文就pand ...
最新文章
- 【Jboss】热部署
- HTML元素水平居中和垂直居中
- lnmp环境搭建:Centos7 + Nginx1.12.2 + Mysql-5.6.38 + PHP7.2.0
- 自定义taglib引入失败_小程序拼团总失败?看看微信官方和开发者们怎么说
- 北大青鸟广州天河:最喜欢微软的10件事(二)
- JDK多了一个shenandoah GC
- linux 服务编程,Linux高性能服务编程(I/O复用)
- 从有到优:百度前端接入技术的升级之路
- 修改mysql wait timeout_MySQL wait_timeout参数修改
- WPF XAML 格式化工具(XAML Styler)使用说明
- 图片怎么识别文字?超实用的文字识别技巧分享,分享给你
- 读书的故事(转百度知道)
- 因违反《竞业协议》,三年白忙活了!赔偿 97.6 万元,返还 15.8 万元
- c语言double型小数点后几位_double类型的数据在输出的时候,C语言编译器对小数部分可以精确到小数点后面的第几位?...
- visibility属性
- BLE(3)—— 空口数据包组成
- 基于Linux RHEL 5 5 安装Oracle 10g RAC
- 安装tensorflow-federated-nightly
- c语言求2 100之间所有素数的个数及和,c++求2~100之间所有素数的个数及和
- P05 GridLayout
热门文章
- 【工具封装】不用 for 循环, 教你如何向MySQL数据库批量插入数据
- 使用ps工具进行图片分析
- 取号机排队取号服务算法(数据结构 队列(Queue))
- PLC可编程控制器、单片机开发应用及电气控制综合实训装置
- [iOS]让你的应用支持新iPad的Retina显示屏
- 程序员该怎么学习---弱水三千,只取一瓢
- blast2go mysql_从 Blast2GO 本地化聊一聊 Linux 下 MySQL 的源码安装
- 高级计量经济学及Stata应用 第2版_陈强
- word中使用通配符替换【持续更新系列】
- 科学计算机度计算,科学计算器arctan