Python字符串与编码
Python字符串与编码
计算机对文本进行编码的方式
ASCII码
由于计算机是美国人发明的,因此,最早只有127个字母被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65,小写字母z的编码是122。
UNICODE码
由于计算的的发展与普及,越来越多的国家开始使用计算机,然而每个国家的文字基本都不相同,要通过计算机进行处理的话要进行不同的编码,显然一个字节的ASCII码是不够的。Unicode把所有语言都统一到一套编码里,这样就不会再有乱码问题了。Unicode标准也在不断发展,但最常用的是用两个字节表示一个字符(如果要用到非常偏僻的字符,就需要4个字节)。现代操作系统和大多数编程语言都直接支持Unicode。
捋一捋ASCII编码和Unicode编码的区别:ASCII编码是1个字节,而Unicode编码通常是2个字节。
如果把ASCII编码的A用Unicode编码,只需要在前面补0就可以,因此,A的ASCII码是01000001,Unicode编码是00000000 01000001。
UTF-8码
在统一使用UNICODE编码之后,所有的语言都不冲突了,也没有乱码了,但是又出现了另一个问题:如果你写的文本基本上全部是英文的话,用Unicode编码比ASCII编码需要多一倍的存储空间,在存储和传输上就十分不划算。所以此时UTF-8编码又应运而生:将UNICODE编码转化为可变长度的UTF-8编码,UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符,用UTF-8编码就能节省空间:
字符 | ASCII | Unicode | UTF-8 |
---|---|---|---|
A | 01000001 | 00000000 01000001 | 01000001 |
中 | x | 01001110 00101101 | 11100100 10111000 10101101 |
从上面的表格还可以发现,UTF-8编码有一个额外的好处,就是ASCII编码实际上可以被看成是UTF-8编码的一部分,所以,大量只支持ASCII编码的历史遗留软件可以在UTF-8编码下继续工作。搞清楚了ASCII、Unicode和UTF-8的关系,我们就可以总结一下现在计算机系统通用的字符编码工作方式:
在计算机内存中,统一使用Unicode编码,当需要保存到硬盘或者需要传输的时候,就转换为UTF-8编码。例如在用记事本编辑的时候,从文件读取的UTF-8字符被转换为Unicode字符到内存里,编辑完成后,保存的时候再把Unicode转换为UTF-8保存到文件。
Python的字符串与编码
由于Python的诞生早于UNICODE编码的诞生时间,所以最早python仅支持ASCII码,系统中默认的’ABC’也都是ASCII编码,python后来添加了对于UNICODE编码的支持,用u'...'
表示,比如
>>> print u'我是谁?'
我是谁?
>>> u'我是谁?'
u'\u6211\u662f\u8c01\uff1f'
那么ASCII码和UNICODE编码之间如何转换呢?字符串’xxx’虽然是ASCII码,但也可以看作是UTF-8码,但是u’xxx’只能是UNICODE码。将u’xxx’转化为UTF-8的’xxx’使用.encode(‘utf-8’)函数:
>>> u'ABC'.encode('utf-8')
'ABC'
>>> u'中文'.encode('utf-8')
'\xe4\xb8\xad\xe6\x96\x87'
反过来,把UTF-8编码表示的字符串’xxx’转换为Unicode字符串u’xxx’用decode(‘utf-8’)方法:
>>> 'ABC'.decode('utf-8')
u'ABC
Python的格式化输出
在python中,格式化输出采用和C语言一样的方式,不过其变量要采用%符号来作为前缀。
>>> 'Hello, %s' % 'world'
'Hello, world'
>>> 'Hi, %s, you have $%d.' % ('Michael', 1000000)
'Hi, Michael, you have $1000000.'
对于UNICODE编码的字符串,其用法也一样,只是要确保替换的字符串也是UNICODE编码的字符串。
>>> u'Hi, %s' % u'Michael'
u'Hi, Michael'
2016年10月3日于哈尔滨
Python字符串与编码相关推荐
- python字符串成熟编码_python字符串转公式两种方法获取网页编码python版
在web开发的时候我们经常会遇到网页抓取和分析,各种语言都可以完成这个功能.我喜欢用python实现,因为python提供了很多成熟的模块,可以很方便的实现网页抓取. 但是在抓取过程中会遇到编码的问题 ...
- Python字符串的编码与解码(encode与decode)
首先要搞清楚,字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unico ...
- python 字符串unicode编码_python的string与Unicode转换,gbk字符串编码
问题一 字串前面少了u. 当遇见以下情况. 返回字符串为'\u82f9\u679c'的unicode时候. str1 = '\u82f9\u679c' # 这里没有u,当传入参数不是unicode的时 ...
- python字符串成熟编码_Python——搞定烦人的字符串编码
注意:以下讨论为Python2.x版本 在学习Python之前,就听说过Python的版本圣战,最可怕的是有的写Py3的程序员觉得Py2是另一种语言....所以在刚开始学习的时候,我索性把Python ...
- 使用Python字符串的编码与解码方法实现信息加解密
代码思路很简单,字符串的encode()方法可以将其编码为字节串,在生成的字节串中插入干扰字节后无法正常解码,要想还原信息,必须清楚干扰字节的位置并删除后再使用decode()解码.本文代码重点在于演 ...
- Python字符串index()方法应用案例一则
问题描述:查找字符串中每个字符第一次出现的位置. 技术要点:字符串的index()方法返回指定子串在当前字符串中首次出现的位置. 参考代码与运行结果: 思考题: 1.如果要查找每个字符最后一次出现的位 ...
- Python之Unicode编码
Unicode编码:Python字符串的编码方式 有趣的例子: 注意 本文题目来源为Python123平台和中国大学MOCC的<Python语言程序设计>课程, 主讲老师:嵩天.黄天羽.礼 ...
- Python字符串详解(2)
字符串处理函数 一些以函数形式提供的字符串处理功能 1.len(x) 求取字符串的长度,输出为字符串x的长度 示例代码如下: print(len("一二三四五六七89")) 运行截 ...
- 【廖雪峰Python学习笔记】字符串与编码
字符串与编码 三种字符编码 ASCII编码 :计算机由美国人发明,最早只有127个字符编码-- 大小写英文字母.数字和符号 Unicode:把中文.日文.韩文等所有语言统一到一套编码中,2-4byte ...
最新文章
- [你必须知道的.NET]第二十二回:字符串驻留(上)---带着问题思考
- 将自己数据集转化为lmdb格式
- API测试工具SoapUI Postman对比分析
- python url中传递中文_Python编程:URL网址链接中的中文编码与解码
- Redis高可用分布式内部交流(九)
- java ee链接css_JavaEE——CSS3选择器
- 诗与远方:无题(七十四)
- 《天天数学》连载03:一月三日
- 我的docker随笔13:docker源码编译进阶篇
- 最近wampserver总是开不开,一直离线,重启就好,各位有何看法?
- socket解读,http和socket之长连接和短连接区别!
- 为什么Java会给system报错_java – 为什么将System.nanoTime()转换为Calendar对象会给我错误的当前日期?...
- Ubuntu12.04和12.10下H3C iNode客户端安装时出现找不到库的解决办法
- 关于geekcode
- Cache的疑惑??
- 分解例题_2020年中考数学考点之利用平方差公式进行因式分解习题练习
- Appium API文档中文版
- Python自动生成巡检报告
- 【回溯法】机器零件加工-最优加工顺序
- 织梦建站:织梦CMS整站源码通用安装教程(图文教程)
热门文章
- Leetcode811.Subdomain Visit Count子域名访问计数
- 《用python写网络爬虫》 编写第一个网络爬虫
- java去除字符串中的特定字符
- appium部分操作
- ecnu1244 积木游戏
- HDU2553_N皇后_位运算DFS
- jupyter notebook OSError: [WinError 10049] 在其上下文中,该请求的地址无效。
- 【网络安全工程师面试合集】—CSRF跨站请求伪造 攻击及防御
- Linux系统管理(11)——linux下jdk的安装及环境变量配置
- Linux操作Oracle(1)——Linux下 Weblogic启动关闭方法