Python爬虫_乱码、转码
文章目录
- 乱码问题描述
- 利用encode和decode解决乱码问题
- 转码--bytes与str之间的互转
乱码问题描述
在爬取网页时,出现中文乱码情况,如下图:
原因:源网页编码和爬取下来后的编码格式不一致
利用encode和decode解决乱码问题
字符串在python内部的表示是Unicode编码,在做编码转换时,通常需要以Unicode作为中间编码,即先将其他编码的字符串解码(decode)成Unicode,再从Unicode编码(encode)成另一种编码
decode的作用是将其他编码的字符串转换成Unicode编码,如str1.decode(“gb2312”),表示将gb2312编码的字符串str1转换成Unicode编码
encode的作用是将Unicode编码转换成其他编码的字符串,如str2.encode(“utf-8”),表示将Unicode编码的字符串str2转换成utf-8编码
decode中写的是想爬取的源网页的编码,或者文本文件的编码,encode是自己想设置的编码
转码–bytes与str之间的互转
在bytes和str的互相转换过程中,实际就是编码解码的过程,必须显式地指定编码格式
str转bytes
h = "字符串str"
# h为字符串
print(type(h)) #<class 'str'># 字符串转换为bytes类型,方式一
bytes1 = h.encode("utf-8")
print(type(bytes1)) #<class 'bytes'>
print(bytes1) #b'\xe5\xad\x97\xe7\xac\xa6\xe4\xb8\xb2str'# 字符串转换为bytes类型,方式二
bytes2 = bytes(h, encoding="utf-8")
print(type(bytes2)) #<class 'bytes'>
print(bytes2) #b'\xe5\xad\x97\xe7\xac\xa6\xe4\xb8\xb2str'
bytes是一种比特流(字节流),它的存在形式是10010101101
这种。我们无论是在写代码,还是阅读文章的过程中,肯定不会有人直接阅读这种比特流,它必须有一个编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。
从上面例子可以看出,h是个字符串类型。Python有个内置函数bytes()可以将字符串str类型转换成bytes类型,bytes1实际上是一串01的组合,但为了在ide环境中让我们相对直观的观察,它被表现成了b’\xe5\xad\x97\xe7\xac\xa6\xe4\xb8\xb2str’这种形式,开头的b表示这是一个bytes类型。\xe5是十六进制的表示方式,它占用1个字节的长度,因此==“字符串str”被编码成utf-8后,我们可以数得出一共用了12个字节,每个汉字占用3个,英文字母用1个==。在使用内置函数bytes()的时候,必须明确encoding的参数,不可省略。
字符串类str里有一个encode()方法,它是从字符串向字节流的编码过程。而bytes类型恰好有个decode()方法,它是从字节流向字符串解码的过程
bytes转str
H = b'\xe5\xad\x97\xe7\xac\xa6\xe4\xb8\xb2str'
# H为bytes
print(type(H)) #<class 'bytes'># bytes装换为字符串,方式一
string2 = H.decode("utf-8") #默认参数为utf-8
print(type(string2)) #<class 'str'>
print(string2) #字符串str# bytes转换为字符串,方式二
string1 = str(H, "utf-8")
print(type(string1)) #<class 'str'>
print(string1) #字符串str
Python爬虫_乱码、转码相关推荐
- python爬虫_网易音乐歌单
小白flag7 python爬虫_网易音乐歌单 准备 import os #存放文件处理 import time #程序运行时间计算 import sys #错误信息返回 预留 from seleni ...
- python爬虫中文乱码解决方法
python爬虫中文乱码解决方法 参考文章: (1)python爬虫中文乱码解决方法 (2)https://www.cnblogs.com/surecheun/p/9694052.html 备忘一下.
- Python爬虫_案例分析(二)
Python爬虫_案例分析(二) 一.电影天堂案例 import scrapy from scrapy_movie.items import ScrapyMovieItem class MvSpide ...
- Python爬虫_某宝网案例
Python爬虫_某宝网案例 一.导入第三方库,确定url,定义headers ,伪装爬虫代码 import requests url = 'https://s.taobao.com/search?q ...
- python爬虫_抓取瓦片图片信息并将其拼接_以mapbar为例(适用交通工程类专业)
python爬虫_抓取瓦片图片信息并将其拼接_以mapbar为例(适用交通工程类专业) 这次就以mapbar为例爬取道路交通拥堵情况 第一步,瓦片标号解析 第二步,拼url,然后下载 第三步,图片拼接 ...
- Python爬虫_音乐案例
Python爬虫_音乐案例 [案例目的]:下载音乐 [第三方库]:1.requests 2.perttytable [开发环境]:1.Python3.8 2.PyCharm 2022.1 # http ...
- Python 爬虫 中文乱码一文通
如果经常使用Python编程或者是其他语言编程,或者在前面的文章中已经多次使用Python练习网络爬虫技术,就不可避免地会遇到中文乱码的问题.中文乱码问题经常难以理解,或者治标不治本,本文就是来解决这 ...
- 最详细的爬虫实战 | 手把手教你用Python爬虫(附详细源码)
什么是爬虫? 实践来源于理论,做爬虫前肯定要先了解相关的规则和原理,要知道互联网可不是法外之地,你一顿爬虫骚操作搞不好哪天就- 首先,咱先看下爬虫的定义:网络爬虫(又称为网页蜘蛛,网络机器人,在FOA ...
- post python爬虫_小白学 Python 爬虫(17):Requests 基础使用
人生苦短,我用 Python 如果我的文章对您有帮助,请关注支持下作者的公众号:极客挖掘机,您的关注,是对小编坚持原创的最大鼓励:) 前文传送门: 小白学 Python 爬虫(1):开篇 小白学 Py ...
最新文章
- 12个python编程代码_Python大牛私藏的20个python代码,短小精悍,用处无穷
- java代码是怎么运行的_Java代码是如何运行起来的?
- 超详细的 Bert 文本分类源码解读 | 附源码
- 计算机二级的笔记,我的笔记全国计算机等级考试二级教程
- mvp模式 php,Hyper-V - 增强会话模式
- 抽象工厂模式_设计模式3之抽象工厂模式
- ue编辑器漏洞_UEditor编辑器任意文件上传漏洞分析
- UE4 蓝图 循环调用
- 获取设备的sn号,mac地址以及IP地址
- HiCar目前支持的手机型号
- 微创电生理通过注册:年营收1.9亿 微创批量生产上市企业
- Vue实现动态复选框的全选 全不选 获取选中值
- 2014年英语专升本英语阅读「Part II 阅读专区」【文章(图片)、答案、词汇记忆】
- vue项目JS播放音频音效和背景音乐
- 百战RHCE(第十五战:Linux进阶命令十二-主机名和域名解析极简管理)
- 天环校园门户网站的设计
- win7x64下实现进程保护
- 如何做好项目工时管理?看这一篇就够了!
- HTTP认证之基本认证——Basic(*)
- dvajs项目要部署到服务器上,dvaJs使用注意事項