Python爬虫实战，requests+tqdm模块，爬取漫画数据（附源码）

前言

今天给大家介绍的是Python爬取漫画数据，在这里给需要的小伙伴们代码，并且给出一点小心得。

首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫，基本的是加请求头，但是这样的纯文本数据爬取的人会很多，所以我们需要考虑更换代理IP和随机更换请求头的方式来对漫画数据进行爬取。

在每次进行爬虫代码的编写之前，我们的第一步也是最重要的一步就是分析我们的网页。

通过分析我们发现在爬取过程中速度比较慢，所以我们还可以通过禁用谷歌浏览器图片、JavaScript等方式提升爬虫爬取速度。

开发工具

Python版本： 3.6

相关模块：

requests模块

re模块

time模块

bs4模块

tqdm模块

contextlib模块

环境搭建

安装Python并添加到环境变量，pip安装需要的相关模块即可。

文中完整代码及文件，评论留言获取

思路分析

浏览器中打开我们要爬取的页面
按F12进入开发者工具，查看我们想要的漫画数据在哪里
这里我们需要页面数据就可以了

添加代理

漫画下载代码实现

# 下载漫画
for i, url in enumerate(tqdm(chapter_urls)):print(i,url)download_header = {'Referer':url,'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}name = chapter_names[i]# 去掉.while '.' in name:name = name.replace('.', '')chapter_save_dir = os.path.join(save_dir, name)if name not in os.listdir(save_dir):os.mkdir(chapter_save_dir)r = requests.get(url=url)html = BeautifulSoup(r.text, 'lxml')script_info = html.scriptpics = re.findall('\d{13,14}', str(script_info))for j, pic in enumerate(pics):if len(pic) == 13:pics[j] = pic + '0'pics = sorted(pics, key=lambda x: int(x))chapterpic_hou = re.findall('\|(\d{5})\|', str(script_info))[0]chapterpic_qian = re.findall('\|(\d{4})\|', str(script_info))[0]for idx, pic in enumerate(pics):if pic[-1] == '0':url = 'https://images.dmzj.com/img/chapterpic/' + chapterpic_qian + '/' + chapterpic_hou + '/' + pic[:-1] + '.jpg'else:url = 'https://images.dmzj.com/img/chapterpic/' + chapterpic_qian + '/' + chapterpic_hou + '/' + pic + '.jpg'pic_name = '%03d.jpg' % (idx + 1)pic_save_path = os.path.join(chapter_save_dir, pic_name)print(url)response = requests.get(url,headers=download_header)# with closing(requests.get(url, headers=download_header, stream=True)) as response:# chunk_size = 1024# content_size = int(response.headers['content-length'])print(response)if response.status_code == 200:with open(pic_save_path, "wb") as file:# for data in response.iter_content(chunk_size=chunk_size):file.write(response.content)else:print('链接异常')time.sleep(2)

数据保存

结果展示

最后

为了感谢读者们，我想把我最近收藏的一些编程干货分享给大家，回馈每一个读者，希望能帮到你们。

里面有适合小白新手的实战教程给到大家~

快来和小鱼一起成长进步吧！

①　100+多本Python PDF（主流和经典的书籍应该都有了）

②　Python标准库（最全中文版）

③　爬虫项目源码（四五十个有趣且经典的练手项目及源码）

④　Python基础入门、爬虫、web开发、大数据分析方面的视频（适合小白学习）

⑤　Python学习路线图（告别不入流的学习）