python爬虫怎么爬小说_小白的python爬虫，40代码教你爬取豆瓣小说

这篇文章写了很久了，一直没有发布；

爬虫学的差不多了，觉得这篇文章对新手实践还是有些作用的。毕竟这也是我刚学爬虫的时候练习的，爬取了比较好爬的网站，也比较经典；多余的解释不说了，代码里每一行都有注释，解释的很清楚；

后续有时间的话还会发布一些爬虫文章的；

=============================================

直接上代码：

import requests

from bs4 import BeautifulSoup

from lxml import etree

#抓取豆瓣小说的书名、评分；

page = 0 #定义页数初始值；

lists_book = [] #定义书名列表；

lists_grade = [] #定义评分的列表；

for u in range(0,20): #循环20次，每一次循环爬取一页，即：抓取20页；

basic_url = 'https://book.douban.com/tag/%E5%B0%8F%E8%AF%B4?start=' + str(page) + '&type=T'

page += 20 #每循环一次 +20，适应链接变化；

headers = {

'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36'

}

#发送请求

response = requests.get(basic_url, headers=headers, timeout=10) #requests请求；

response.encoding = 'utf-8' #设置编码

htm = response.text #返回text文本；

#解析请求

selector = etree.HTML(htm) #利用 etree.HTML 初始化

book_name = selector.xpath('//*[@id="subject_list"]/ul/li/div[2]/h2/a/text()') #获取书名

grade = selector.xpath('//*[@id="subject_list"]/ul/li/div[2]/div[2]/span[2]/text()') #获取评分；

#将书名存入到lists_book列表；

for i in book_name:

lists_book.append(i.strip()) #去除字符串空格，存入列表；

while '' in lists_book: #如果列表中有空元素，则删除空元素；

lists_book.remove('')

#将评分存入到lists_grade列表；

for i in grade:

lists_grade.append(i.strip()) #去除字符串空格，存入列表；

while '' in lists_grade: #如果列表中有空元素，则删除空元素；

lists_grade.remove('')

print(lists_book) #输出爬取的书名列表；

print(len(lists_book)) #输出列表的长度，即：爬取了多少本书

print(lists_grade) #输出评分的列表；

print(len(lists_grade)) #输出评分列表的长度；为了和书的数目核对，防止偏差；

print("评分最高: "+ str(max(lists_grade)) + "\n" + "书名: " + lists_book[lists_grade.index(max(lists_grade))])

运行后结果输出到了屏幕上，并没有存入数据库，后续需要也可以继续添加代码将爬取结果存入数据库；

python爬虫怎么爬小说_小白的python爬虫，40代码教你爬取豆瓣小说相关推荐

python爬取豆瓣代码_小白的python爬虫，40代码教你爬取豆瓣小说
这篇文章写了很久了,一直没有发布: 爬虫学的差不多了,觉得这篇文章对新手实践还是有些作用的.毕竟这也是我刚学爬虫的时候练习的,爬取了比较好爬的网站,也比较经典:多余的解释不说了,代码里每一行都有注释, ...
python 相对路径报错_小白学 Python（18）：基础文件操作
人生苦短,我选Python 前文传送门小白学 Python(1):开篇小白学 Python(2):基础数据类型(上) 小白学 Python(3):基础数据类型(下) 小白学 Python(4):变 ...
小白学python之前要学会什么_小白学 Python（1）：开篇
摘要: thon开发环境搭建完成.HelloWorld环境搭建完成一定要写一个HelloWorld,这不仅仅是程序员的信仰,同时也是对一门开发语言的尊重怀着崇敬的心情双击Pycharm图标,这时会弹出 ...
python画k线图_小白学Python（14）——pyecharts 绘制K线图 Kline/Candlestick
Kline-基本示例 from pyecharts import options as opts from pyecharts.charts import Kline data = [ [2320.2 ...
python编程的常用工具_小白学Python（2）——常用Python编程工具，Python IDE
下载好Python,但是如何开始编程呢? 有几种方法, 1.第一个就是command lind 即为命令行的方式,也就是我们常说的cmd. 输入 win+ cmd 在命令行中再输入 python,即可 ...
python 使用socks 爬虫_小白学 Python 爬虫（17）：Requests 基础使用
人生苦短,我用 Python 前文传送门: 小白学 Python 爬虫(1):开篇小白学 Python 爬虫(2):前置准备(一)基本类库的安装小白学 Python 爬虫(3):前置准备(二)Li ...
post python爬虫_小白学 Python 爬虫（17）：Requests 基础使用
人生苦短,我用 Python 如果我的文章对您有帮助,请关注支持下作者的公众号:极客挖掘机,您的关注,是对小编坚持原创的最大鼓励:) 前文传送门: 小白学 Python 爬虫(1):开篇小白学 Py ...
python 爬虫框架_小白学 Python 爬虫（28）：自动化测试框架 Selenium （下）
人生苦短,我用 Python 如果我的文章对您有帮助,请关注支持下作者的公众号:极客挖掘机,您的关注,是对小编坚持原创的最大鼓励:) 前文传送门: 小白学 Python 爬虫(1):开篇小白学 Py ...
logback-spring.xml 文件路径相对路径_小白学 Python（18）：基础文件操作
人生苦短,我选Python 前文传送门小白学 Python(1):开篇小白学 Python(2):基础数据类型(上) 小白学 Python(3):基础数据类型(下) 小白学 Python(4):变 ...

python爬虫怎么爬小说_小白的python爬虫，40代码教你爬取豆瓣小说

python爬虫怎么爬小说_小白的python爬虫，40代码教你爬取豆瓣小说相关推荐

最新文章

热门文章