Python爬虫实战之爬取糗事百科段子

完整代码地址：Python爬虫实战之爬取糗事百科段子

程序代码详解：

Spider1-qiushibaike.py：爬取糗事百科的8小时最新页的段子。包含的信息有作者名称，觉得好笑人数，评论人数，发布的内容。如果发布的内容中含有图片的话，则过滤图片，内容依然显示出来。
Spider2-qiushibaike.py：在Spider1-qiushibaike.py基础上，引入类和方法，进行优化和封装，爬取糗事百科的24小时热门页的段子。进一步优化，每按一次回车更新一条内容，当前页的内容抓取完毕后，自动抓取下一页的内容，按‘q’退出。
Spider3-qiushibaike.py：在Spiders-qiushibaike.py基础上，爬取了百科段子的评论。按C查看当前这个糗事的评论，当切换到查看评论时，换回车显示下一个评论,按Q退出回到查看糗事。糗事段子页数是一页一页加载的，如果你已经看完所有的糗事，就会自动退出！

本爬虫目标：

1. 抓取糗事百科热门段子
2. 过滤带有图片的段子
3. 实现每按一次回车显示一个段子的发布时间，发布人，段子内容，点赞数，评论人数。

糗事百科是不需要登录的，所以也没必要用到Cookie，另外糗事百科有的段子是附图的，我们把图抓下来图片不便于显示，那么我们就尝试过滤掉有图的段子吧。

好，现在我们尝试抓取一下糗事百科的热门段子吧，每按下一次回车我们显示一个段子。

1.确定URL并抓取页面代码

首先我们确定好页面的URL是 http://www.qiushibaike.com/hot/page/1，其中最后一个数字1代表页数，我们可以传入不同的值来获得某一页的段子内容。

2.提取某一页的所有段子

好，获取了HTML代码之后，我们开始分析怎样获取某一页的所有段子。

首先我们审查元素看一下，按浏览器的F12，截图如下:

我们可以看到，每一个段子都是<div class=”article block untagged mb15″ id=”…”>…</div>包裹的内容。

现在我们想获取发布人，发布日期，段子内容，点赞人数和评论人数。不过另外注意的是，段子有些是带图片的，如果我们想在控制台显示图片是不现实的，所以我们直接把带有图片的段子给它剔除掉，只保存仅含文本的段子。

所以我们加入如下正则表达式来匹配一下，用到的方法是 re.findall 是找寻所有匹配的内容。方法的用法详情可以看前面说的正则表达式的介绍。

好，我们的正则表达式匹配语句书写如下，在原来的基础上追加如下代码：

#正则表达式匹配pattern = re.compile('<div.*?author.*?>.*?<img.*?>.*?<h2>(.*?)</h2>.*?<div.*?'+'content">(.*?)</div>(.*?)<div.*?class="number">(.*?)</i>.*?class="number">(.*?)</i>',re.S)items = re.findall(pattern,content)for item in items:haveImg = re.search("img",item[2])if not haveImg:print item[0],item[3],item[4],item[1]#item[0]是作者名称  item[3]好笑人数 item[4]评论人数  item[1]内容  item[2]是内容后面的东西，如果含有图片，过滤掉

现在正则表达式在这里稍作说明

1）.*?是一个固定的搭配，.和*代表可以匹配任意无限多个字符，加上？表示使用非贪婪模式进行匹配，也就是我们会尽可能短地做匹配，以后我们还会大量用到.*? 的搭配。

2）(.*?)代表一个分组，在这个正则表达式中我们匹配了五个分组，在后面的遍历item中，item[0]就代表第一个(.*?)所指代的内容，item[1]就代表第二个(.*?)所指代的内容，以此类推。

3）re.S 标志代表在匹配时为点任意匹配模式，点 . 也可以代表换行符。

这样我们就获取了发布人，发布时间，发布内容，附加图片以及点赞数。

在这里注意一下，我们要获取的内容如果是带有图片，直接输出出来比较繁琐，所以这里我们只获取不带图片的段子就好了。

所以，在这里我们就需要对带图片的段子进行过滤。

我们可以发现，带有图片的段子会带有类似下面的代码，而不带图片的则没有，所以，我们的正则表达式的item[2]就是获取了下面的内容，如果不带图片，item[2]获取的内容便是空，所以我们只需要判断item[2]中是否含有img标签就可以了。

整体代码如下：

#-*-coding:utf8-*-
#created by 10412 2016/8/23#爬取糗事百科的8小时最新页的段子。包含的信息有作者名称，觉得好笑人数，评论人数，发布的内容。
#如果发布的内容中含有图片的话，则过滤图片，内容依然显示出来。import urllib
import urllib2
import re#自定义输入爬取的页数
page = raw_input("please enter the page number:")
url = 'http://www.qiushibaike.com/8hr/page/'+ page +'/?s=4880477'user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'
headers = { 'User-Agent' : user_agent }
try:request = urllib2.Request(url,headers = headers)response = urllib2.urlopen(request)content = response.read().decode('utf-8')#正则表达式匹配pattern = re.compile('<div.*?author.*?>.*?<img.*?>.*?<h2>(.*?)</h2>.*?<div.*?'+'content">(.*?)</div>(.*?)<div.*?class="number">(.*?)</i>.*?class="number">(.*?)</i>',re.S)items = re.findall(pattern,content)for item in items:haveImg = re.search("img",item[2])if not haveImg:print item[0],item[3],item[4],item[1]#item[0]是作者名称  item[3]好笑人数 item[4]评论人数  item[1]内容  item[2]是内容后面的东西，如果含有图片，过滤掉
except urllib2.URLError, e:if hasattr(e,"code"):print e.codeif hasattr(e,"reason"):print e.reason

运行一下看下效果:

恩，带有图片的段子已经被剔除啦。

3.完善交互，设计面向对象模式

好啦，现在最核心的部分我们已经完成啦，剩下的就是修一下边边角角的东西，我们想达到的目的是：

按下回车，读取一个段子，显示出段子的发布人，内容，点赞个数及评论数量。

另外我们需要设计面向对象模式，引入类和方法，将代码做一下优化和封装，最后，我们的代码如下所示

#-*-coding:utf8-*-
#created by 10412# 在Spider1-qiushibaike.py基础上，引入类和方法，进行优化和封装，爬取糗事百科的24小时热门页的段子。
# 进一步优化，每按一次回车更新一条内容，当前页的内容抓取完毕后，自动抓取下一页的内容，按‘q’退出。import urllib2
import reclass QSBK:def __init__(self):self.pageIndex = 1self.user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'self.headers = {'User-Agent' : self.user_agent}self.stories = []# 存放程序是否继续运行的变量self.enable = False# 传入某一页的索引获得页面代码def getPage(self, pageIndex):try:url = 'http://www.qiushibaike.com/hot/page/' + str(pageIndex)request = urllib2.Request(url, headers=self.headers)response = urllib2.urlopen(request)pageCode = response.read().decode('utf-8')return pageCodeexcept urllib2.URLError, e:if hasattr(e, "reason"):print u"连接糗事百科失败,错误原因", e.reasonreturn None# 传入某一页代码，返回本页不带图片的段子列表def getPageItems(self, pageIndex):pageCode = self.getPage(pageIndex)if not pageCode:print u"出错了"return Nonepattern = re.compile('<div class="author.*?href.*?<img src.*?title=.*?<h2>(.*?)</h2>.*?<div class="content">(.*?)</div>.*?<i class="number">(.*?)</i>.*?class="number">(.*?)</i>',re.S)items = re.findall(pattern, pageCode)pageStories = []for item in items:replaceBR = re.compile('<br/>')text = re.sub(replaceBR, "\n", item [1] )pageStories.append([item[0].strip(), text.strip(), item[2].strip(), item[3].strip()])return pageStories# 加载并提取页面内容，加入到列表中def loadPage(self):if self.enable == True:if len(self.stories) < 2:# 获取新一页pageStories = self.getPageItems(self.pageIndex)if pageStories:self.stories.append(pageStories)self.pageIndex += 1# 调用该方法，回车打印一个段子def getOneStory(self, pageStories, page):for story in pageStories:input = raw_input()self.loadPage()if input == "Q":self.enable = Falsereturnprint u"第%d页\t发布人:%s\t赞:%s\t评论:%s\n%s" %(page, story[0], story[2], story[2], story [1])# 开始方法def start(self):print u"正在读取糗事百科,按回车查看新段子，Q退出"# 使变量为True，程序可以正常运行self.enable = True# 先加载一页内容self.loadPage()# 局部变量，控制当前读到了第几页nowPage = 0while self.enable:if len(self.stories) > 0:# 从全局list中获取一页的段子pageStories = self.stories[0]# 当前读到的页数加一nowPage += 1# 将全局list中第一个元素删除，因为已经取出del self.stories[0]# 输出该页的段子self.getOneStory(pageStories, nowPage)spider = QSBK()
spider.start()

好啦，大家来测试一下吧，点一下回车会输出一个段子，包括第几页，发布人，段子内容，点赞数以及评论数量，是不是感觉爽爆了！

完善更新版爬虫代码

在上面爬虫的基础上，还增加爬取了百科段子的评论。按C查看当前这个糗事的评论，当切换到查看评论时，
换回车显示下一个评论,按Q退出回到查看糗事。糗事段子页数是一页一页加载的，如果你已经看完所有的糗事，就会自动退出！

#-*-coding:utf8-*-
#created by 10412#在Spiders-qiushibaike.py基础上，爬取了百科段子的评论。按C查看当前这个糗事的评论，当切换到查看评论时，
# 换回车显示下一个评论,按Q退出回到查看糗事。糗事段子页数是一页一页加载的，如果你已经看完所有的糗事，就会自动退出！import urllib
import urllib2
import re
import os.pathhtmlCharacterMap = {'<br/>' : '\n','&quot;' : '"','&nbsp;' : ' ','&gt;' : '>','&lt;' : '<','&amp;': '&','&#39':"'",
}class QSBK(object):"""糗事百科的爬虫"""def __init__(self):self.pageIndex = 1self.pagetotal = 9999self.user_agent = 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36'self.headers = {'User-Agent' : self.user_agent}self.stories = []self.comments = []self.currentStoryId = ''#是否要退出了self.enable = False#记录当前是否在查看评论self.viewComment = Falsedef getPageContent(self, pageIndex):try:url = 'http://www.qiushibaike.com/8hr/page/%d/' % pageIndexrequest = urllib2.Request(url, headers=self.headers)print u'开始加载%02d页' % pageIndexresponse = urllib2.urlopen(request, timeout=5)print u'成功加载%02d页' % pageIndexpageContent = response.read().decode('utf-8')return pageContentexcept urllib2.URLError, e:if hasattr(e, 'reason'):print u"连接糗事百科失败，错误原因：", e.reasonreturn Nonedef getCommentsContent(self, storyId):# 得到段子的评论try:url = 'http://www.qiushibaike.com/article/%s' % storyIdrequest = urllib2.Request(url, headers=self.headers)response = urllib2.urlopen(request, timeout=5)pageContent = response.read().decode('utf-8')return pageContentexcept urllib2.URLError, e:if hasattr(e, 'reason'):print u"连接糗事百科失败，错误原因：", e.reasonreturn Nonedef getPageTotal(self, content):# 得到总页数if self.pagetotal != 9999:# print u'加载第%d页' % self.pageIndexreturnpattrenStr = '<span class="page-numbers">(?P<pagetotal>.*?)</span>'pattern = re.compile(pattrenStr, re.S)items = re.findall(pattern, content)if len(items)>0:self.pagetotal = int(items[-1].strip())print u'总共有%d页' % self.pagetotaldef getPageItems(self, pageIndex):pageContent = self.getPageContent(pageIndex)with open('temp%02d.html' % pageIndex, 'w') as f:f.write(pageContent.encode('utf-8'))if not pageContent:print "页面加载失败..."return Noneself.getPageTotal(pageContent)pattrenStr = r'<h2>(?P<authorname>.*?)</h2>.*?'\r'<div class="content">(?P<content>.*?)</div>'\r'(?P<maybehaveimage>.*?)'\r'<i class="number">(?P<numbervote>.*?)</i>.*?'\r'<span class="stats-comments">(?P<comments>.*?)</div>'pattern = re.compile(pattrenStr, re.S)items = re.findall(pattern, pageContent)return itemsdef getCurrentStoryComments(self, storyId):#切换到查看评论模式self.viewComment = Truecontent = self.getCommentsContent(storyId)if not content:print "页面加载失败..."return NonereStr = r'<div id="comment-.*?'\r'<a href="/users/.*?/" class="userlogin" target="_blank" title="(?P<username>.*?)">(?P=username)</a>.*?'\r'<span class="body">(?P<comment>.*?)</span>.*?'\r'<div class="report">(?P<index>.*?)</div>'pattern = re.compile(reStr, re.S)items = re.findall(pattern, content)del self.comments[:]for item in items:comentstr = item[0]+'('+ item[2] + u'楼)' + '\n' + item[1] + '\n'for (k,v) in htmlCharacterMap.items():re.sub(re.compile(k), v, comentstr)self.comments.append(comentstr)if len(self.comments)>0:print '已切换到查看评论，换回车显示下一个评论,按Q退出回到查看糗事'else:print '当前糗事没有评论'self.viewComment = Falsedef getNextPage(self):if self.pageIndex > self.pagetotal:self.enable = Falseprint "你已经看完所有的糗事，现在自动退出！"returnitems = self.getPageItems(self.pageIndex)self.pageIndex += 1for item in items:#如果有图片直接跳过，因为图片在终端显示不了if re.search('img', item[2]):continuecontent = item[1].strip()#转换html的特殊字符for (k,v) in htmlCharacterMap.items():content = re.sub(re.compile(k), v, content)authorname = item[0].strip()for (k,v) in htmlCharacterMap.items():authorname = re.sub(re.compile(k), v, authorname)#找出评论个数，没有为0pattern = re.compile(r'.*?<a href="/article/(?P<id>.*?)".*?<i class="number">(?P<number>.*?)</i>.*?', re.S)result = re.match(pattern, item[4])commentnumbers = 0articleId = ''if result:commentnumbers = result.groupdict().get('number', '0')articleId = result.groupdict().get('id', '')self.stories.append(authorname +'(' + item[3].strip() + u'好笑·' + str(commentnumbers) + u'评论)'+'\n' + content + '\n')self.stories.append(articleId)def getNextComment(self):print self.comments[0]self.comments.pop(0)if len(self.comments)==0:print '你已查看完这个糗事的所有评论,现在自动退出到查看糗事'self.viewComment = Falsedef getOneStory(self):#防止有的页面全是带图片的while (len(self.stories)==0 and self.enable):self.getNextPage()story = self.stories[0]self.currentStoryId = self.stories[1]print storyself.stories.pop(0)self.stories.pop(0)if len(self.stories)==0:self.getNextPage()def start(self):#先删除临时保存的网页tempfiles = [x for x in os.listdir('.') if os.path.isfile(x) and os.path.splitext(x)[1]=='.html' and x.startswith('temp')]for file in tempfiles:os.remove(file)print u"正在读取糗事百科，按回车查看下一个糗事，按C查看当前这个糗事的评论，按Q退出或返回"self.enable = Trueself.getNextPage()while self.enable:input = raw_input()if input.upper() == "Q":if not self.viewComment:self.enable = Falseelse:self.viewComment = Falseprint '现在退出到查看糗事了'elif input.upper() == "C":#查看当前看到的糗事的评论if len(self.currentStoryId)>0:self.getCurrentStoryComments(self.currentStoryId)else:print '这条糗事没有评论'else:if not self.viewComment:self.getOneStory()else:self.getNextComment()if __name__ == '__main__':spider = QSBK()spider.start()