文章目录

一、Xpath
- Xpath常用的路径表达式
- 使用lxml解析
- 实战：爬取丁香园-用户名和回复内容
二、正则表达式 re库
- 正则表达式的语法
- 正则表达式re库的使用
- - re库的主要功能函数
  - re库的另一种等价用法
  - re库的贪婪匹配和最小匹配
- 实战：淘宝商品比价定向爬虫
三、Beautiful Soup库
- Beautiful Soup库的基本元素
- - 1.标签，用soup.< tag>访问获得:
  - 2.标签的名字:每个< tag>都有自己的名字，通过soup..name获取，字符串类型
  - 3。标签的属性,一个< tag>可以有0或多个属性，字典类型,soup.< tag>.attrs
  - 4.Attributes:标签内非属性字符串,格式：soup.< tag>.string, NavigableString可以跨越多个层次
  - 5.NavigableString:标签内字符串的注释部分，Comment是一种特殊类型(有-->)
  - 6.prettify()为HTML文本<>及其内容增加更加'\n',有层次感的输出
  - 7.bs4库将任何HTML输入都变成utf‐8编码
- 基于bs4库的HTML内容遍历方法
- - 标签树的下行遍历
  - 标签树的上行遍历
  - 标签树的平行遍历
- 基于bs4库的HTML内容的查找方法
- 实战：中国大学排名定向爬取

一、Xpath

Xpath常用的路径表达式

XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。XML文档是被作为节点树来对待的。

XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：

nodename 选取此节点的所有子节点。
./ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
. 选取当前节点。
… 选取当前节点的父节点。
@ 选取属性。
/text() 提取标签下面的文本内容
如：
/标签名逐层提取
/标签名提取所有名为<>的标签
//标签名[@属性=“属性值”] 提取包含属性为属性值的标签
@属性名代表取某个属性名的属性值

使用lxml解析

导入库：from lxml import etree
lxml将html文本转成xml对象
- tree = etree.HTML(html)
用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)
回复内容：tree.xpath(’//td[@class=“postbody”]’) 因为回复内容中有换行等标签，所以需要用string()来获取数据。
Xpath中text()，string()，data()的区别如下：
- text()仅仅返回所指元素的文本内容。
- string()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。
- data()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

实战：爬取丁香园-用户名和回复内容

# 导入库
from lxml import etree
import requests
url = "http://www.dxy.cn/bbs/thread/626626#626626"
# 获取url的html
req = requests.get(url)
html = req.text
#  利用Xpath表达式获取user和content
user = tree.xpath('')
content = tree.xpath('')
#  保存爬取的内容¶
results = []
for i in range(0, len(user)):# print(user[i].strip()+":"+content[i].xpath('string(.)').strip())# print("*"*80)# 因为回复内容中有换行等标签，所以需要用string()来获取数据results.append(user[i].strip() + ":  " + content[i].xpath('string(.)').strip())# 打印爬取的结果
for i,result in zip(range(0, len(user)),results):print("user"+ str(i+1) + "-" + result)print("*"*100)

二、正则表达式 re库

正则表达式是一种通用的字符串表达框架，用来简洁表达一组字符串和判断某字符串的特征归属
正则表达式在文本处理中十分常用，能够同时查找或替换一组字符串和匹配字符串的全部或部分

正则表达式的语法

正则表达式re库的使用

re库的主要功能函数

.re.search() 在一个字符串中搜索匹配正则表达式的第一个位置，返回match对象
re.match() 从一个字符串的开始位置起匹配正则表达式，返回match对象
re.findall() 搜索字符串，以列表类型返回全部能匹配的子串
re.split() 将一个字符串按照正则表达式匹配结果进行分割，
re.finditer() 搜索字符串，返回一个匹配结果的迭代类型，每个迭代元素是match对象
re.sub() 在一个字符串中替换所有匹配正则表达式的子串，返回替换后的字符串
flags : 正则表达式使用时的控制标记：
re.I --> re.IGNORECASE : 忽略正则表达式的大小写，[A‐Z]能够匹配小写字符
re.M --> re.MULTILINE : 正则表达式中的^操作符能够将给定字符串的每行当作匹配开始
re.S --> re.DOTALL : 正则表达式中的.操作符能够匹配所有字符，默认匹配除换行外的所有字符

re.search(pattern, string, flags=0)
re.match(pattern, string, flags=0)
re.findall(pattern, string, flags=0)
re.split(pattern, string, maxsplit=0, flags=0)
re.finditer(pattern, string, flags=0)
re.sub(pattern, repl, string, count=0, flags=0)

re库的另一种等价用法

regex = re.compile(pattern, flags=0)：将正则表达式的字符串形式编译成正则表达式对象

re库的贪婪匹配和最小匹配

.* Re库默认采用贪婪匹配，即输出匹配最长的子串
*? 只要长度输出可能不同的，都可以通过在操作符后增加?变成最小匹配

实战：淘宝商品比价定向爬虫

import requests
import re# 提交商品搜索请求，循环获取页面
def getHTMLText(url):"""请求获取html，（字符串）:param url: 爬取网址:return: 字符串"""try:# 添加头信息,kv = {'cookie': 'thw=cn; v=0; t=ab66dffdedcb481f77fd563809639584; cookie2=1f14e41c704ef58f8b66ff509d0d122e; _tb_token_=5e6bed8635536; cna=fGOnFZvieDECAXWIVi96eKju; unb=1864721683; sg=%E4%B8%8B3f; _l_g_=Ug%3D%3D; skt=83871ef3b7a49a0f; cookie1=BqeGegkL%2BLUif2jpoUcc6t6Ogy0RFtJuYXR4VHB7W0A%3D; csg=3f233d33; uc3=vt3=F8dBy3%2F50cpZbAursCI%3D&id2=UondEBnuqeCnfA%3D%3D&nk2=u%2F5wdRaOPk21wDx%2F&lg2=VFC%2FuZ9ayeYq2g%3D%3D; existShop=MTU2MjUyMzkyMw%3D%3D; tracknick=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; lgc=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _cc_=WqG3DMC9EA%3D%3D; dnk=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _nk_=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; cookie17=UondEBnuqeCnfA%3D%3D; tg=0; enc=2GbbFv3joWCJmxVZNFLPuxUUDA7QTpES2D5NF0D6T1EIvSUqKbx15CNrsn7nR9g%2Fz8gPUYbZEI95bhHG8M9pwA%3D%3D; hng=CN%7Czh-CN%7CCNY%7C156; mt=ci=32_1; alitrackid=www.taobao.com; lastalitrackid=www.taobao.com; swfstore=97213; x=e%3D1%26p%3D*%26s%3D0%26c%3D0%26f%3D0%26g%3D0%26t%3D0%26__ll%3D-1%26_ato%3D0; uc1=cookie16=UtASsssmPlP%2Ff1IHDsDaPRu%2BPw%3D%3D&cookie21=UIHiLt3xThH8t7YQouiW&cookie15=URm48syIIVrSKA%3D%3D&existShop=false&pas=0&cookie14=UoTaGqj%2FcX1yKw%3D%3D&tag=8&lng=zh_CN; JSESSIONID=A502D8EDDCE7B58F15F170380A767027; isg=BMnJJFqj8FrUHowu4yKyNXcd2PXjvpa98f4aQWs-RbDvsunEs2bNGLfj8BYE6lWA; l=cBTDZx2mqxnxDRr0BOCanurza77OSIRYYuPzaNbMi_5dd6T114_OkmrjfF96VjWdO2LB4G2npwJ9-etkZ1QoqpJRWkvP.; whl=-1%260%260%261562528831082','user-agent': 'Mozilla/5.0'}r = requests.get(url, timeout=30, headers=kv)# r = requests.get(url, timeout=30)# print(r.status_code)r.raise_for_status()r.encoding = r.apparent_encodingreturn r.textexcept:return "爬取失败"# 对于每个页面，提取商品名称和价格信息（完成正则表达式语句）
def parsePage(glist, html):'''解析网页，搜索需要的信息:param glist: 列表作为存储容器:param html: 由getHTMLText()得到的:return: 商品信息的列表'''try:# 使用正则表达式提取信息#商品价格price_list = re.findall(r'', html)#商品名称name_list = re.findall(r'', html)for i in range(len(price_list)):price = eval(price_list[i].split(":")[1])  #eval（）在此可以去掉""name = eval(name_list[i].split(":")[1])glist.append([price, name])except:print("解析失败")# 将信息输出到屏幕上
def printGoodList(glist):tplt = "{0:^4}\t{1:^6}\t{2:^10}"print(tplt.format("序号", "商品价格", "商品名称"))count = 0for g in glist:count = count + 1print(tplt.format(count, g[0], g[1]))# 根据页面url的变化寻找规律，构建爬取url
goods_name = "书包"  # 搜索商品类型
start_url = "https://s.taobao.com/search?q=" + goods_name
info_list = []
page = 3  # 爬取页面数量
count = 0
for i in range(page):count += 1try:url = start_url + "&s=" + str(44 * i)html = getHTMLText(url)  # 爬取urlparsePage(info_list, html) #解析HTML和爬取内容print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="")  # 显示进度条except:continue
printGoodList(info_list)

三、Beautiful Soup库

Beautiful Soup 是一个HTML/XML 的解析器，主要用于解析和提取 HTML/XML 数据。它基于HTML DOM 的，会载入整个文档，解析整个DOM树，因此时间和内存开销都会大很多，所以性能要低于lxml。BeautifulSoup 用来解析 HTML 比较简单，API非常人性化，支持CSS选择器、Python标准库中的HTML解析器，也支持 lxml 的 XML解析器。虽然说BeautifulSoup4 简单容易比较上手，但是匹配效率还是远远不如正则以及xpath的，一般不推荐使用，推荐正则的使用。

Beautiful Soup库的基本元素

Tag 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾；
Name 标签的名字，< p>…</ p >的名字是’p’，格式：< tag>.name;
Attributes 标签的属性，字典形式组织，格式：< tag>.attrs;
NavigableString 标签内非属性字符串，<>…</>中字符串，格式：< tag>.string;
Comment 标签内字符串的注释部分，一种特殊的Comment类型;

from bs4 import BeautifulSoup
import requests # 抓取页面r = requests.get('https://python123.io/ws/demo.html') # Demo网址
demo = r.text  # 抓取的数据
soup = BeautifulSoup(demo, 'html.parser')  # 抓取的页面数据；bs4的解析器

1.标签，用soup.< tag>访问获得:

soup.title

2.标签的名字:每个< tag>都有自己的名字，通过soup..name获取，字符串类型

soup.a.name

3。标签的属性,一个< tag>可以有0或多个属性，字典类型,soup.< tag>.attrs

tag = soup.a
print(tag.attrs)
print(tag.attrs['class'])
print(type(tag.attrs))

{'href': 'http://www.icourse163.org/course/BIT-268001', 'class': ['py1'], 'id': 'link1'}
['py1']
<class 'dict'>

4.Attributes:标签内非属性字符串,格式：soup.< tag>.string, NavigableString可以跨越多个层次

print(soup.a.string)
print(type(soup.a.string))**

<class 'bs4.element.NavigableString'>

5.NavigableString:标签内字符串的注释部分，Comment是一种特殊类型(有–>)

print(type(soup.p.string))

<class 'bs4.element.NavigableString'>

6.prettify()为HTML文本<>及其内容增加更加’\n’,有层次感的输出

print(soup.prettify())

7.bs4库将任何HTML输入都变成utf‐8编码

newsoup = BeautifulSoup('<a>中文</a>', 'html.parser')
print(newsoup.prettify())

基于bs4库的HTML内容遍历方法

标签树的下行遍历
- .contents 子节点的列表，将所有儿子节点存入列表
- .children 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
- .descendants 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历
标签树的上行遍历
- .parent 节点的父亲标签
- .parents 节点先辈标签的迭代类型，用于循环遍历先辈节点
标签树的平行遍历
- .next_sibling 返回按照HTML文本顺序的下一个平行节点标签
- .previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
- .next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签
- .previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签

标签树的下行遍历

import requests
from bs4 import BeautifulSoupr=requests.get('http://python123.io/ws/demo.html')
demo=r.text
soup=BeautifulSoup(demo,'html.parser')for child in soup.body.children:#遍历儿子节点print(child)for child in soup.body.descendants:#遍历子孙节点print(child)

标签树的上行遍历

for parent in soup.a.parents: # 遍历先辈的信息if parent is None:print(parent)else:print(parent.name)

标签树的平行遍历

标签树的平行遍历是有条件的，平行遍历发生在同一个父亲节点的各节点之间，标签中的内容也构成了节点

for sibling in soup.a.next_siblings:#遍历后续节点print(sibling)for sibling in soup.a.previous_sibling:#遍历之前的节点print(sibling)

基于bs4库的HTML内容的查找方法

find_all(name, attrs, recursive, string, **kwargs)
- name : 对标签名称的检索字符串
- attrs: 对标签属性值的检索字符串，可标注属性检索
- recursive: 是否对子孙全部检索，默认True
- string: <>…</>中字符串区域的检索字符串
find() 搜索且只返回一个结果，同.find_all()参数
find_parents() 在先辈节点中搜索，返回列表类型，同.find_all()参数
find_parent() 在先辈节点中返回一个结果，同.find()参数
find_next_siblings() 在后续平行节点中搜索，返回列表类型，同.find_all()参数
find_next_sibling() 在后续平行节点中返回一个结果，同.find()参数
find_previous_siblings() 在前序平行节点中搜索，返回列表类型，同.find_all()参数
find_previous_sibling() 在前序平行节点中返回一个结果，同.find()参数

import requests
from bs4 import BeautifulSoupr = requests.get('http://python123.io/ws/demo.html')
demo = r.text
soup = BeautifulSoup(demo,'html.parser')
soup.find_all('a')
soup.find_all("p","course")

实战：中国大学排名定向爬取

import requests
from bs4 import BeautifulSoup
import bs4# 从网络上获取大学排名网页内容
def getHTMLText(url):try:r = requests.get(url, timeout=30) r.raise_for_status()r.encoding = r.apparent_encodingreturn r.textexcept:return ""
#  提取网页内容中信息到合适的数据结构
def fillUnivList(ulist, html):soup = BeautifulSoup(html, "html.parser")for tr in soup.find('tbody').children: if isinstance(tr, bs4.element.Tag):tds = tr('td')# 根据实际提取需要的内容，ulist.append([tds[0].string, tds[1].string, tds[3].string])  、# 对中英文混排输出问题进行优化:对format()，设定宽度和添加参数chr(12288)
def printUnivList(ulist, num=20):tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"print(tplt.format('排名', '学校名称', '总分', chr(12288)))for i in range(num):u = ulist[i]print(tplt.format(u[0], u[1], u[2], chr(12288)))u_info = [] # 存储爬取结果的容器
url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html'
html = getHTMLText(url)
fillUnivList(u_info, html)
printUnivList(u_info, num=30)

Python爬虫编程实践 Task02相关推荐

Python爬虫编程实践--task02
主要学习内容: Beautiful Soup库的入门 xpath的使用 re的使用 1. Beautiful Soup库入门 Beautiful Soup 是一个HTML/XML 的解析器,主要用于解 ...
Python爬虫编程实践 Task03
文章目录 IP代理获取代理IP地址的方法代码实现 selenium session 和 cookie 动态网页和静态网页静态网页动态网页 session和cookies session coo ...
Python爬虫编程实践Task 01
文章目录 1.互联网.HTTP 互联网 HTTP 2.开发者工具 3.request库 request.get request.post request.get进阶:爬取豆瓣电影 1.互联网.HTTP ...
Python爬虫编程实践--task01
主要内容 HTTP基础 HTML基础 requests.get的使用 API的使用 HTTP HTTP是一个客户端(用户)和服务器端(网站)之间进行请求和应答的标准.通过使用网页浏览器.网络爬虫或者其 ...
Datawhale第十二期组队学习--Python爬虫编程实践 Task03：session和cookie、代理、selenium自动化拔高：丁香园留言板爬取
一. session和cookie 常用的 web 容器有 Nginx . Apache . Tomcat .Weblogic . Jboss . Resin 等等 http 1.0 HTTP1.0的 ...
Python爬虫编程实践 Task04
爬取腾讯新闻了解ajax加载通过chrome的开发者工具,监控网络请求,并分析用selenium完成爬虫具体流程如下: 用selenium爬取https://news.qq.com/ 的热点精 ...
Python爬虫编程常见问题解决方法
Python爬虫编程常见问题解决方法参考文章: (1)Python爬虫编程常见问题解决方法 (2)https://www.cnblogs.com/xpwi/p/9604015.html (3)htt ...
Python爬虫编程思想（6）：实战案例：抓取所有的网络资源
Python爬虫编程思想(7):实战案例:抓取博客文章列表到现在为止,我们已经对网络爬虫涉及到的基本知识有了一个初步的了解.本文会编写一个简单的爬虫应用,以便让读者对爬虫有一个基本的认识.本节要编写 ...
Python游戏编程实践2：魔塔
Python游戏编程实践2:魔塔前言运行前言在逗游游戏盒上玩了一个名叫<魔塔>的游戏,感觉颇有心得体会."与其临渊羡鱼,不如退而结网",使用Python语言编写 ...

Python爬虫编程实践 Task02