Python爬虫系列（二）：爬取中国大学排名&丁香园-用户名和回复内容&淘宝品比价

目录

  • Python爬虫系列（二）：爬取中国大学排名&丁香园-用户名和回复内容&淘宝品比价
  • 一、Beautiful Soup库入门
    • 1 Beautiful Soup库的基本元素
    • 2 基于bs4库的HTML内容遍历方法
    • 3 基于bs4库的HTML内容的查找方法
    • 4 实战：中国大学排名定向爬取
  • 二、学习xpath
    • 1 学习目标
    • 2 Xpath常用的路径表达式
    • 3 使用lxml解析
    • 4 实战：爬取丁香园-用户名和回复内容
  • 三、学习正则表达式 re
    • 1 为什么使用正则表达式？
    • 2 正则表达式语法
    • 3 正则表达式re库的使用
    • 4 实战：淘宝商品比价定向爬虫

一、Beautiful Soup库入门

  1. 学习beautifulsoup基础知识。
  2. 使用beautifulsoup解析HTML页面。
      o Beautiful Soup 是一个HTML/XML 的解析器，主要用于解析和提取 HTML/XML 数据。
      o 它基于HTML DOM 的，会载入整个文档，解析整个DOM树，因此时间和内存开销都会大很多，所以性能要低于lxml。
      o BeautifulSoup 用来解析 HTML 比较简单，API非常人性化，支持CSS选择器、Python标准库中的HTML解析器，也支持 lxml 的 XML解析器。
      o 虽然说BeautifulSoup4 简单容易比较上手，但是匹配效率还是远远不如正则以及xpath的，一般不推荐使用，推荐正则的使用。
    • 第一步：pip install beautifulsoup4 ，万事开头难，先安装 beautifulsoup4，安装成功后就完成了第一步。
    • 第二步：导入from bs4 import BeautifulSoup
    • 第三步：创建 Beautiful Soup对象 soup = BeautifulSoup(html，‘html.parser’)

1 Beautiful Soup库的基本元素

  1. Beautiful Soup库的理解： Beautiful Soup库是解析、遍历、维护“标签树”的功能库，对应一个HTML/XML文档的全部内容
  2. BeautifulSoup类的基本元素:
      o Tag 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾；
      o Name 标签的名字，< p>…< /p>的名字是’p’，格式：< tag>.name;
      o Attributes 标签的属性，字典形式组织，格式：< tag>.attrs;
      o NavigableString 标签内非属性字符串，<>…</>中字符串，格式：< tag>.string;
      o Comment 标签内字符串的注释部分，一种特殊的Comment类型;
# 导入bs4库
from bs4 import BeautifulSoup
import requests # 抓取页面r = requests.get('https://python123.io/ws/demo.html') # Demo网址
demo = r.text  # 抓取的数据
print(demo)


# 解析HTML页面
soup = BeautifulSoup(demo, 'html.parser')  # 抓取的页面数据；bs4的解析器
# 有层次感的输出解析后的HTML页面
print(soup.prettify())

1）标签，用soup.< tag>访问获得:
  • 当HTML文档中存在多个相同< tag>对应内容时，soup.< tag>返回第一个

print(soup.a) # 访问标签a
print(soup.title)

2）标签的名字:每个< tag>都有自己的名字，通过soup.< tag>.name获取，字符串类型

print(soup.a.name)
print(soup.a.parent.name)
print(soup.p.parent.name)

3)标签的属性,一个< tag>可以有0或多个属性，字典类型,soup.< tag>.attrs

tag = soup.a
print(tag.attrs)
print(tag.attrs['class'])
print(type(tag.attrs))

4)Attributes:标签内非属性字符串,格式：soup.< tag>.string, NavigableString可以跨越多个层次

print(soup.a.string)
print(type(soup.a.string))

5）NavigableString:标签内字符串的注释部分，Comment是一种特殊类型(有–>)

print(type(soup.p.string))

  1. .prettify()为HTML文本<>及其内容增加更加’\n’,有层次感的输出
      .prettify()可用于标签，方法：< tag>.prettify()
print(soup.prettify())


print(soup.a.prettify())

7)bs4库将任何HTML输入都变成utf‐8编码
  Python 3.x默认支持编码是utf‐8,解析无障

newsoup = BeautifulSoup('<a>中文</a>', 'html.parser')
print(newsoup.prettify())

2 基于bs4库的HTML内容遍历方法

HTML基本格式:<>…</>构成了所属关系，形成了标签的树形结构
• 标签树的下行遍历
  o .contents 子节点的列表，将< tag>所有儿子节点存入列表
  o .children 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
  o .descendants 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历
• 标签树的上行遍
  o .parent 节点的父亲标签
  o .parents 节点先辈标签的迭代类型，用于循环遍历先辈节点
• 标签树的平行遍历
  o .next_sibling 返回按照HTML文本顺序的下一个平行节点标签
  o .previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
  o .next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签
  o .previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签

标签树的下行遍历

import requests
from bs4 import BeautifulSoupr = requests.get('http://python123.io/ws/demo.html')
demo = r.text
soup = BeautifulSoup(demo,'html.parser')
# 获取整个标签树的儿子节点
print(soup.contents)


print(soup.body.content)#返回标签树的body标签下的节点


print(soup.head)#返回head标签


for child in soup.body.children:#遍历儿子节点print(child)


for child in soup.body.descendants:#遍历子孙节点print(child)

标签树的上行遍历

# 标签树的上行遍历
print(soup.title.parent)
print(soup.parent)
for parent in soup.a.parents: # 遍历先辈的信息if parent is None:print(parent)else:print(parent.name)

标签树的平行遍历
  注意：
    • 标签树的平行遍历是有条件的
    • 平行遍历发生在同一个父亲节点的各节点之间
    • 标签中的内容也构成了节点

# 标签树的平行遍历
print(soup.a.next_sibling)#a标签的下一个标签
print(soup.a.next_sibling.next_sibling)#a标签的下一个标签的下一个标签
print(soup.a.previous_sibling)#a标签的前一个标签
print(soup.a.previous_sibling.previous_sibling)#a标签的前一个标签的前一个标签
for sibling in soup.a.next_siblings:#遍历后续节点print(sibling)
for sibling in soup.a.previous_sibling:#遍历之前的节点print(sibling)

3 基于bs4库的HTML内容的查找方法

• <>.find_all(name, attrs, recursive, string, **kwargs)
  o 参数：
  o ∙ name : 对标签名称的检索字符串
  o ∙ attrs: 对标签属性值的检索字符串，可标注属性检索
  o ∙ recursive: 是否对子孙全部检索，默认True
  o ∙ string: <>…</>中字符串区域的检索字符串
简写：
  < tag>(…) 等价于 < tag>.find_all(…)
  soup(…) 等价于 soup.find_all(…)
• 扩展方法：
  o <>.find() 搜索且只返回一个结果，同.find_all()参数
  o <>.find_parents() 在先辈节点中搜索，返回列表类型，同.find_all()参数
  o <>.find_parent() 在先辈节点中返回一个结果，同.find()参数
  o <>.find_next_siblings() 在后续平行节点中搜索，返回列表类型，同.find_all()参数
  o <>.find_next_sibling() 在后续平行节点中返回一个结果，同.find()参数
  o <>.find_previous_siblings() 在前序平行节点中搜索，返回列表类型，同.find_all()参数
  o <>.find_previous_sibling() 在前序平行节点中返回一个结果，同.find()参数

import requests
from bs4 import BeautifulSoupr = requests.get('http://python123.io/ws/demo.html')
demo = r.text
soup = BeautifulSoup(demo, 'html.parser')
print(soup)# name : 对标签名称的检索字符串
soup.find_all('a')
soup.find_all(['a', 'p'])# attrs: 对标签属性值的检索字符串，可标注属性检索
soup.find_all("p","course")
soup.find_all(id="link") # 完全匹配才能匹配到#  recursive: 是否对子孙全部检索，默认True
soup.find_all('p', recursive=False)# string: <>…</>中字符串区域的检索字符串
soup.find_all(string="Basic Python") # 完全匹配才能匹配到

4 实战：中国大学排名定向爬取

• 爬取url：http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html
• 爬取思路：

  1. 从网络上获取大学排名网页内容
  2. 提取网页内容中信息到合适的数据结构（二维数组）-排名，学校名称，总分
  3. 利用数据结构展示并输出结果
  4. 从网络上获取大学排名网页内容
  5. 提取网页内容中信息到合适的数据结构（二维数组）
  6. 查看网页源代码，观察并定位到需要爬取内容的标签；
  7. 使用bs4的查找方法提取所需信息-'排名，学校名称，总分
  8. 利用数据结构展示并输出结果
# 导入库
import requests
from bs4 import BeautifulSoup
import bs4# 1.从网络上获取大学排名网页内容
def getHTMLText(url):try:r = requests.get(url, timeout=30)r.raise_for_status()r.encoding = r.apparent_encodingreturn r.textexcept:return ""# 2.提取网页内容中信息到合适的数据结构（二维数组）-排名，学校名称，总分
def fillUnivList(ulist, html):soup = BeautifulSoup(html, "html.parser")for tr in soup.find('tbody').children:if isinstance(tr, bs4.element.Tag):tds = tr('td')# 根据实际提取需要的内容，ulist.append([tds[0].string, tds[1].string, tds[3].string])# 3.利用数据结构展示并输出结果
# 对中英文混排输出问题进行优化:对format()，设定宽度和添加参数chr(12288)
def printUnivList(ulist, num=20):tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"print(tplt.format('排名', '学校名称', '总分', chr(12288)))for i in range(num):u = ulist[i]print(tplt.format(u[0], u[1], u[2], chr(12288)))def main():uinfo = []url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html'html = getHTMLText(url)fillUnivList(uinfo, html)printUnivList(uinfo, 30)  # 30 univsmain()

结果：

二、学习xpath

1 学习目标

  1. 学习xpath，使用lxml+xpath提取内容。
  2. 使用xpath提取丁香园论坛的回复内容。
  3. 抓取丁香园网页：http://www.dxy.cn/bbs/thread/626626#626626 。

2 Xpath常用的路径表达式

  • XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。
  • 在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
  • XML文档是被作为节点树来对待的。
XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：
  • nodename 选取此节点的所有子节点。
  • / 从根节点选取。
  • // 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
  • . 选取当前节点。
  • … 选取当前节点的父节点。
  • @ 选取属性。
  • /text() 提取标签下面的文本内容
o 如：
  o /标签名 逐层提取
  o /标签名 提取所有名为<>的标签
  o //标签名[@属性=“属性值”] 提取包含属性为属性值的标签
  o @属性名 代表取某个属性名的属性值

3 使用lxml解析

  • 导入库：from lxml import etree
  • lxml将html文本转成xml对象
    o tree = etree.HTML(html)
  • 用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)
  • 回复内容：tree.xpath(’//td[@class=“postbody”]’) 因为回复内容中有换行等标签，所以需要用string()来获取数据。

• Xpath中text()，string()，data()的区别如下：
  o text()仅仅返回所指元素的文本内容。
  o string()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。
  o data()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

4 实战：爬取丁香园-用户名和回复内容

• 爬取思路：

  1. 获取url的html
  2. lxml解析html
  3. 利用Xpath表达式获取user和content
  4. 保存爬取的内容:

参考代码1：

# 导入库
from lxml import etree
import requestsurl = "http://www.dxy.cn/bbs/thread/626626#626626"# 1. 获取url的html
req = requests.get(url)
html = req.text# 2. lxml解析html
tree = etree.HTML(html)# 3. 利用Xpath表达式获取user和content（完成xpath的语句）
user = tree.xpath('//div[@class="auth"]/a/text()')
# print(user)
content = tree.xpath('//td[@class="postbody"]')# 4. 保存爬取的内容
results = []
for i in range(0, len(user)):# 因为回复内容中有换行等标签，所以需要用string()来获取数据results.append(user[i].strip() + ":  " + content[i].xpath('string(.)').strip())# 打印爬取的结果
for i, result in zip(range(0, len(user)), results):print("user" + str(i+1) + "-" + result)print("*"*100)

结果：

参考代码2：

import requests
import json
import re
from bs4 import BeautifulSoup"""
爬取: http://i.dxy.cn/topic/admerahealthcollege
爬取丁香园：丁香园是用 js 接口加载信息的，即直接请求上面的网址得到的只是一个模板文件
通过浏览器开发者工具可以看到其加载信息的接口为
http://i.dxy.cn/topic/admerahealthcollege/feeds/list?JUTE_TOKEN=f79d77be-f161-4b2a-bc87-b20271b018ba&type=0&page=1&size=20
可以发现的是有三个请求参数 JSTE_TOKEN    type  page sizeurl: http://i.dxy.cn/topic/admerahealthcollege/feeds/listJSTE_TOKE 是第一次请求服务器响应的 cookies 之一type      默认为 0page      评论的页码size      每次请求多少条评论
"""headers = {'User-Agent': ('Mozilla/5.0 (X11; Linux x86_64)'' AppleWebKit/537.36 (KHTML, like Gecko)'' Chrome/68.0.3440.106 Safari/537.36')
}comment_pattern = re.compile('"body":"(.*?)","nickname')def get_json_data(url):""":param url: api:return: comment  dictcommentnickname 作键值avator   头像 url 地址body     评论内容city     用户省份"""comment = []tarage_index = 1while True:target_url = url.format(tarage_index)resp = requests.get(target_url, headers=headers)resp_dict = json.loads(resp.content.decode("utf-8"))if len(resp_dict['items']) == 0:breakfor item in resp_dict['items']:body = re.search(comment_pattern, item['content']).group(1)comment.append({item['nickname']: {'avator': item['infoAvatar'], 'body': body, 'city': item['city']}})tarage_index += 1return commentdef get_cookies(url):# 获取 cookiesresp = requests.get(url, headers=headers)for k, v in resp.cookies.items():headers[k] = vresp.encoding = 'utf-8'return resp.textdef display(topic):"""topic: 字典，键值有 topic  info  commenttopic   key  主题名info    key  主题介绍comment key  相关评论"""print("主题:\n", topic['topic'])print("主题介绍:\n", topic['info'])print("主题评论:\n")for item in topic['comment']:for k, v in item.items():print(k, '\n')print("\t城市:", v['city'], '\n')print('\t头像:', v['avator'], '\n')print('\t评论:', v['body'], '\n')def main(url):html = get_cookies(url)soup = BeautifulSoup(html, 'lxml')topic = {}# 设置 json 接口的 host, JUTE_TOKEN, page 先设为占位符topic['topic'] = soup.select('#topic-con > div.brief > h2 > a')[0].texttopic['info'] = soup.select('#topic-con > div.brief > p')[0].textjs_url = '{}/feeds/list?JUTE_TOKEN={}&type=0&page={}&size=20'.format(url, headers['JUTE_TOKEN'], '{}')topic['comment'] = get_json_data(js_url)display(topic)if __name__ == '__main__':url = 'http://i.dxy.cn/topic/admerahealthcollege'main(url)

结果：

三、学习正则表达式 re

1 为什么使用正则表达式？

  典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了，但它缺乏灵活性，若采用这种方法搜索动态文本，即使不是不可能，至少也会变得很困难。
通过使用正则表达式，可以：

  • 测试字符串内的模式。
    例如，可以测试输入字符串，以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。
  • 替换文本。
    可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。
  • 基于模式匹配从字符串中提取子字符串。
    可以查找文档内或输入域内特定的文本。
    可以使用正则表达式来搜索和替换标记。
    使用正则表达式的优势是什么？ 简洁
    • 正则表达式是用来简洁表达一组字符串的表达式
    • 正则表达式是一种通用的字符串表达框架
    • 正则表达式是一种针对字符串表达“简洁”和“特征”思想的工具
    • 正则表达式可以用来判断某字符串的特征归属
    正则表达式在文本处理中十分常用：
    • 同时查找或替换一组字符串
    • 匹配字符串的全部或部分(主要)

2 正则表达式语法

正则表达式语法由字符和操作符构成:
• 常用操作符
  o . 表示任何单个字符
  o [ ] 字符集，对单个字符给出取值范围 ，如[abc]表示a、b、c，[a‐z]表示a到z单个字符
  o [^ ] 非字符集，对单个字符给出排除范围 ，如[^abc]表示非a或b或c的单个字符
  o * 前一个字符0次或无限次扩展，如abc* 表示 ab、abc、abcc、abccc等
  o + 前一个字符1次或无限次扩展 ，如abc+ 表示 abc、abcc、abccc等
  o ? 前一个字符0次或1次扩展 ，如abc? 表示 ab、abc
  o | 左右表达式任意一个 ，如abc|def 表示 abc、def
  o {m} 扩展前一个字符m次 ，如ab{2}c表示abbc
  o {m,n} 扩展前一个字符m至n次（含n） ，如ab{1,2}c表示abc、abbc
  o ^ 匹配字符串开头 ，如^abc表示abc且在一个字符串的开头
  o $ 匹配字符串结尾 ，如abc$表示abc且在一个字符串的结尾
  o ( ) 分组标记，内部只能使用 | 操作符 ，如(abc)表示abc，(abc|def)表示abc、def
  o \d 数字，等价于[0‐9]
  o \w 单词字符，等价于[A‐Za‐z0‐9_]

3 正则表达式re库的使用

• 调用方式：import re
• re库采用raw string类型表示正则表达式，表示为：r’text’，raw string是不包含对转义符再次转义的字符串;
re库的主要功能函数：
• re.search() 在一个字符串中搜索匹配正则表达式的第一个位置，返回match对象
  o re.search(pattern, string, flags=0)
• re.match() 从一个字符串的开始位置起匹配正则表达式，返回match对象
  o re.match(pattern, string, flags=0)
• re.findall() 搜索字符串，以列表类型返回全部能匹配的子串
  o re.findall(pattern, string, flags=0)
• re.split() 将一个字符串按照正则表达式匹配结果进行分割，返回列表类型
  o re.split(pattern, string, maxsplit=0, flags=0)
• re.finditer() 搜索字符串，返回一个匹配结果的迭代类型，每个迭代元素是match对象
  o re.finditer(pattern, string, flags=0)
• re.sub() 在一个字符串中替换所有匹配正则表达式的子串，返回替换后的字符串
  o re.sub(pattern, repl, string, count=0, flags=0)

  o flags : 正则表达式使用时的控制标记：
      re.I --> re.IGNORECASE : 忽略正则表达式的大小写，[A‐Z]能够匹配小写字符
      re.M --> re.MULTILINE : 正则表达式中的^操作符能够将给定字符串的每行当作匹配开始
      re.S --> re.DOTALL : 正则表达式中的.操作符能够匹配所有字符，默认匹配除换行外的所有字符

re库的另一种等价用法（编译）
  • regex = re.compile(pattern, flags=0)：将正则表达式的字符串形式编译成正则表达式对象
re 库的贪婪匹配和最小匹配
  • .* Re库默认采用贪婪匹配，即输出匹配最长的子串
  • *? 只要长度输出可能不同的，都可以通过在操作符后增加?变成最小匹配

4 实战：淘宝商品比价定向爬虫

• 爬取网址：https://s.taobao.com/search?q=书包&js=1&stats_click=search_radio_all%25
• 爬取思路：

  1. 提交商品搜索请求，循环获取页面
  2. 对于每个页面，提取商品名称和价格信息
  3. 将信息输出到屏幕上

参考代码1：

# 导入包
import requests
import re# 1. 提交商品搜索请求，循环获取页面
def getHTMLText(url):"""请求获取html，（字符串）:param url: 爬取网址:return: 字符串"""try:# 添加头信息,kv = {'cookie': 'thw=cn; v=0; t=ab66dffdedcb481f77fd563809639584; cookie2=1f14e41c704ef58f8b66ff509d0d122e; _tb_token_=5e6bed8635536; cna=fGOnFZvieDECAXWIVi96eKju; unb=1864721683; sg=%E4%B8%8B3f; _l_g_=Ug%3D%3D; skt=83871ef3b7a49a0f; cookie1=BqeGegkL%2BLUif2jpoUcc6t6Ogy0RFtJuYXR4VHB7W0A%3D; csg=3f233d33; uc3=vt3=F8dBy3%2F50cpZbAursCI%3D&id2=UondEBnuqeCnfA%3D%3D&nk2=u%2F5wdRaOPk21wDx%2F&lg2=VFC%2FuZ9ayeYq2g%3D%3D; existShop=MTU2MjUyMzkyMw%3D%3D; tracknick=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; lgc=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _cc_=WqG3DMC9EA%3D%3D; dnk=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _nk_=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; cookie17=UondEBnuqeCnfA%3D%3D; tg=0; enc=2GbbFv3joWCJmxVZNFLPuxUUDA7QTpES2D5NF0D6T1EIvSUqKbx15CNrsn7nR9g%2Fz8gPUYbZEI95bhHG8M9pwA%3D%3D; hng=CN%7Czh-CN%7CCNY%7C156; mt=ci=32_1; alitrackid=www.taobao.com; lastalitrackid=www.taobao.com; swfstore=97213; x=e%3D1%26p%3D*%26s%3D0%26c%3D0%26f%3D0%26g%3D0%26t%3D0%26__ll%3D-1%26_ato%3D0; uc1=cookie16=UtASsssmPlP%2Ff1IHDsDaPRu%2BPw%3D%3D&cookie21=UIHiLt3xThH8t7YQouiW&cookie15=URm48syIIVrSKA%3D%3D&existShop=false&pas=0&cookie14=UoTaGqj%2FcX1yKw%3D%3D&tag=8&lng=zh_CN; JSESSIONID=A502D8EDDCE7B58F15F170380A767027; isg=BMnJJFqj8FrUHowu4yKyNXcd2PXjvpa98f4aQWs-RbDvsunEs2bNGLfj8BYE6lWA; l=cBTDZx2mqxnxDRr0BOCanurza77OSIRYYuPzaNbMi_5dd6T114_OkmrjfF96VjWdO2LB4G2npwJ9-etkZ1QoqpJRWkvP.; whl=-1%260%260%261562528831082','user-agent': 'Mozilla/5.0'}r = requests.get(url, timeout=30, headers=kv)r.raise_for_status()r.encoding = r.apparent_encodingreturn r.textexcept:return "爬取失败"# 2. 对于每个页面，提取商品名称和价格信息（完成正则表达式语句）
def parsePage(glist, html):'''解析网页，搜索需要的信息:param glist: 列表作为存储容器:param html: 由getHTMLText()得到的:return: 商品信息的列表'''try:# 使用正则表达式提取信息price_list = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)name_list = re.findall(r'\"raw_title\"\:\".*?\"', html)for i in range(len(price_list)):price = eval(price_list[i].split(":")[1])  #eval（）在此可以去掉""name = eval(name_list[i].split(":")[1])glist.append([price, name])except:print("解析失败")# 3. 将信息输出到屏幕上
def printGoodList(glist):tplt = "{0:^4}\t{1:^6}\t{2:^10}"print(tplt.format("序号", "商品价格", "商品名称"))count = 0for g in glist:count = count + 1print(tplt.format(count, g[0], g[1]))# 根据页面url的变化寻找规律，构建爬取url
goods_name = "书包"  # 搜索商品类型
start_url = "https://s.taobao.com/search?q=" + goods_name
info_list = []
page = 3  # 爬取页面数量count = 0
for i in range(page):count += 1try:url = start_url + "&s=" + str(44 * i)html = getHTMLText(url)  # 爬取urlparsePage(info_list, html) #解析HTML和爬取内容print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="")  # 显示进度条except:continueprintGoodList(info_list)

结果：


参考代码2：

import requests
import redef getHTMLText(url):# 伪装成浏览器kv = {'cookie':'cookie2=14df95ca1f48116a5a34610507b02333; t=d15ae95e1060852ad4243b96b295a7dc; _tb_token_=e75160e73b7e5; cna=M688FuCsY2wCAXDgRUH/hKTk; v=0; unb=3352836622; uc3=lg2=VT5L2FSpMGV7TQ%3D%3D&nk2=AniT9PpU6lsw%2BH60PN%2F7%2FXaT&vt3=F8dByuchWQ9bb7TaCU4%3D&id2=UNN4BKnQgACo7Q%3D%3D; csg=59443507; lgc=aichitudoudemao233; cookie17=UNN4BKnQgACo7Q%3D%3D; dnk=aichitudoudemao233; skt=3cb4f2957552001d; existShop=MTU3MjE5MjU4Ng%3D%3D; uc4=nk4=0%40AJNGw06trBMedW6r%2FQlFOOjBhgw85hpyqLnNC3I%3D&id4=0%40UgQwEYjMutDazneilIoLYcO2uOaz; tracknick=aichitudoudemao233; _cc_=UIHiLt3xSw%3D%3D; tg=0; _l_g_=Ug%3D%3D; sg=327; _nk_=aichitudoudemao233; cookie1=BxVXTygrONJyVN23g9iTU5Oz3K6wvjcRxGgKJfb0wrI%3D; thw=cn; mt=ci=115_1; enc=75b73ilmqJ9nY0ao0mcj2Mr8brnfEA6GkjQTPgwJgzKzc5zEWHGqBD1BhXlF7CLv63SmsH7llCpIgjAaHWWYSg%3D%3D; alitrackid=www.taobao.com; lastalitrackid=www.taobao.com; hng=CN%7Czh-CN%7CCNY%7C156; JSESSIONID=586CDB7DE478B86E36E2E2E19E99C986; uc1=cookie14=UoTbnxk2wn3EzA%3D%3D&cookie15=WqG3DMC9VAQiUQ%3D%3D; l=dBOA9jvVqGs3iHG2BOCalurza779SIRYBuPzaNbMi_5pc68sFq7OkaazPFJ6DjWfToYB4iuRp4J9-etbi-y06Pt-g3fPaxDc.; isg=BO7uNkXtP2w320sIiRQGkRYvP0Kw77LpGyUd6Bi3X_Gs-45VgH7S-ZV5tieyeqoB','user-agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.120 Safari/537.36'}try:# 爬出网页源文件r = requests.get(url, headers=kv, timeout=30)r.raise_for_status()r.encoding = 'utf-8'return  r.textexcept:return ''def parsePage(ilt, html):try:plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"',html)tlt = re.findall(r'\"raw_title\"\:\".*?\"',html)for i in range(len(plt)):price = eval(plt[i].split(':')[1])title = eval(tlt[i].split(':')[1])ilt.append([price , title])except:print("")def printGoodsInfo(ilt):tplt = "{:4}\t{:8}\t{:16}"print(tplt.format("序号", "价格", "商品名称"))count = 0for g in ilt:count = count + 1print(tplt.format(count, g[0], g[1]))def main():goods_name = '手机'depth = 3# 要爬取的网页s_url = 'https://s.taobao.com/search?q=' + goods_nameinfoList = []# 翻页for i in range(depth):try:url = s_url + '&s=' + str(44 * i)html = getHTMLText(url)parsePage(infoList, html)except:continueprintGoodsInfo(infoList)main()

结果：

Python爬虫系列（二）：爬取中国大学排名丁香园-用户名和回复内容淘宝品比价相关推荐

  1. Python练习-爬虫（附加爬取中国大学排名）

    Python与网页处理 Python 语言发展中有一个里程碑式的应用事件,即美国谷歌(GOOGLE)公司在搜索引擎后端采用Python 语言进行链接处理和开发,这是该语言发展成熟的重要标志.Pytho ...

  2. Python爬虫系列之爬取微信公众号新闻数据

    Python爬虫系列之爬取微信公众号新闻数据 小程序爬虫接单.app爬虫接单.网页爬虫接单.接口定制.网站开发.小程序开发 > 点击这里联系我们 < 微信请扫描下方二维码 代码仅供学习交流 ...

  3. Python爬虫系列之爬取某奢侈品小程序店铺商品数据

    Python爬虫系列之爬取某奢侈品小程序店铺商品数据 小程序爬虫接单.app爬虫接单.网页爬虫接单.接口定制.网站开发.小程序开发> 点击这里联系我们 < 微信请扫描下方二维码 代码仅供学 ...

  4. Python爬取中国大学排名，并且保存到excel中

    前言 以下文章来源于数据分析和Python ,作者冈坂日川 今天发的是python爬虫爬取中国大学排名,并且保存到excel中,当然这个代码很简单,我用了半小时就写完了,我的整体框架非常清晰,可以直接 ...

  5. 爬虫爬取中国大学排名top100并简单可视化分析

    爬虫爬取中国大学排名top100并简单可视化分析. 目标链接 http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html 实践环境 pycharm201 ...

  6. python中国最好大学排名_国内大学排名如何？用Python爬取中国大学排名

    国内大学排名如何?用Python爬取中国大学排名准备阶段需要的库robots协议上代码代码框架*获取url信息*解析信息*输出数据*主函数结果 准备阶段 新手入门,不喜勿喷,这篇文章的内容其实也是在中 ...

  7. Python爬虫系列之爬取某优选微信小程序全国店铺商品数据

    Python爬虫系列之爬取某优选微信小程序全国商品数据 小程序爬虫接单.app爬虫接单.网页爬虫接单.接口定制.网站开发.小程序开发 > 点击这里联系我们 < 微信请扫描下方二维码 代码仅 ...

  8. Python爬虫系列之爬取某社区团微信小程序店铺商品数据

    Python爬虫系列之爬取某社区团微信小程序店铺商品数据 如有问题QQ请> 点击这里联系我们 < 微信请扫描下方二维码 代码仅供学习交流,请勿用于非法用途 数据库仅用于去重使用,数据主要存 ...

  9. 第一个爬虫程序之定向爬取中国大学排名（收获良多，不仅仅是写个程序，更是编程的步骤方法）

    第一个爬虫程序之定向爬取中国大学排名(收获良多,不仅仅是写个程序,更是编程的想法) 名称:定向爬取--中国大学排名定向爬取 首先,爬之前,看看你要定向爬取的网站和数据是什么类型的? 打开你要爬取网站, ...

最新文章

  1. 题目1030：毕业bg
  2. SQL Server 监控统计阻塞脚本信息
  3. 【Python】青少年蓝桥杯_每日一题_12.03_输出字符串的长度
  4. paddleocr常见问题(3）
  5. 技术实践丨如何解决异步接口请求快慢不均导致的数据错误问题？
  6. 十年工龄的程序员为你揭示最危害程序员职业生涯的三大观念
  7. 注意！这13件事会毁掉你的信用，千万别做！
  8. 创业之前必须要做的八个测试（上）
  9. java8教程-并发编程
  10. 机房收费系统的退卡和结账
  11. Mysql横向分组统计
  12. linux怎么让普通用户拥有管理员权限
  13. html中文本重复,在网页中去除文本列表中重复行与计算重复次数的代码原理
  14. 应用程序图标变了的解决方法
  15. Ypai windows部署小白也可以哦
  16. 课设 c语言编译学籍管理系统,C语言课设之学生学籍管理系统
  17. 大数据与海量数据的区别
  18. CMMI 级别中和BUG率
  19. 计算机网络校验和怎么计算方法,计算机网络 计算校验和
  20. [ArcGIS] DEM数据提取坡度

热门文章

  1. accept函数源码分析
  2. Codeforces Round #262 (Div. 2) 460C. Present
  3. 【LeetCode】1609. 奇偶树、1122. 数组的相对排序
  4. 法国大面包 mimikatz使用方法
  5. 干货满满！OpenStack的探索之路——基础理论精讲
  6. WindowsSockets套接字编程学习-C语言
  7. 算法与数据结构学习（58）-程序员常用10种算法（佛洛依德算法）
  8. 数据结构实验报告(二)简单计算器(中缀转后缀)
  9. 全球及中国分子束外延（MBE）系统行业研究及十四五规划分析报告
  10. 华为视频与优酷深度合作