Python网络爬虫-xpath模块
一.正解解析
单字符:. : 除换行以外所有字符[] :[aoe] [a-w] 匹配集合中任意一个字符\d :数字 [0-9]\D : 非数字\w :数字、字母、下划线、中文\W : 非\w\s :所有的空白字符包,括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。\S : 非空白数量修饰:* : 任意多次 >=0+ : 至少1次 >=1? : 可有可无 0次或者1次{m} :固定m次 hello{3,}{m,} :至少m次{m,n} :m-n次边界:$ : 以某某结尾 ^ : 以某某开头分组:(ab) 贪婪模式: .*非贪婪(惰性)模式: .*?re.I : 忽略大小写re.M :多行匹配re.S :单行匹配re.sub(正则表达式, 替换内容, 字符串)
常用正则表达式
二.Xpath解析
<html lang="en"> <head><meta charset="UTF-8" /><title>测试bs4</title> </head> <body><div><p>百里守约</p></div><div class="song"><p>李清照</p><p>王安石</p><p>苏轼</p><p>柳宗元</p><a href="http://www.song.com/" title="赵匡胤" target="_self"><span>this is span</span>宋朝是最强大的王朝,不是军队的强大,而是经济很强大,国民都很有钱</a><a href="" class="du">总为浮云能蔽日,长安不见使人愁</a><img src="http://www.baidu.com/meinv.jpg" alt="" /></div><div class="tang"><ul><li><a href="http://www.baidu.com" title="qing">清明时节雨纷纷,路上行人欲断魂,借问酒家何处有,牧童遥指杏花村</a></li><li><a href="http://www.163.com" title="qin">秦时明月汉时关,万里长征人未还,但使龙城飞将在,不教胡马度阴山</a></li><li><a href="http://www.126.com" alt="qi">岐王宅里寻常见,崔九堂前几度闻,正是江南好风景,落花时节又逢君</a></li><li><a href="http://www.sina.com" class="du">杜甫</a></li><li><a href="http://www.dudu.com" class="du">杜牧</a></li><li><b>杜小月</b></li><li><i>度蜜月</i></li><li><a href="http://www.haha.com" id="feng">凤凰台上凤凰游,凤去台空江自流,吴宫花草埋幽径,晋代衣冠成古丘</a></li></ul></div> </body> </html>
测试页面数据
属性定位:#找到class属性值为song的div标签//div[@class="song"] 层级&索引定位:#找到class属性值为tang的div的直系子标签ul下的第二个子标签li下的直系子标签a//div[@class="tang"]/ul/li[2]/a 逻辑运算:#找到href属性值为空且class属性值为du的a标签//a[@href="" and @class="du"] 模糊匹配://div[contains(@class, "ng")]//div[starts-with(@class, "ta")] 取文本:# /表示获取某个标签下的文本内容# //表示获取某个标签下的文本内容和所有子标签下的文本内容//div[@class="song"]/p[1]/text()//div[@class="tang"]//text() 取属性://div[@class="tang"]//li[2]/a/@href
常用xpath表达式
属性定位:#找到class属性值为song的div标签//div[@class="song"] 层级&索引定位:#找到class属性值为tang的div的直系子标签ul下的第二个子标签li下的直系子标签a//div[@class="tang"]/ul/li[2]/a 逻辑运算:#找到href属性值为空且class属性值为du的a标签//a[@href="" and @class="du"] 模糊匹配://div[contains(@class, "ng")]//div[starts-with(@class, "ta")] 取文本:# /表示获取某个标签下的文本内容# //表示获取某个标签下的文本内容和所有子标签下的文本内容//div[@class="song"]/p[1]/text()//div[@class="tang"]//text() 取属性://div[@class="tang"]//li[2]/a/@href代码中使用xpath表达式进行数据解析:1.下载:pip install lxml 2.导包:from lxml import etree3.将html文档或者xml文档转换成一个etree对象,然后调用对象中的方法查找指定的节点2.1 本地文件:tree = etree.parse(文件名)tree.xpath("xpath表达式")2.2 网络数据:tree = etree.HTML(网页内容字符串)tree.xpath("xpath表达式")
属性定位
需求:获取好段子中段子的内容和作者 http://www.haoduanzi.com
from lxml import etree import requestsurl='http://www.haoduanzi.com/category-10_2.html' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36',} url_content=requests.get(url,headers=headers).text #使用xpath对url_conten进行解析 #使用xpath解析从网络上获取的数据 tree=etree.HTML(url_content) #解析获取当页所有段子的标题 title_list=tree.xpath('//div[@class="log cate10 auth1"]/h3/a/text()')ele_div_list=tree.xpath('//div[@class="log cate10 auth1"]')text_list=[] #最终会存储12个段子的文本内容 for ele in ele_div_list:#段子的文本内容(是存放在list列表中)text_list=ele.xpath('./div[@class="cont"]//text()')#list列表中的文本内容全部提取到一个字符串中text_str=str(text_list)#字符串形式的文本内容防止到all_text列表中 text_list.append(text_str) print(title_list) print(text_list)
【重点】下载煎蛋网中的图片数据:http://jandan.net/ooxx
import requests from lxml import etree from fake_useragent import UserAgent import base64 import urllib.request url = 'http://jandan.net/ooxx' ua = UserAgent(verify_ssl=False,use_cache_server=False).random headers = {'User-Agent':ua } page_text = requests.get(url=url,headers=headers).text#查看页面源码:发现所有图片的src值都是一样的。 #简单观察会发现每张图片加载都是通过jandan_load_img(this)这个js函数实现的。 #在该函数后面还有一个class值为img-hash的标签,里面存储的是一组hash值,该值就是加密后的img地址 #加密就是通过js函数实现的,所以分析js函数,获知加密方式,然后进行解密。 #通过抓包工具抓取起始url的数据包,在数据包中全局搜索js函数名(jandan_load_img),然后分析该函数实现加密的方式。 #在该js函数中发现有一个方法调用,该方法就是加密方式,对该方法进行搜索 #搜索到的方法中会发现base64和md5等字样,md5是不可逆的所以优先考虑使用base64解密 #print(page_text) tree = etree.HTML(page_text) #在抓包工具的数据包响应对象对应的页面中进行xpath的编写,而不是在浏览器页面中。 #获取了加密的图片url数据 imgCode_list = tree.xpath('//span[@class="img-hash"]/text()') imgUrl_list = [] for url in imgCode_list:#base64.b64decode(url)为byte类型,需要转成strimg_url = 'http:'+base64.b64decode(url).decode()imgUrl_list.append(img_url)for url in imgUrl_list:filePath = url.split('/')[-1]urllib.request.urlretrieve(url=url,filename=filePath)print(filePath+'下载成功')
转载于:https://www.cnblogs.com/zbw582922417/p/10456683.html
Python网络爬虫-xpath模块相关推荐
- python 网络爬虫requests模块
一.requests模块 requests模块是python中原生的基于网络请求的模块,其主要作用是用来模拟浏览器发起请求.功能强大,用法简洁高效. 1.1 模块介绍及请求过程 requests模块模 ...
- python网络爬虫系列教程——python中lxml库应用全解(xpath表达式)
全栈工程师开发手册 (作者:栾鹏) python教程全解 python网络爬虫lxml库的应用全解. 在线安装方法:cmd中输入"pip install lxml" 离线安装,下载 ...
- python网络爬虫权威指南 豆瓣_豆瓣Python大牛写的爬虫学习路线图,分享给大家!...
豆瓣Python大牛写的爬虫学习路线图,分享给大家! 今天给大家带来我的Python爬虫路线图,仅供大家参考! 第一步,学会自己安装python.库和你的编辑器并设置好它 我们学习python的最终目 ...
- 如何利用python在一个wen'dang'li_如何利用Python网络爬虫给自己跟朋友来一份穷游攻略!走到哪里穷到哪里的哦!...
[一.项目背景] 穷游网提供原创实用的出境游旅行指南.攻略,旅行社区和问答交流平台,以及智能的旅行规划解决方案,同时提供签证.保险.机票.酒店预订.租车等在线增值服务.穷游"鼓励和帮助中国旅 ...
- python网络爬虫_一篇文章教会你利用Python网络爬虫获取穷游攻略
点击上方"IT共享之家",进行关注 回复"资料"可获赠Python学习福利 [一.项目背景] 穷游网提供原创实用的出境游旅行指南.攻略,旅行社区和问答交流平台, ...
- python网络爬虫的学习
在上一篇博客我已经将python高级摘要的笔记分享完毕了,从这一篇博客开始写python网络爬虫的笔记. 我将网络爬虫的学习路线绘制了一个思维导图,在我后面的笔记也会按照这个思维导图进行分享. 模块的 ...
- MOOC《Python网络爬虫和信息提取》(第11次)网络爬虫之框架(第4周)
MOOC<Python网络爬虫和信息提取>(第11次)网络爬虫之框架(第4周) MOOC–Python网络爬虫和信息提取(第11次开课) 网络爬虫之框架 21.08.10 目录 文章目录 ...
- Python 网络爬虫工具:httpx 和 parsel(对比测评)
Python 网络爬虫领域两个最新的比较火的工具莫过于 httpx 和 parsel 了. httpx 号称下一代的新一代的网络请求库,不仅支持 requests 库的所有操作,还能发送异步请求,为编 ...
- 手把手教你使用Python网络爬虫获取音效信息
点击上方"Python爬虫与数据挖掘",进行关注 回复"书籍"即可获赠Python从入门到进阶共10本电子书 今 日 鸡 汤 一腔热血勤珍重,洒去犹能化碧涛. ...
最新文章
- php7安装event拓展
- Understanding HBase and BigTable 译文
- BP神经网络算法推导
- java biginterger_Java BigInteger类知识点总结
- 数据机房局部过热与节能降耗解决方案
- 大数据独角兽TOP10榜单发布,“内永洪,外Tableau”领跑BI领域
- 基于ubuntu18.04LTS SERVER版的基础系统安装过程
- linux标准I/O——按行输入和输出
- mysql.sys_MySQL sys Schema
- scrapy学习笔记1---一个爬取的完整例子
- 我什么时候应该真正使用noexcept?
- 2008秋季-计算机软件基础-0917课堂用例(1)
- 洛谷试炼场 计数问题
- python程序员前景-一个6年Python程序员的工作感悟,送给还在迷茫的你
- 【Python入门练手小项目】画一个蓝胖子❤️
- 网络安全技术及应用--网络安全基础(第一章)
- exe4j打成的exe文件运行时弹窗this executable was created with an evaluation version of exe4j问题解决
- springbootadmin 客户端监控配置
- MFC连接sqlite3数据库
- 华为设备配置静态路由与静态BFD联动