Scrapy爬虫:XPath语法

  • 路径表达式
    • 路径案例
  • 谓语(Predicates)
    • 谓语实例
  • 选取未知节点
    • 实例
  • 选取若干路径
    • 实例
  • Xpath轴
  • 功能函数
    • 注意事项:
  • 提取内容

XPath 使用路径表达式来选取 XML 文档中的节点或节点集。节点是通过沿着路径 (path) 或者步 (steps) 来选取的。

路径表达式

表达式 描述
nodename 选取此节点的所有子节点。
/ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
. 选取当前节点。
选取当前节点的父节点。
@ 选取属性。

路径案例

路径表达式 结果
body 选取 body 元素的所有子节点。
/head 选取根元素下head。假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径!
div/a 选取属于 div 的子元素的所有 a 元素。
//a 选取所有 a 子元素,而不管它们在文档中的位置。
div//a 选择属于 div 元素的后代的所有 a 元素,而不管它们位于 bookstore 之下的什么位置。
//@class 选取名为 claa 的所有属性。
./a 选取当前元素下的a
…/a 选取父元素下的a
a/@href 选取a标签的href属性
a/text() 选取a标签下的文本

谓语(Predicates)

谓语用来查找某个特定的节点或者包含某个指定的值的节点。

谓语被嵌在方括号中。

谓语实例

在下面的表格中,我们列出了带有谓语的一些路径表达式,以及表达式的结果:

路径表达式 结果
/body/div[1] 选取属于 body 子元素的第一个 div 元素。
/body/div[last()] 选取属于 body 子元素的最后一个 div 元素。
/body/div[last()-1] 选取属于 body 子元素的倒数第二个 div 元素。
/body/div[position()< 3 ] 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//div[@id] 选取所有拥有名为 id 的属性的 div 元素。
//div[@class=‘eng’] 选取所有 div 元素,且这些元素拥有值为 eng 的 class 属性。
/body/span[size>35.00] 选取 body 元素的所有 span 元素,且其中的 size 元素的值须大于 35.00。
/body/span[size>35.00]/title 选取 body 元素中的 span 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。

选取未知节点

XPath 通配符可用来选取未知的 XML 元素。

通配符 描述
* 匹配任何元素节点。
@* 匹配任何属性节点。
node() 匹配任何类型的节点。

实例

在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:

路径表达式 | 结果
/body/* | 选取 body 元素的所有子元素。
//* |选取文档中的所有元素。
//title[@*] |选取所有带有属性的 title 元素。

选取若干路径

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

实例

在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:

路径表达式 结果
//head/title | //head/price 选取 head 元素的所有 title 和 price 元素。
//title | //price 选取文档中的所有 title 和 price 元素。
/body/book/title | //price 选取属于 body 元素的 book 元素的所有 title 元素,以及文档中所有的 price 元素。

Xpath轴

轴可以定义相对于当前节点的节点集

轴名称 表达式 描述
ancestor ./ancestor::* 选取当前节点的所有先辈节点(父、祖父)
ancestor-or-self ./ancestor-or-self::* 选取当前节点的所有先辈节点以及节点本身
descendant ./descendant::* 返回当前节点的所有后代节点(子节点、孙节点)
child ./child::* 返回当前节点的所有子节点
parent ./parent::* 选取当前节点的父节点
following ./following::* 选取文档中当前节点结束标签后的所有节点
following-sibling ./following-sibling::* 选取当前节点之后的兄弟节点
preceding ./preceding::* 选取文档中当前节点开始标签前的所有节点
preceding-sibling ./preceding-sibling::* 选取当前节点之前的兄弟节点
self ./self::* 选取当前节点
attribute ./attribute::* 选取当前节点的所有属性

功能函数

使用功能函数能够更好的进行模糊搜索

函数 用法 解释
starts-with //div[starts-with(@id,”ma”)] 选取id值以ma开头的div节点
contains //div[contains(@id,”ma”)] 选取所有id值包含ma的div节点
and //div[contains(@id,”ma”) and contains(@id,”in”)] 选取id值包含ma和in的div节点
text() //div[contains(text(),”ma”)] 选取节点文本包含ma的div节点

注意事项:

  1. 按照审查元素的写法不一定正确,要按照网页源码的才行,因为不一样,网页源码才是你看到的
    2.浏览器有自带的复制xpath功能,firefox下载firebug插件
  2. xpath有c的速度,所以按照[@class=""]准确性较高

提取内容

方法 返回
Selector.xpath() 返回SelectorList对象
Selector.css() 返回SelectorList对象
SelectorList.extract() 返回List对象
SelectorList.extract_first(default) 返回String对象,可以有默认值,类似dict.get(key, default)

Scrapy爬虫:XPath语法相关推荐

  1. 爬虫Xpath语法详解

    xpath是定位dom元素非常直观的方法之一,在爬虫中的使用尤其常见. 文章目录 绝对路径和xpath 浏览器自带的xpath工具 xpath语法 常用符号 定位元素 多重定位 多条件组合 获取属性或 ...

  2. Python爬虫xpath语法及案例使用

    Python爬虫之xpath语法及案例使用 ---- 钢铁侠的知识库 2022.08.15 我们在写Python爬虫时,经常需要对网页提取信息,如果用传统正则表达去写会增加很多工作量,此时需要一种对数 ...

  3. Python之网络爬虫(Xpath语法、Scrapy框架的认识)

    文章目录 一.Xpath语法 二.Scrapy框架的认识 一.Xpath语法 xpath是一门在XML文档中查找信息的语言 1. 节点(Node) ​ 元素.属性.文本.命名空间.文档(根)节点 2. ...

  4. python爬虫:scrapy框架xpath和css选择器语法

    Xpath基本语法 一.常用的路径表达式: 表达式 描述 实例 nodename 选取nodename节点的所有子节点 //div / 从根节点选取 /div // 选取所有的节点,不考虑他们的位置 ...

  5. Python爬虫:Xpath语法笔记

    Python爬虫:Xpath语法笔记 一.选取节点 常用的路劲表达式: 表达式 描述 实例   nodename 选取nodename节点的所有子节点 xpath('//div') 选取了div节点的 ...

  6. Python 爬虫利器三之 Xpath 语法与 lxml 库的用法

    原文链接https://cuiqingcai.com/2621.html 前言 前面我们介绍了 BeautifulSoup 的用法,这个已经是非常强大的库了,不过还有一些比较流行的解析库,例如 lxm ...

  7. 爬虫之xpath语法-常用节点选择语法

    爬虫之xpath语法-常用节点选择语法 可以通过通配符来选取未知的html.xml的元素 1.1 选取未知节点的语法 通配符 描述 * 匹配任何元素节点. node() 匹配任何类型的节点. 1.2 ...

  8. 爬虫之xpath语法-节点修饰语法

    爬虫之xpath语法-节点修饰语法 可以根据标签的属性值.下标等来获取特定的节点 1.1 节点修饰语法    [用[ ]方括号修饰标签或节点] 1.2 关于xpath的下标 在xpath中,第一个元素 ...

  9. 爬虫之 lxml模块和xpath语法

    爬虫之 lxml模块和xpath语法 对html或xml形式的文本提取特定的内容,就需要我们掌握lxml模块的使用和xpath语法. lxml模块可以利用XPath规则语法,来快速的定位HTML\XM ...

最新文章

  1. java 创建对象的init_Java的对象实例是什么时候被创建
  2. WPF 4 Ribbon 开发 之 标签工具栏(Tab Toolbar)
  3. Eclipse中输入系统变量和运行参数
  4. 使用PM2搭建在线vue.js开发环境(以守护进程方式热启动)
  5. python 输入数字变成密码_如何在python中检查数字的“密码”
  6. 服务端设置忽略更新_react服务端渲染: cookie如何透传给后端,后端如何设置cookie...
  7. 小程序 背景图 repeat_简单可爱的微信聊天背景图片
  8. python2.7读取csv文件_13.1. csv — CSV 文件读写 — Python 2.7.18 文档
  9. 2021中国科学院文献情报中心期刊分区表 计算机(2)
  10. [C#][原创]Magick.NET使用时一些弱点简介
  11. matlab在矩阵后面添加两行数据_用MATLAB对矩阵每两列求和
  12. 螺旋桨k线是什么意思?底部螺旋桨k线形态特征是什么
  13. 时序数据库 InfluxDB
  14. java apdu读取社保卡_使用javax.smartcardio的用于智能卡的ISO 7816 APDU
  15. [noip2005]篝火晚会
  16. 2015-4-11更新的pdf
  17. “线上围观”创先河 百合佳缘集团移动端上线多屏直播
  18. UTM: 如何注册 SonicWALL 防火墙
  19. iOS开发 ---- 其他控件,弹窗,滑块,菊花,步进,分段等
  20. Python爬虫——下载PPT模板

热门文章

  1. 鸿蒙系统开发实战-开发一个聊天技巧软件堪称聊天神器
  2. 【优化算法】细菌粒子群优化算法【含Matlab源码 1195期】
  3. apk反编译和重新打包流程
  4. 一个时间的小工具_更新倒计时功能
  5. 出差准备攻略(个人备忘录)!
  6. OpenCV4经典案例实战教程 笔记
  7. 阿里云Java学习路线 - Java编程入门 笔记
  8. 酒店计算机管理系统维护合同,酒店计算机管理系统维护合同.pdf
  9. python人工智能课程对孩子的好处_人工智能课堂给中学生带来了什么好处
  10. OpenGL等矩形贴图到立方体环境贴图变换技巧记录