【背景】

  在上一篇博文 java爬取网页内容 简单例子(1)——使用正则表达式 里面,介绍了如何使用正则表达式去解析网页的内容,虽然该正则表达式比较通用,但繁琐,代码量多,现实中想要想出一条简单的正则表达式 对于没有很好正则表达式基础的人——比如说我T_T——是一件蛮困难的事。这一篇,我们改用jsoup,一个强大的解析html工具,去解析html,你会发现,一切都变得很容易。

【准备工作】

下载:jsoup-1.6.1.jar

【先看效果】

目标网站:中国天气

目的:获取今天的天气

目标HTML代码:

<li class="dn on" data-dn="7d1"><h1>今天</h1><h2>8日</h2><big class="jpg50 d04"></big><big class="jpg50 n04"></big>    <p class="wea" title="雷阵雨">雷阵雨</p><p class="tem tem1"> <span>33</span><i>°C</i> </p><p class="tem tem2"> <span>25</span><i>°C</i> </p><p class="win"><em><span title="无持续风向" class=""></span><span title="无持续风向" class=""></span></em><i>微风</i></p><div class="slid"></div>
</li>

View Code

解析的java代码:

(1)审查网页元素后发现,我们要的内容在上面的目标HTML代码中,在整个网页中是在 class="dn on" data-dn="7d1" 的<li>中

(2)“今天” 两字在<h1></h1>中

(3)“8日” 两字在<h2></h2>中

(4)“雷阵雨” 三字在 class="wea" 中

(5)“33” 在第一个<span>中

(6)“25” 在第二个<span>中

(7)“微风” 两字在 第三个<i> 中

有了上面的分析,要获取到这些天气内容就易如反掌了。如下java代码:

 1 package com.zjm.www.test;
 2
 3 import java.io.IOException;
 4
 5 import org.jsoup.Jsoup;
 6 import org.jsoup.nodes.Document;
 7 import org.jsoup.select.Elements;
 8
 9 public class TestJsoup {
10
11     public  Document getDocument (String url){
12         try {
13             return Jsoup.connect(url).get();
14         } catch (IOException e) {
15             e.printStackTrace();
16         }
17         return null;
18     }
19
20     public static void main(String[] args) {
21         TestJsoup t = new TestJsoup();
22         Document doc = t.getDocument("http://www.weather.com.cn/html/weather/101280101.shtml");
23         // 获取目标HTML代码
24         Elements elements1 = doc.select("[class=dn on][data-dn=7d1]");
25         // 今天
26         Elements elements2 = elements1.select("h1");
27         String today = elements2.get(0).text();
28         System.out.println(today);
29         // 几号
30         Elements elements3 = elements1.select("h2");
31         String number = elements3.get(0).text();
32         System.out.println(number);
33         // 是否有雨
34         Elements elements4 = elements1.select("[class=wea]");
35         String rain = elements4.get(0).text();
36         System.out.println(rain);
37         // 高的温度
38         Elements elements5 = elements1.select("span");
39         String highTemperature = elements5.get(0).text()+"°C";
40         System.out.println(highTemperature);
41         // 低的温度
42         String lowTemperature = elements5.get(1).text()+"°C";
43         System.out.println(lowTemperature);
44         // 风力
45         Elements elements6 = elements1.select("i");
46         String wind = elements6.get(2).text();
47         System.out.println(wind);
48     }
49 }

View Code

结果打印出:

1 今天
2 8日
3 雷阵雨
4 33°C
5 25°C
6 微风

【详解】

附:

  • jsoup的官方中文文档为:http://www.open-open.com/
  • API为:http://jsoup.org/apidocs/

java代码第13行:

  从文档中我们可用看出,获取数据源的方法有三:

(1)从一段html代码字符串获取:  Document doc = Jsoup.parse(html);

(2)从一个url获取:        Document doc = Jsoup.connect("http://example.com/").get();

(3)从一个html文件获取      File input = new File("/tmp/input.html");    Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");

这里,我们采取了第二种方法,从url中获取。

java代码第24、26、30、34、38行:

  Document 继承自 Element 类, 而Element类有一个很好的方法,叫select , 这个选择器几乎无所不能。快速从一堆html代码中获取我们想要的一段,我觉得使用select最方便。下面我们来看怎么使用select方法来查找。

注:以下表格的结果都是使用以下语句打印出来的

for(Element e : elements) {System.out.println(e.text());}

select详解
描述 测试的HTML代码 select写法

结果

通过

标签名

来查找

<span>33</span>
<span>25</span>

Elements elements = doc.select("span");

注:通过标签来查找,直接写 "标签名" 就好,不需要尖括号。

33
25

通过

id 

来查找

<span  id=\"mySpan\">36</span><span>20</span>

Elements elements = doc.select("#mySpan");

注:通过id来查找,使用方法跟css指定元素一样,用#

36

通过

class名

 来查找

<span class=\"myClass\">36</span><span>20</span>

Elements elements = doc.select(".myClass");

注:通过id来查找,使用方法跟css指定元素一样,用

36

利用标签内

属性名

 查找元素

<span class=\"class1\" id=\"id1\">36</span><span class=\"class2\" id=\"id2\">36</span>

Elements elements = doc.select("span[class=class1]span[id=id1]");

注:规则为 标签名【属性名=属性值】,标签名可写可不写,多个属性即多个【】,如上。

36

利用标签内

属性名前缀 

查找元素

<span class=\"class1\" >36</span>
<span class=\"class2\" >22</span>

Elements elements = doc.select("span[^cl]");

注:规则为 标签名【^属性名前缀】,标签名可写可不写,多个属性即多个【】。

36
22

利用标签内

属性名+正则表达式

查找元素

<span class=\"ABC\" >36</span>
<span class=\"ADE\" >22</span>

Elements elements = doc.select("span[class~=^AB]");

注:规则为 标签名【属性名~=正则表达式】,以上的正则表达式的意思是查找以class值以AB为开头的标签,标签名可写可不写,多个属性即多个【】

36

利用标签

文本包含某些内容

来查找

<span>36</span>
<span>22</span>

Elements elements = doc.select("span:contains(3)");

注:规则为 标签名:contains(文本值)

36

利用标签

文本包含某些内容+正则表达式

来查找

<span>36</span>
<span>22</span>

Elements elements = doc.select("span:matchesOwn(^3)");

注:规则为 标签名:matchesOwn(正则表达式),以上的正则表式的意思是以文本值以3为开头的标签

36

关于select,还有一些其他的查找方法,以上只列出个人觉得比较好用、常用的语法。

select方法返回的是一个Elements 对象,里面包含着找到的所有节点。遍历Elements ,通过get(index),就可以拿出具体的 节点了。通过节点的text()方法,就可用拿出文本值。

而想得到节点的其他属性,可以看API的介绍。

【结语】

jsoup还有其他强大的功能,在此只介绍其在获取网页特定内容的写法。希望对刚接触jsoup的人有帮助。

如果本文有哪里写得不好或写错,欢迎各位提出来,感激不尽~

转载于:https://www.cnblogs.com/xiaoMzjm/p/3899366.html

java爬取网页内容 简单例子(2)——附jsoup的select用法详解相关推荐

  1. java爬取百度贴吧吧内所有帖子数据(图文详解)

    因为个人需要爬取某个吧内的所有帖子并保存下来,但是无奈不会写python,于是就想到了利用java的jsoup去做爬虫,尝试了多次后终于获取成功,主要遇到的问题还是百度的反爬机制,解决了后,整理一篇文 ...

  2. java metadata 使用_java 查询oracle数据库所有表DatabaseMetaData的用法(详解)

    一 . 得到这个对象的实例 Connection con ; con = DriverManager.getConnection(url,userName,password); DatabaseMet ...

  3. java return返回值_java中关于return返回值的用法详解

    我们输入一个条件时,系统就会对这个条件进行判断,然后给出一个返回时的结论,我们把这个结果看做是返回值.在java里可以使用return语句来进行返回,从字面意思就能很好的理解它的用法了.下面我们就re ...

  4. java爬取论坛信息_Java爬取校内论坛新帖

    Java爬取校内论坛新帖 为了保持消息灵通,博主没事会上上校内论坛看看新帖,作为爬虫爱好者,博主萌生了写个爬虫自动下载的想法. 嗯,这次就选Java. 第三方库准备 Jsoup Jsoup是一款比较好 ...

  5. java爬取国内飞机航班轨迹数据jsoup的探索

    接到一个爬虫项目,java编写的调用jsoup.来调取国内民航的轨迹.第一步,先进行根据飞机所属于的航空公司,然后根据改航空公司爬出所有的的航班号.第二步,根据查询出的航班号进行飞行轨迹的的数据爬去. ...

  6. java回调函数_PHP回调函数及匿名函数概念与用法详解

    1.回调函数 PHP的回调函数其实和C.Java等语言的回调函数的作用是一模一样的,都是在主线程执行的过程中,突然跳去执行设置的回调函数: 回调函数执行完毕之后,再回到主线程处理接下来的流程 而在ph ...

  7. java同步关键字_Java中synchronized关键字修饰方法同步的用法详解

    Java的最基本的同步方式,即使用synchronized关键字来控制一个方法的并发访问. 每一个用synchronized关键字声明的方法都是临界区.在Java中,同一个对象的临界区,在同一时间只有 ...

  8. java正则 环视_Java正则环视和反向引用功能与用法详解

    本文实例讲述了Java正则环视和反向引用功能与用法.分享给大家供大家参考,具体如下: 环视 1.环视概念 环视,又称为零宽断言,简称断言. 环视强调位置(前面或后面),必须匹配环视表达式,才能匹配成功 ...

  9. linux中使用egrep取值ip地址,egrep命令_Linux egrep 命令用法详解:在文件内查找指定的字符串...

    egrep命令用于在文件内查找指定的字符串.egrep执行效果与grep -E相似,使用的语法及参数可参照grep指令,与grep的不同点在于解读字符串的方法.egrep是用extended regu ...

最新文章

  1. PHP关联数组和哈希表(hash table) 未指定
  2. http://blog.csdn.net/luoshengyang/article/details/6651971
  3. 店宝宝电脑版_起名字 测名字神器 电脑安卓全有了
  4. 【XAuido2】播放wav和ogg格式音频文件
  5. c++指针引用导出文件
  6. 详解HTML5中rel属性的prefetch预加载功能使用
  7. 根据运算符优先级解析SQL规则表达式
  8. 如何理解 Python 中的面向对象编程?
  9. jQuery中的live绑定多个事件整理
  10. spring MVC三种统一异常处理的方法
  11. word转PDF-Python编写的插件
  12. lammps学习总结3
  13. php unexpected t_if,zblog提示syntax error, unexpected 'if' (T_IF)出错,模版压缩导致PHP提示代码错误...
  14. 苹果服务器cpu型号怎么看,iphone6s plus怎么查cpu型号 iphone6s plus查询cpu型号方法
  15. 防火墙和代理服务器之间有什么区别
  16. 中国十大1至3岁童车品牌辐轮王土拨鼠世界儿童自行车品牌排行榜
  17. 你不知道的几个牛逼网站,欢迎收藏
  18. 解决黑苹果核显开机屏幕暗等3-5分钟才完全亮的问题
  19. 为双系统 Ubuntu grub启动项中添加Windows启动项
  20. 视觉错觉模型_12种超神奇的视觉错觉图!看完让你无法自拔

热门文章

  1. java_opts gc回收器_JVM之垃圾回收机制(GC)
  2. autorunner测试java代码,AutoRunner自动化测试工具介绍
  3. 这些 Linux 的 “自动化” 技巧,教你轻松完成任务
  4. ChaosBlade x SkyWalking 微服务高可用实践
  5. java如何把查到的对象集合放入 展示对象list中_Java面试整理-基础篇8.集合1
  6. ggplot2设置坐标轴范围_ggplot2画图时出现重合的点以及标签如何处理?有现成的包ggrepel
  7. 用法 the_【课堂】a、an、the的用法
  8. kaldi语音识别实战pdf_语音识别相关工具和资料分享
  9. java 继承 模型_java – 画布形状模型的继承与组合?
  10. ios 设备获取idfa_超4成用户选择升级iOS 14,35%苹果设备已无法获取IDFA