html select选择事件_用 Java 拿下 HTML,分分钟写个小爬虫
本文适合有 Java 基础知识的人群
本文作者:HelloGitHub-秦人
HelloGitHub 推出的《讲解开源项目》系列,今天给大家带来一款开源 Java 版一款网页元素解析框架——jsoup,通过程序自动获取网页数据。
项目源码地址:https://github.com/jhy/jsoup
一、项目介绍
jsoup 是一款 Java 的 HTML 解析器。可直接解析某个 URL 地址的 HTML 文本内容。它提供了一套很省力的 API,可通过 DOM、CSS 以及类似于 jQuery 选择器的操作方法来取出和操作数据。
jsoup 主要功能:
- 从一个 URL、文件或字符串中解析 HTML。
- 使用 DOM 或 CSS 选择器来查找、取出数据。
- 可操作 HTML 元素、属性、文本。
二、使用框架
2.1 准备工作
- 掌握 HTML 语法
- Chrome 浏览器调试技巧
- 掌握开发工具 idea 的基本操作
2.2 学习源码
将项目导入 idea 开发工具,会自动下载 maven 项目需要的依赖。源码的项目结构如下:
快速学习源码是每个程序员必备的技能,我总结了以下几点:
- 阅读项目
ReadMe
文件,可以快速知道项目是做什么的。 - 概览项目
pom.xml
文件,了解项目引用了哪些依赖。 - 查看项目结构、源码目录、测试用例目录,好的项目结构清晰,层次明确。
- 运行测试用例,快速体验项目。
2.3 下载项目
git clone https://github.com/jhy/jsoup
2.4 运行项目测试代码
通过上面的方法,我们很快可知 example
目录是测试代码,那我们直接来运行。注:有些测试代码需要稍微改造一下才可以运行。
例如,jsoup 的 Wikipedia 测试代码:
public class Wikipedia {public static void main(String[] args) throws IOException {Document doc = Jsoup.connect("http://en.wikipedia.org/").get();log(doc.title());Elements newsHeadlines = doc.select("#mp-itn b a");for (Element headline : newsHeadlines) {log("%snt%s", headline.attr("title"), headline.absUrl("href"));}}private static void log(String msg, String... vals) {System.out.println(String.format(msg, vals));}
}
说明:上面代码是获取页面(http://en.wikipedia.org/)包含(#mp-itn b a)选择器的所有元素,并打印这些元素的 title
, herf
属性。 维基百科
国内无法访问,所以上面这段代码运行会报错。
改造后可运行的代码如下:
public static void main(String[] args) throws IOException {Document doc = Jsoup.connect("https://www.baidu.com/").get();Elements newsHeadlines = doc.select("a[href]");for (Element headline : newsHeadlines) {System.out.println("href: " +headline.absUrl("href") );}
}
三、工作原理
Jsoup 的工作原理,首先需要指定一个 URL,框架发送 HTTP 请求,然后获取响应页面内容,然后通过各种选择器获取页面数据。整个工作流程如下图:
以上面例子为例:
3.1 发请求
Document doc = Jsoup.connect("https://www.baidu.com/").get();
这行代码就是发送 HTTP 请求,并获取页面响应数据。
3.2 数据筛选
Elements newsHeadlines = doc.select("a[href]");
定义选择器,获取匹配选择器的数据。
3.3 数据处理
for (Element headline : newsHeadlines) {System.out.println("href: " +headline.absUrl("href") );}
这里对数据只做了一个简单的数据打印,当然这些数据可写入文件或数据的。
四、实战
获取豆瓣读书 -> 新书速递中每本新书的基本信息。包括:书名、书图片链接、作者、内容简介(详情页面)、作者简介(详情页面)、当当网书的价格(详情页面),最后将获取的数据保存到 Excel 文件。
目标链接:https://book.douban.com/latest?icn=index-latestbook-all
4.1 项目 pom.xml 文件
项目引入 jsoup、lombok、easyexcel 三个库。
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>org.example</groupId><artifactId>JsoupTest</artifactId><version>1.0-SNAPSHOT</version><properties><maven.compiler.target>1.8</maven.compiler.target><maven.compiler.source>1.8</maven.compiler.source></properties><dependencies><dependency><groupId>org.jsoup</groupId><artifactId>jsoup</artifactId><version>1.13.1</version></dependency><dependency><groupId>org.projectlombok</groupId><artifactId>lombok</artifactId><version>1.18.12</version></dependency><dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>2.2.6</version></dependency></dependencies>
</project>
4.2 解析页面数据
public class BookInfoUtils {public static List<BookEntity> getBookInfoList(String url) throws IOException {List<BookEntity> bookEntities=new ArrayList<>();Document doc = Jsoup.connect(url).get();Elements liDiv = doc.select("#content > div > div.article > ul > li");for (Element li : liDiv) {Elements urls = li.select("a[href]");Elements imgUrl = li.select("a > img");Elements bookName = li.select(" div > h2 > a");Elements starsCount = li.select(" div > p.rating > span.font-small.color-lightgray");Elements author = li.select("div > p.color-gray");Elements description = li.select(" div > p.detail");String bookDetailUrl = urls.get(0).attr("href");BookDetailInfo detailInfo = getDetailInfo(bookDetailUrl);BookEntity bookEntity = BookEntity.builder().detailPageUrl(bookDetailUrl).bookImgUrl(imgUrl.attr("src")).bookName(bookName.html()).starsCount(starsCount.html()).author(author.text()).bookDetailInfo(detailInfo).description(description.html()).build();
// System.out.println(bookEntity);bookEntities.add(bookEntity);}return bookEntities;}/**** @param detailUrl* @return* @throws IOException*/public static BookDetailInfo getDetailInfo(String detailUrl)throws IOException{Document doc = Jsoup.connect(detailUrl).get();Elements content = doc.select("body");Elements price = content.select("#buyinfo-printed > ul.bs.current-version-list > li:nth-child(2) > div.cell.price-btn-wrapper > div.cell.impression_track_mod_buyinfo > div.cell.price-wrapper > a > span");Elements author = content.select("#info > span:nth-child(1) > a");BookDetailInfo bookDetailInfo = BookDetailInfo.builder().author(author.html()).authorUrl(author.attr("href")).price(price.html()).build();return bookDetailInfo;}
}
这里的重点是要获取网页对应元素的选择器。
例如:获取 li.select("div > p.color-gray")
中 div > p.color-gray
是怎么知道的。
使用 chrome
的小伙伴应该都猜到了。打开 chrome
浏览器 Debug
模式,Ctrl + Shift +C
选择一个元素,然后在 html
右键选择 Copy
->Copy selector
,这样就可以获取当前元素的选择器
。如下图:
4.3 存储数据到 Excel
为了数据更好查看,我将通过 jsoup 抓取的数据存储的 Excel 文件,这里我使用的 easyexcel 快速生成 Excel 文件。
Excel 表头信息
@Data
@Builder
public class ColumnData {@ExcelProperty("书名称")private String bookName;@ExcelProperty("评分")private String starsCount;@ExcelProperty("作者")private String author;@ExcelProperty("封面图片")private String bookImgUrl;@ExcelProperty("简介")private String description;@ExcelProperty("单价")private String price;
}
生成 Excel 文件
public class EasyExcelUtils {public static void simpleWrite(List<BookEntity> bookEntityList) {String fileName = "D:devEnvJsoupTestbookList" + System.currentTimeMillis() + ".xlsx";EasyExcel.write(fileName, ColumnData.class).sheet("书本详情").doWrite(data(bookEntityList));System.out.println("excel文件生成完毕...");}private static List<ColumnData> data(List<BookEntity> bookEntityList) {List<ColumnData> list = new ArrayList<>();bookEntityList.forEach(b -> {ColumnData data = ColumnData.builder().bookName(b.getBookName()).starsCount(b.getStarsCount()).author(b.getBookDetailInfo().getAuthor()).bookImgUrl(b.getBookImgUrl()).description(b.getDescription()).price(b.getBookDetailInfo().getPrice()).build();list.add(data);});return list;}
}
4.4 最终展示效果
最终的效果如下图:
以上就是从想法到实践,我们就在实战中使用了 jsoup 的基本操作。
完整代码地址:https://github.com/hellowHuaairen/JsoupTest
五、最后
Java HTML Parser 库:jsoup 当成简单的爬虫,用起来还是很方便的吧?
为什么会讲爬虫?大数据,人工智能时代玩的就是数据,数据很重要。作为懂点技术的我们,也需要掌握一种获取网络数据的技能。当然也有一些工具 Fiddler、webscraper 等也可以抓取你想要的数据。
教程至此,你应该也能对 jsoup 有一些感觉了吧。编程是不是也特别有意思呢?参考我上面的实战案例,有好多网站可以实践一下啦~欢迎在评论区晒你的实战。
六、参考资料
- 官方文档
- easyexcel文档
html select选择事件_用 Java 拿下 HTML,分分钟写个小爬虫相关推荐
- html select选择事件_用 Java 拿下 HTML 分分钟写个小爬虫
本文适合有 Java 基础知识的人群 本文作者:HelloGitHub-秦人 HelloGitHub 推出的<讲解开源项目>系列,今天给大家带来一款开源 Java 版一款网页元素解析框架- ...
- html select选择事件_按键精灵的Html系列命令实战讲解
金猪脚本(原飞猪脚本)以按键精灵教学为主,涉及UiBot,Python,Lua等脚本编程语言,教学包括全自动办公脚本,游戏辅助脚本,引流脚本,网页脚本,安卓脚本,IOS脚本,注册脚本,点赞脚本,阅读脚 ...
- html select选择事件_一道搜狗面试题:IO多路复用中select、poll、epoll之间的区别...
(1)select==>时间复杂度O(n) 它仅仅知道了,有I/O事件发生了,却并不知道是哪那几个流(可能有一个,多个,甚至全部),我们只能无差别轮询所有流,找出能读出数据,或者写入数据的流,对 ...
- 用 Java 拿下 HTML,分分钟写个小爬虫!
作者 | HelloGitHub-秦人 来源 | HelloGitHub(ID:GitHub520) HelloGitHub 推出的<讲解开源项目>系列,今天给大家带来一款开源 Java ...
- java答题小程序代码_学习java第四天写的小程序
代码如下: /** *作用:制作一个石头剪刀布的游戏 *作者:李林雄 */ import java.util.Scanner; public class Test6Game{ public stati ...
- 手机版python3h如何自制游戏_教你如何用 Python 写一个小游戏
教你如何用 Python 写一个小游戏 引言 最近 python 语言大火, 除了在科学计算领域 python 有用武之地之外, 在游戏后台等方面, python 也大放异彩, 本篇博文将按照正规的项 ...
- java头像选择系统_安卓Java源程序 带选择头像功能的用户注册 使用Intent回传数据...
本帖最后由 dori 于 2020-12-18 23:12 编辑 完成带选择头像功能的用户注册应用程序开发. 图1 图2 图3 MainActivity.java文件:import androidx. ...
- java jtable 监听事件_【Java】在JTable中设置鼠标监听器,点击操作对应数据
最终效果 鼠标点击JTable中任一数据,修改相应的信息. 确定点击的行和列 package com.dao; import java.awt.event.MouseAdapter; import j ...
- java监听焦点事件_【Java Swing公开课|Java Swing焦点事件监听器怎么用,看完这篇文章你一定就会了】- 环球网校...
[摘要]作为一门面向对象编程语言,Java吸收了C++语言的优点,也展现了其强大的一面,我们能在各个地方看到其功能强大和简单易用的两个特征,当然,也吸引了很多程序员的注意力,所以就有人想了解Java的 ...
最新文章
- 交换机端口隔离技术应用
- 前端登陆加密和后端解密
- PEP 0498 -- Literal String Interpolation 翻译(未完待续)
- [IOI2008]Island
- 微信小程序 - 实现购物车结算
- c++怎么输入带有空格的字符串_杭电OJ 字符串处理类部分题解
- 允许服务与桌面交互_vivo 正式推出 Origin OS,融合自然设计与全新交互
- 安卓逆向系列教程 4.6 去广告
- Java中如何循环删除一个集合(如List)中的多个元素
- Vim中的remap,noremap,nnoremap和vnoremap映射命令有什么区别?
- ubuntu 强制结束 pycharm
- html5+JS调用摄像头示例
- Win7怎么进入注册表(regedit)
- c语言2的n次方太大了,计算2的N次方........有什么错吗?
- 优漫动游做平面设计用什么显卡好?
- 阿里品牌数据品牌银行分析师认证真题资料库整理答案
- 【Spark Streaming】(四)基于 Spark Structured Streaming 的开发与数据处理
- Hostwinds教程:如何使用Hostwinds注册域名?
- NBA表格_NBA球星大排位16—季后赛荣誉汇总
- 中电资讯-银保监会提示防范“元宇宙”风险
热门文章
- ELK学习8_ELK数据流传输过程_问题总结1
- Linux的僵尸进程产生原因及解决方法
- Go的结构体对接受者函数的传递
- c语言输出参数是out,关于C语言中的输出输入流
- MySQL MyISAM和InnoDB存储引擎的比较
- 国内下载erlang链接
- java 解析二进制_java实现解析二进制文件(字符串、图片)
- jar 反编译_Java加密jar包流程
- 遍历字符串的每个字符python_Python之字符串的遍历的4种方式
- c++求平均值_云顶之弈S4:六射手娱乐吃鸡!人均刮痧王,每个人都是主C