半小时实现Java手撸网络爬虫框架！！（附完整源码，建议收藏）

大家好，我是冰河~~

最近在做一个搜索相关的项目，需要爬取网络上的一些链接存储到索引库中，虽然有很多开源的强大的爬虫框架，但本着学习的态度，自己写了一个简单的网络爬虫，以便了解其中的原理。今天，就为小伙伴们分享下这个简单的爬虫程序！！

小伙伴们如果觉得文章不错，点赞、收藏、评论，分享走一起呀，记得给冰河来个一键三连~~

说干就干，我们开始吧！

首先介绍每个类的功能：

DownloadPage.java的功能是下载此超链接的页面源代码.
FunctionUtils.java 的功能是提供不同的静态方法，包括：页面链接正则表达式匹配,获取URL链接的元素,判断是否创建文件,获取页面的Url并将其转换为规范的Url,截取网页网页源文件的目标内容。
HrefOfPage.java 的功能是获取页面源代码的超链接。
UrlDataHanding.java 的功能是整合各个给类，实现url到获取数据到数据处理类。
UrlQueue.java 的未访问Url队列。
VisitedUrlQueue.java 已访问过的URL队列。

下面介绍一下每个类的源代码：

DownloadPage.java 此类要用到HttpClient组件。

package com.sreach.spider;import java.io.IOException;
import org.apache.http.HttpEntity;
import org.apache.http.HttpResponse;
import org.apache.http.client.ClientProtocolException;
import org.apache.http.client.HttpClient;
import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.DefaultHttpClient;
import org.apache.http.util.EntityUtils;/*** @author binghe*/
public class DownloadPage {/*** 根据URL抓取网页内容* * @param url* @return*/public static String getContentFormUrl(String url) {/* 实例化一个HttpClient客户端 */HttpClient client = new DefaultHttpClient();HttpGet getHttp = new HttpGet(url);String content = null;HttpResponse response;try {/* 获得信息载体 */response = client.execute(getHttp);HttpEntity entity = response.getEntity();VisitedUrlQueue.addElem(url);if (entity != null) {/* 转化为文本信息 */content = EntityUtils.toString(entity);/* 判断是否符合下载网页源代码到本地的条件 */if (FunctionUtils.isCreateFile(url)&& FunctionUtils.isHasGoalContent(content) != -1) {FunctionUtils.createFile(FunctionUtils.getGoalContent(content), url);}}} catch (ClientProtocolException e) {e.printStackTrace();} catch (IOException e) {e.printStackTrace();} finally {client.getConnectionManager().shutdown();}return content;}}

FunctionUtils.java 此类的方法均为static方法

package com.sreach.spider;import java.io.BufferedWriter;
import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.io.OutputStreamWriter;
import java.util.regex.Matcher;
import java.util.regex.Pattern;
/*** @author binghe*/
public class FunctionUtils {/*** 匹配超链接的正则表达式*/private static String pat = "http://www\\.oschina\\.net/code/explore/.*/\\w+\\.[a-zA-Z]+";private static Pattern pattern = Pattern.compile(pat);private static BufferedWriter writer = null;/*** 爬虫搜索深度*/public static int depth = 0;/*** 以"/"来分割URL,获得超链接的元素* * @param url* @return*/public static String[] divUrl(String url) {return url.split("/");}/*** 判断是否创建文件* * @param url* @return*/public static boolean isCreateFile(String url) {Matcher matcher = pattern.matcher(url);return matcher.matches();}/*** 创建对应文件* * @param content* @param urlPath*/public static void createFile(String content, String urlPath) {/* 分割url */String[] elems = divUrl(urlPath);StringBuffer path = new StringBuffer();File file = null;for (int i = 1; i < elems.length; i++) {if (i != elems.length - 1) {path.append(elems[i]);path.append(File.separator);file = new File("D:" + File.separator + path.toString());}if (i == elems.length - 1) {Pattern pattern = Pattern.compile("\\w+\\.[a-zA-Z]+");Matcher matcher = pattern.matcher(elems[i]);if ((matcher.matches())) {if (!file.exists()) {file.mkdirs();}String[] fileName = elems[i].split("\\.");file = new File("D:" + File.separator + path.toString()+ File.separator + fileName[0] + ".txt");try {file.createNewFile();writer = new BufferedWriter(new OutputStreamWriter(new FileOutputStream(file)));writer.write(content);writer.flush();writer.close();System.out.println("创建文件成功");} catch (IOException e) {e.printStackTrace();}}}}}/*** 获取页面的超链接并将其转换为正式的A标签* * @param href* @return*/public static String getHrefOfInOut(String href) {/* 内外部链接最终转化为完整的链接格式 */String resultHref = null;/* 判断是否为外部链接 */if (href.startsWith("http://")) {resultHref = href;} else {/* 如果是内部链接,则补充完整的链接地址,其他的格式忽略不处理,如：a href="#" */if (href.startsWith("/")) {resultHref = "http://www.oschina.net" + href;}}return resultHref;}/*** 截取网页网页源文件的目标内容* * @param content* @return*/public static String getGoalContent(String content) {int sign = content.indexOf("<pre class=\"");String signContent = content.substring(sign);int start = signContent.indexOf(">");int end = signContent.indexOf("</pre>");return signContent.substring(start + 1, end);}/*** 检查网页源文件中是否有目标文件* * @param content* @return*/public static int isHasGoalContent(String content) {return content.indexOf("<pre class=\"");}}

HrefOfPage.java 此类为获取页面的超链接

package com.sreach.spider;
/*** @author binghe**/
public class HrefOfPage {/*** 获得页面源代码中超链接*/public static void getHrefOfContent(String content) {System.out.println("开始");String[] contents = content.split("<a href=\"");for (int i = 1; i < contents.length; i++) {int endHref = contents[i].indexOf("\"");String aHref = FunctionUtils.getHrefOfInOut(contents[i].substring(0, endHref));if (aHref != null) {String href = FunctionUtils.getHrefOfInOut(aHref);if (!UrlQueue.isContains(href)&& href.indexOf("/code/explore") != -1&& !VisitedUrlQueue.isContains(href)) {UrlQueue.addElem(href);}}}System.out.println(UrlQueue.size() + "--抓取到的连接数");System.out.println(VisitedUrlQueue.size() + "--已处理的页面数");}}

UrlDataHanding.java 此类主要是从未访问队列中获取url,下载页面，分析url，保存已访问url等操作，实现Runnable接口

package com.sreach.spider;
/*** @author binghe**/
public class UrlDataHanding implements Runnable {/*** 下载对应页面并分析出页面对应的URL放在未访问队列中。* * @param url*/public void dataHanding(String url) {HrefOfPage.getHrefOfContent(DownloadPage.getContentFormUrl(url));}public void run() {while (!UrlQueue.isEmpty()) {dataHanding(UrlQueue.outElem());}}
}

UrlQueue.java 此类主要是用来存放未访问的URL队列

package com.sreach.spider;import java.util.LinkedList;
/*** @author binghe**/
public class UrlQueue {/** 超链接队列 */public static LinkedList<String> urlQueue = new LinkedList<String>();/** 队列中对应最多的超链接数量 */public static final int MAX_SIZE = 10000;public synchronized static void addElem(String url) {urlQueue.add(url);}public synchronized static String outElem() {return urlQueue.removeFirst();}public synchronized static boolean isEmpty() {return urlQueue.isEmpty();}public static int size() {return urlQueue.size();}public static boolean isContains(String url) {return urlQueue.contains(url);}}

VisitedUrlQueue.java 主要是保存已访问过的URL，使用HashSet来保存，主要是考虑到每个访问过的URL是不同。HashSet刚好符合这个要求

package com.sreach.spider;import java.util.HashSet;/*** 已访问url队列* @author binghe* */
public class VisitedUrlQueue {public static HashSet<String> visitedUrlQueue = new HashSet<String>();public synchronized static void addElem(String url) {visitedUrlQueue.add(url);}public synchronized static boolean isContains(String url) {return visitedUrlQueue.contains(url);}public synchronized static int size() {return visitedUrlQueue.size();}
}

Test.java 此类为测试类

import java.sql.SQLException;import com.sreach.spider.UrlDataHanding;
import com.sreach.spider.UrlQueue;
/*** @author binghe**/
public class Test {public static void main(String[] args) throws SQLException {String url = "http://www.oschina.net/code/explore/achartengine/client/AndroidManifest.xml";String url1 = "http://www.oschina.net/code/explore";String url2 = "http://www.oschina.net/code/explore/achartengine";String url3 = "http://www.oschina.net/code/explore/achartengine/client";UrlQueue.addElem(url);UrlQueue.addElem(url1);UrlQueue.addElem(url2);UrlQueue.addElem(url3);UrlDataHanding[] url_Handings = new UrlDataHanding[10];for (int i = 0; i < 10; i++) {url_Handings[i] = new UrlDataHanding();new Thread(url_Handings[i]).start();}}
}

说明一下：由于我抓取的是针对oschina的，所以里面的url正则表达式不适合其他网站，需要自己修改一下。你也可以写成xml来配置。

写在最后

如果你想进大厂，想升职加薪，或者对自己现有的工作比较迷茫，都可以私信我交流，希望我的一些经历能够帮助到大家~~

推荐阅读：

《三天撸完了MyBatis，各位随便问！！（冰河吐血整理，建议收藏）》
《奉劝那些刚参加工作的学弟学妹们：要想进大厂，这些核心技能是你必须要掌握的！完整学习路线！！（建议收藏）》
《奉劝那些刚参加工作的学弟学妹们：这些计算机与操作系统基础知识越早知道越好！万字长文太顶了！！（建议收藏）》
《我用三天时间开发了一款老少皆宜的国民级游戏，支持播放音乐，现开放完整源代码和注释（建议收藏）！！》
《我是全网最硬核的高并发编程作者，CSDN最值得关注的博主，大家同意吗？（建议收藏）》
《毕业五年，从月薪3000到年薪百万，我掌握了哪些核心技能？（建议收藏）》
《我入侵了隔壁妹子的Wifi，发现。。。（全程实战干货，建议收藏）》
《千万不要轻易尝试“熊猫烧香”，这不，我后悔了！》
《清明节偷偷训练“熊猫烧香”，结果我的电脑为熊猫“献身了”！》
《7.3万字肝爆Java8新特性，我不信你能看完！（建议收藏）》
《在业务高峰期拔掉服务器电源是一种怎样的体验？》
《全网最全Linux命令总结！！（史上最全，建议收藏）》

好了，今天就到这儿吧，小伙伴们点赞、收藏、评论，一键三连走起呀，我是冰河，我们下期见~~

半小时实现Java手撸网络爬虫框架！！（附完整源码，建议收藏）相关推荐

C++ semi implicit euler半隐式向后欧拉法解算常微分方程(附完整源码)
C++semi implicit euler半隐式向后欧拉法解算常微分方程 C++semi implicit euler半隐式向后欧拉法解算常微分方程完整源码(定义,实现,main函数测试) C++s ...
半小时实现Java手撸Http协议，爽！！（附完整源码，建议收藏）
大家好,我是冰河~~ 很多小伙伴跟我说,学习网络太难了,怎么办?其实很多技术都是相通的,只要你理解了技术的本质,你自己都可以实现它.这不,冰河就趁着周末,只用了几个Java类就简单的实现了Http协议 ...
java 教室借用管理系统_[内附完整源码和文档] 基于JAVA语言的学生选课信息管理系统...
摘要本系统运用Java面向对象的方法设计而成. 近年来,学生选课系统越来越在高校学生群体中得到普及,其所承担的功能也变得越来越丰富,所起到的作用也变得越来越重要,在被学校学生重视的同时,也意味着它 ...
JAVA:实现求StandardDeviation标准差算法(附完整源码)
JAVA:实现求StandardDeviation标准差算法 package com.thealgorithms.maths;public class StandardDeviation {publi ...
Java:实现lz4格式解压缩算法（附完整源码）
Java:实现lz4格式解压缩算法 public static byte[] compress(byte srcBytes[]) throws IOException {LZ4Factory fac ...
JAVA:实现二进制转八进制算法(附完整源码)
JAVA:实现二进制转八进制算法 package com.thealgorithms.conversions;import java.util.Scanner;public class BinaryT ...
JAVA:实现十进制转二进制算法(附完整源码)
JAVA:实现十进制转二进制算法 package com.thealgorithms.conversions;import java.util.Scanner;/*** This class conv ...
JAVA:实现XXTea加解密算法(附完整源码)
JAVA:实现XXTea加解密算法 public class XXTEAprivate XXTEA() {}public static byte[] encrypt(byte[] data, byte
Java:实现ReadFile读文件算法（附完整源码）
Java:实现ReadFile读文件算法 package com.crossoverjie.actual;import com.google.common.io.Files; import org.s ...
JAVA:实现Luhn卢恩算法(附完整源码)
JAVA:实现Luhn卢恩算法 package com.thealgorithms.others;import java.util.Arrays; import java.util.Objects;p ...

半小时实现Java手撸网络爬虫框架！！（附完整源码，建议收藏）

写在最后

半小时实现Java手撸网络爬虫框架！！（附完整源码，建议收藏）相关推荐

最新文章

热门文章