安装文件Win7 配置 Nutch 1.2
PS:今天上午,非常郁闷,有很多简单基础的问题搞得我有些迷茫,哎,代码几天不写就忘。目前又不当COO,还是得用心记代码哦!
Win7境环下置配 nutch-1.2
Step1:安装jdk
Step2:安装tomcat
Step3:安装cygwin
Step4:安装和置配nutch-1.2
Step5:测试nutch-1.2的爬虫功能
Step6:测试nutch-1.2的索检功能
Step1:安装jdk
Jdk的安装路径中不能有文中
Jdk的安装路径中不能有空格
Step2:安装tomcat
网上已经有多许成熟的教程了,不再赘述了。Apache-tomcat官网:http://tomcat.apache.org/
Step3:安装cygwin
Cygwin官网:http://www.cygwin.com/
Cygwin安装文件:http://www.cygwin.com/install.html
Cygwin的详细安装进程没什么好说的,下载在安装文件setup.exe后,就点击“下一步”就OK了。只是醒提:cygwin的安装目录需是磁盘根目录,(尽量是认默置配就OK)。
Step4:安装和置配nutch-1.2
Nutch-1.2的下载接链:http://archive.apache.org/dist/nutch/(选择:apache-nutch-1.2-bin.zip)
下载完成后将其解压到目录:D:\Code\nutch-1.2(可以自定义)
运行step3安装的Cygwin;输入命令将当前目录切换至nutch-1.2目录下;
只要输入cd,然后将nutch-1.2目录拖进cygwin窗口,按下enter。
Nutch-1.2的安装测试,在cygwin窗口输入:bin/nutch。
如果涌现Usage:nutch[-core] COMMAND等一串息信就示表nutch安装胜利。
Step5:测试nutch-1.2的爬虫功能
置设系统变量NUTCH_JAVA_HOME,
它的值就是java的安装目录,例如:C:\Java\jdk1.7.0_17置设要需取抓的网站主名域。
在Nutch-1.2的安装目录下立建一个名为urls的文件夹,并在文件夹下立建url.txt文件,在文件中写入:http://www.sohu.com/(即要取抓网站的网址,注意最后要加斜杠)。置设网站过滤规则。
辑编conf/crawl-urlfilter.txt文件,改修MY.DOMAIN.NAME部份。
将
# accept hosts in MY.DOMAIN.NAME
+^http://([a-z0-9]*\.)*MY.DOMAIN.NAME/
改成:
# accept hosts in MY.DOMAIN.NAME
+^http://([a-z0-9]*\.)*sohu.com/置设代理息信。
辑编conf/nutch-site.xml文件。在<configuration>和</configuration>之间加添如下内容:
<property>
有些冷,有些凉,心中有些无奈,我一个人走在黑夜中,有些颤抖,身体瑟缩着,新也在抖动着,我看不清前方的路,何去何从,感觉迷茫,胸口有些闷,我环视了一下周围,无人的街头显得冷清,感到整个世界都要将我放弃。脚步彷徨之间,泪早已滴下……
<name>http.agent.name</name>
<value>http://www.sohu.com/</value>
</property>
<property>
<name>http.agent.url</name>
<value>http://www.sohu.com/</value>
</property>
<property>
<name>http.robots.agents</name>
<value>http://www.sohu.com/</value>
</property>
置设代理名
辑编nutch-1.2\conf\nutch-default.xml文件,找<name>http.agent.name</name>,然后随意置设Value值。例如:
运行crawl爬虫命令取抓内容
运行cygwin后,
a)首先切换进入nutch-1.2的目录;
b)运行命令:exportLANG=”zh_CN.GBK” (置设linux境环变量)
c)运行命令:bin/nutch crawl urls -dir crawled -depth 4 -threads 3-topN 30
crawl 是nutch索检数据命令,面后跟上要索检的URL文件;
-dir指定取抓内容所放存的目录;
-depth示表以要取抓网站顶级网址为出发点的匍匐深度;
-threads指定发并的线程数;
-topN 取抓时每页的最大取抓接链。
运行结果
nutch-1.2的目录下多了个crawled目录,面下有文件如下:
Step6:测试nutch-1.2的索检功能
主要在Apache-tomcat目录停止作操,以apache-tomcat-7.039为例:
进入apache-tomcat-7.0.39目录,将webapps/root 文件夹重命名或删除。
将nutch-1.2目录下的nutch-1.2.war复制到apache-tomcat-7.0.39\webapps目录下,重并命名为:ROOT.war。
启用apache-tomcat,运行\apache-tomcat-7.0.39\bin\startup.bat
在浏览器中输入http://localhost:8080/;
此时\apache-tomcat-7.0.39\webapps\目录下就会涌现一个ROOT文件夹。
辑编\apache-tomcat-7.0.39\webapps\ROOT\WEB-INF\classes\nutch-site.xml,如下图所示:
红色框就是“step5:测试nutch-1.2的索检功能”中爬虫爬出来的数据文件夹。
决解文中码乱问题,辑编\apache-tomcat-7.0.39\conf\server.xml文件,找到Connector部份,置设为:
<Connectorport="8080"
maxThreads="150"
minSpareThreads="25"
maxSpareThreads="75"
enableLookups="false"
redirectPort="8443"
acceptCount="100"
connectionTimeout="20000"
disableUploadTimeout="true"
URIEncoding="UTF-8"
useBodyEncodingForURI="true"/>
如下图所示:
再次启用apache-tomcat,重新运行\apache-tomcat-7.0.39\bin\startup.bat
在浏览器中输入http://localhost:8080/;结果如图所示:
文章结束给大家分享下程序员的一些笑话语录: 爱情观
爱情就是死循环,一旦执行就陷进去了。
爱上一个人,就是内存泄露--你永远释放不了。
真正爱上一个人的时候,那就是常量限定,永远不会改变。
女朋友就是私有变量,只有我这个类才能调用。
情人就是指针用的时候一定要注意,要不然就带来巨大的灾难。
转载于:https://www.cnblogs.com/xinyuyuanm/archive/2013/05/01/3052969.html
安装文件Win7 配置 Nutch 1.2相关推荐
- ros安装过后怎么找不到安装文件_ros配置乐视奥比中光相机
要点: 1.要下载官方git代码 git clone https://github.com/orbbec/ros_astra_launch.git git clone orbbec/ros_astra ...
- win7怎么配置程序服务器错误日志文件,win7怎么配置程序服务器
win7怎么配置程序服务器 内容精选 换一换 园区智能体服务的边缘算法作业会下发到边缘节点服务器运行,需要在IEF侧注册并纳管边缘节点.园区智能体的算法作业是以容器应用的方式下发到边缘节点运行的,因此 ...
- 命令win7 64安装mysql_Win7 64位安装MySQL及配置使用教程
MySQL是比较好用的个人数据库软件,相比其他数据库软件要易用得多,但然了有不少用户对MySQL的安装.配置和使用可能不是很熟悉,特别是Win7 64位有不少用户老是安装失败,下面一起来看看Win7 ...
- mysql安装教程win7系统64位_Win7 64位安装MySQL及配置使用教程
MySQL是比较好用的个人数据库软件,相比其他数据库软件要易用得多,但然了有不少用户对MySQL的安装.配置和使用可能不是很熟悉,特别是Win7 64位有不少用户老是安装失败,下面一起来看看Win7 ...
- 如何用python和pip安装在txt文件中配置好版本的库包
如何用python和pip安装在txt文件中配置好版本的库包 文章目录: 一.建立库包版本的txt配置文件 二.安装txt配置文件中的库包 有时候你自己用python实现一个项目,然后想把它在gith ...
- Ubuntu - 安装 jdk 、配置 Java 环境变量、编辑 Test.java 文件并输出 Hello World!
先利用的 Xshell 或者 Xftp 把本地下载好的 Linux 版本的 jdk 复制到 Ubuntu 虚拟机下的 /home/zhouk/user/DevTools 目录下 解压:tar -xzv ...
- pycharm python 模板配置_windows下pycharm安装、创建文件、配置默认模板
本文为大家分享了windows下pycharm安装.创建文件.配置默认模板的具体步骤,供大家参考,具体内容如下 步骤: 下包 -->安装-->创建文件-->定制模板 一.下包 官方地 ...
- mysql5.7.20官方文档,MySql 5.7.20安装及data和my.ini文件的配置
1.首先上MySql的官网下载 以我所选版本为例(免安装版),选择MYSQL Community Server 然后在右边选择你所对应的版本 我的是64位 下载相应的zip版本 下载完解压到你想要存放 ...
- linux安装git并配置GitHub账号,本地与GitHub之间进行文件的上传(push)、下载(克隆)、更新
0310 Linux和github交互 参考链接: 安装git并配置GitHub账号: 本地与GitHub之间进行文件的上传(push).下载(克隆).更新 上传 下载 更新: 补充:GitHub的原 ...
最新文章
- 专业|尧德中:脑器交互学,一个发展中的新学科
- Linux CenOS7下安装ActivetMQ
- keil生成hex文件找不到_骚操作!用Python把公众号文章打包成pdf文件,再也不怕找不到了...
- 发放MindMeister内测邀请,仅20
- linux 配置 mysql_linux下mysql配置文件my.cnf最详细解释
- 中国救生浮标市场趋势报告、技术动态创新及市场预测
- 如何批量处理Word中的图片大小
- Robocode教程4——Robocode的游戏物理
- c#_delegate_异步调用_BeginInvoke
- 计算机共享找不到网络连接失败,局域网电脑无法访问共享文件网络共享失败如何解决...
- 叩丁狼培训实战教程之Java的动态代理
- rundll32.exe 用法概述 [转]
- AI算法可帮助因气候变化而流离失所的数百万难民找到新家了!
- 计算机的硬盘如何查看,怎样查看电脑硬盘信息 电脑中的硬盘信息
- 双译记:UCLA朱松纯团队验证机器人任务中可解释性,登Science子刊
- 微新余微信号ivxinyu✅ 冒死偷拍,对所有人都有益,求扩散!!!
- 华为手机不小心点了始终_华为手机有一个设置,用过一次就再也离不开了,你打开了吗?...
- 人类活动识别---数据集UCI-HAR简介
- 『MongoDB』快速安装MongoDB运行环境
- 微距摄影,如何用单反相机拍好昆虫照片
热门文章
- 高手新手都能用的140个电脑技巧
- 前端面试大全(JavaScript篇——面试利器值得拥有!)
- @所有打工人,鹅厂AI让脱发“真凶”首次现原形
- WORD几个自己常用的自定义键盘快捷键对应命令名(自我查阅使用)
- oracle impdp导入full,使用数据泵impdp导入数据
- 【微信小程序】全局样式文件app.wxss、页面的根元素page、 app.json中的window配置项
- 【无标题】诗歌:人生格言
- Linux中tomcat部署war包
- TVM(端到端深度学习编译器)简介
- H5+CSS3玩转骰子