Windows下Hadoop的环境安装[转]
1.下载并安装Cygwin,记得cygwin安装中要把SSH选择上,因为后面Hadoop会用到,不详述cygwin的安装过程.我是安装在D:\cygwin下
2.配置系统环境变量
在windows命令行中输入unix命令,可以执行则说明cygwin和环境变量配置成功.
3.打开D:\cygwin\Cygwin.bat,配置ssh,执行命令ssh-host-config
因为我已经配置过,并用ssh服务已经启动,所以报错了,你们在配置的时候一路YES即可,有兴趣的也可以看一下英文说明,都配置了哪些东东.
当看到"HAVE FUN"则表明配置成功.
这时候会在你的系统上增加一个SSH服务,启动之
4.配置生成RSA密钥对,使SSH可以无密码登陆,以方便后面Hadoop的启动
在cygwin的控制台中输入ssh localhost,这时候输入密码(当前windows登陆用户密码)按理说应该可以登进去.在此我纠结了很久,明明密码是对的,却怎么也登不了.这时要创建用户组与密码.
在cygwin的控制台中输入如下命令:
mkpasswd –cl > /etc/passwd
mkgroup --local > /etc/group
OK,现在可以生成RSA密钥对实现密码登陆了
cygwin的控制台中
1)输入"ssh-keygen"全部直接回车
2)"cd ~/.ssh"
此时应该有以上两个文件,id_rsa.pub即是公钥
3)"cp id_rsa.pub authorized_keys" authorized_keys是SSH登陆时候自动去取的公钥文件,当与id_rsa匹配时就可以无密码登陆.
4)"ssh localhost"已经不用密码了
-----------------------------------------------到此cygwin及SSH配置完成---割一下-----------------------------------------
5.解压hadoop-1.0.3.tar.gz到D:\hadoop\run,目录可以自己安排
以下要修改若干配置,兄弟们淡定
1)D:\hadoop\run\conf\hadoop-env.sh文件中配置 "export JAVA_HOME=D:/bea/jdk160_05" JDK为自己机器上JDK地址,记得要把这句话前面的"#"去掉
2)将D:\hadoop\run\src\core\core-defult.xml复制为D:\hadoop\run\conf\core-site.xml并替换原来文件
<property> |
修改红色部分,格式为hdfs://机器名:端口.此为HDFS的端口,可自行配置,但不要和已有端口冲突
3)将D:\hadoop\run\src\hdfs-defult.xml复制为D:\hadoop\run\conf\hdfs-site.xml并替换原来文件,无修改
4)将D:\hadoop\run\src\mapred-defult.xml复制为D:\hadoop\run\conf\mapred-site.xml并替换原来文件
<property> |
修改红色部分,可自行配置,但不要和已有端口冲突
6.Cygwin下进入hadoop的bin目录,执行./hadoop namenode -format 初始化HDFS
start-all.sh启动hadoop
stop-all.sh关闭hadoop
7.执行jps及./hadoop fs -ls /
成功则说明hadoop启动成功
------------------------------------------hadoop配置完成-------------------继续割------------------------
8.现在开始将myeclipse与hadoop结合起来,以方便以后的开发调试
我用的myeclipse版本为6.6,记得myeclipse要运行在jre1.6环境下,不然hadoop插件会报错.
如果你的myeclipse不是在1.6下运行,则将1.6的JRE复制并替换D:\Program Files\MyEclipse 6.6\jre即可
9.我使用的hadoop是1.0.3,所以我用的插件是hadoop-eclipse-plugin-1.0.3.jar.
检查hadoop-eclipse-plugin-1.0.3.jar的lib中是否有如图的jar包,如果没有则到D:\hadoop\run\lib下将相应的jar包复制过来
并且修改MANIFEST.MF文件,Bundle-ClassPath:下增加相应的jar包,例如:
Bundle-ClassPath: classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-httpclient-3.0.1.jar,lib/jackson-core-asl-1.8.8.jar,lib/jackson-mapper-asl-1.8.8.jar,lib/commons-configuration-1.6.jar,lib/commons-lang-2.4.jar
检查无误后将此jar包复制到D:\Program Files\MyEclipse 6.6\eclipse\plugins下,重启myeclipse
10.进入首选项配置hadoop安装目录
进入window中打开Perspective并打开Map/Reduce
新增hadoop location
配置如图
此时可以访问HDFS则说明配置成功
--------------------------------------------over------------------------------------------------------------
Windows下Hadoop的环境安装[转]相关推荐
- Windows下R语言环境安装
Windows下R语言环境安装 R官网: https://www.r-project.org/ 按照如下步骤下载windows中的安装文件R-4.1.0-win.exe 文件已经下载完成:R-4.1. ...
- WINDOWS下Php学习环境安装
在windows下安装PHP学习环境最为简便的方法是通过XAMPP集成环境来安装PHP与MYSQL环境.在安装完XAMPP后要对服务的端口进行设置. 打开XAMPP主界面后,可以看到有apache.m ...
- 迅雷U享php文件怎么打开,windows下php运行环境安装配置
前言:因为都是基础的东西所以大神请绕道! 一.软件准备 以下地址仅供参考 apache http://www.duote.com/downsite/993.html mysql http://xia ...
- windows下使用winpcap-1.环境安装
winpcap是 Windows下一个能忽略操作系统直接工作在网络上的工具,为什么要使用呢,因为在WindowsXP以后,因为权限的问题,有些东西我们不能直接使用,例如,我会在接下来的文章里说的实现端 ...
- windows 下xampp集成环境安装mongodb扩展
http://www.thegeekstuff.com/2015/10/php-mongodb-for-xampp 见这文章,写的很详细. 1.打开PHPINFO界面查看PHP版本,编译器版本,还有架 ...
- windows下hadoop安装时出现error Couldn‘t find a package.json file in “D:\\hadoop\hadoop-2.7.7\\sbin“问题
windows下hadoop安装时启动yarn时出现error Couldn't find a package.json file问题 yarn run v1.22.0 error Couldn't ...
- cygwin安装linux教程,Cygwin,让你拥有Windows下的Linux环境
如何在Windows下拥有Linux环境,大多数同学会选择安装虚拟机,无可厚非呀,这里推荐使用VirtualBox.至于怎么安装虚拟机什么哒就不在今天讨论的范畴啦~~ 但是,老哥的电脑吃不消这虚拟机呀 ...
- 通过cmd命令,使Scite在windows下构建,并安装lua环境与中文乱码问题
通过cmd命令,使Scite在windows下构建,并安装lua环境与中文乱码问题 Scite工具下载与安装 https://scite.en.softonic.com/download 1.下载完后 ...
- windows下spark开发环境配置
--本篇随笔由同事葛同学提供. windows下spark开发环境配置 特注:windows下开发spark不需要在本地安装hadoop,但是需要winutils.exe.hadoop.dll等文件, ...
最新文章
- Amh/Nginx更改网站根目录
- Func vs. Action vs. Predicate [复制]
- python从入门到精通pdf下载清华大学出版社-python从入门到精通 清华大学出版社...
- 如何用Python读取Excel中图片?又如何用Python往Excel中写入图片?
- 咖啡网页设计作品 简单DIV学生网页设计成品 HTML网页学生网页制作模板下载
- JAVA 中JDK下载安装
- [转]Google 发现的十大真理
- 关于IP地址定位、IP查询和IP地址库 你想了解的历史都在这里
- JDK API文档中文版(1.6、1.8、1.9)(附百度网盘下载地址)
- aboutface4 1-3 读书笔记 幕布 思维导图
- java 没有例外网站_java – Spring安全配置@Order不是唯一的例外
- python博弈论_基于原生python的进化博弈实现
- Iphone版音乐计算机,iPhone网易云音乐app的离线音乐导出到电脑
- 贝尔商道赚钱思维36道第09道:今之赚大钱者
- 微信代扣踩坑日记(微信自动续费)
- 如何解决ubuntu18.04上搜狗输入法中文输入时候选乱码的问题?
- vue项目静态图片不显示
- 小马模拟器 (支持Android系统)
- nsga 的java实现_Java – Scala遗传算法(GA)库中的模拟二进制交叉(SBX)交叉运算符
- 线性回归;欠拟合和过拟合
热门文章
- 解决Redis报错:MISCONF Redis is configured to save RDB snapshots, but is currently not able to persist
- mysql修改时间精度_Mysql时间精度丢失问题
- php 实现域名路由器,域名路由 · ThinkPHP5.0完全开发手册 · 看云
- redis如何实现分布式锁?
- 华为明年发布鸿蒙系统手机,华为鸿蒙系统2.0正式发布,明年将运用在手机上
- spring mvc基本概念
- CSS 定位 (Positioning)
- 多重采样和超级采样哪个流畅_OpenGL多重采样:结果与未使用多重采样时的结果相同...
- java信息格式化,Java如何格式化包含时间信息的消息?
- c语言图形方式初始化,c语言图形方式下的编程.doc