1. 在conf/hadoop-env.sh文件中增加:export JAVA_HOME=/home/Java/jdk1.6

2.  在conf/core-site.xml文件中增加如下内容:

fs.default.name

hdfs://localhost:9000

hadoop.tmp.dir

/home/hdfs/tmp

3.  在conf/hdfs-site.xml中增加如下内容:

dfs.replication

1

dfs.name.dir

/home/hdfs/name

dfs.data.dir

/home/hdfs/data

denied:user=Administrator,access=WRITE,inode="tmp":root:supergroup:rwxr-xr-x。

因为Eclipse使用hadoop插件提交作业时,会默认以 DrWho 身份去将作业写入hdfs文件系统中,对应的也就是 HDFS 上的/user/hadoop ,  由于 DrWho 用户对hadoop目录并没有写入权限,所以导致异常的发生。解决方法为:放开 hadoop 目录的权限, 命令如下 :$ hadoop fs -chmod 777 /user/hadoop

-->

dfs.permissions

false

If "true", enable permission checking in HDFS. If "false", permission checking is turned                     off,   but all other behavior is unchanged. Switching from one

parameter value to                                   the other does   not change the mode, owner or group of files or directories

4.  在conf/mapred-site.xml中增加如下内容:

mapred.job.tracker

localhost:9001

二、操作命令

1.  格式化工作空间

进入bin目录,运行 ./hadoop namenode –format

2.  启动hdfs

进入hadoop目录,在bin/下面有很多启动脚本,可以根据自己的需要来启动。

* start-all.sh 启动所有的Hadoop守护。包括namenode, datanode, jobtracker, tasktrack

* stop-all.sh 停止所有的Hadoop

* start-mapred.sh 启动Map/Reduce守护。包括Jobtracker和Tasktrack

* stop-mapred.sh 停止Map/Reduce守护

* start-dfs.sh 启动Hadoop DFS守护Namenode和Datanode

* stop-dfs.sh 停止DFS守护

三、Hadoop hdfs 整合

可按如下步骤删除和更改hdfs不需要的文件:

1.将hadoop-core-1.0.0.jar  移动到lib目录下。

2. 将ibexec目录下的文件移动到bin目录下。

3. 删除除bin、lib、conf、logs之外的所有目录和文件。

4. 如果需要修改日志存储路径,则需要在conf/hadoop-env.sh文件中增加:

export    HADOOP_LOG_DIR=/home/xxxx/xxxx即可。

四、HDFS文件操作

Hadoop使用的是HDFS,能够实现的功能和我们使用的磁盘系统类似。并且支持通配符,如*。

1.  查看文件列表

查看hdfs中/user/admin/hdfs目录下的文件。

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs -ls /user/admin/hdfs

查看hdfs中/user/admin/hdfs目录下的所有文件(包括子目录下的文件)。

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs -lsr /user/admin/hdfs

2.  创建文件目录

查看hdfs中/user/admin/hdfs目录下再新建一个叫做newDir的新目录。

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs -mkdir /user/admin/hdfs/newDir

3.  删除文件

删除hdfs中/user/admin/hdfs目录下一个名叫needDelete的文件

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs -rm /user/admin/hdfs/needDelete

删除hdfs中/user/admin/hdfs目录以及该目录下的所有文件

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs -rmr /user/admin/hdfs

4. 上传文件

上传一个本机/home/admin/newFile的文件到hdfs中/user/admin/hdfs目录下

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs –put /home/admin/newFile /user/admin/hdfs/

5. 下载文件

下载hdfs中/user/admin/hdfs目录下的newFile文件到本机/home/admin/newFile中

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs  –get /user/admin/hdfs/newFile /home/admin/newFile

6. 查看文件内容

查看hdfs中/user/admin/hdfs目录下的newFile文件

a. 进入HADOOP_HOME目录。

b. 执行sh bin/hadoop fs –cat /home/admin/newFile

hadoop配置文件还原_hadoop配置文件详解,安装及相关操作相关推荐

  1. Nginx配置文件nginx.conf中文详解(转)

    ######Nginx配置文件nginx.conf中文详解######定义Nginx运行的用户和用户组 user www www;#nginx进程数,建议设置为等于CPU总核心数. worker_pr ...

  2. nginx配置文件及工作原理详解

    nginx配置文件及工作原理详解 1 nginx配置文件的结构 2 nginx工作原理 1 nginx配置文件的结构 1)以下是nginx配置文件默认的主要内容: #user nobody; #配置用 ...

  3. java 配置文件的路径_详解java配置文件的路径问题

    详解java配置文件的路径问题 详解java配置文件的路径问题 各种语言都有自己所支持的配置文件,配置文件中有很多变量是经常改变的.不将程序中的各种变量写死,这样能更方便地脱离程序本身去修改相关变量设 ...

  4. Redis配置文件redis.conf文件详解

    Redis配置文件redis.conf文件详解 唠嗑 这里面的意思只要看得差不多其实就是已经对redis有熟悉的感觉,就比如 推塔已经推到别人家的大门~~~~~~~~废话不多说直接开始了 知道大家都不 ...

  5. SSM框架整合:各种配置文件的整合和详解

    SSM框架整合:各种配置文件的整合和详解 前言 学习了ssm框架的整合之后,对于数量众多的配置文件,和各种不同的配置方式感到甚是头疼,接下来教给大家一个清晰明白的配置,分门别类的配置不同的xml文件. ...

  6. Hadoop第五天--HDFS详解

    文章部分选自:https://blog.csdn.net/gwd1154978352/article/details/81095592 自己的话:层楼终究误少年,自由早晚乱余生 眼泪你别问,joker ...

  7. Hadoop之Yarn工作机制详解

    Hadoop之Yarn工作机制详解 目录 Yarn概述 Yarn基本架构 Yarn工作机制 作业提交全过程详解 1. Yarn概述 Yarn是一个资源调度平台,负责为运算程序提供服务器运算资源,相当于 ...

  8. Hadoop之InputFormat数据输入详解

    Hadoop之InputFormat数据输入详解 Job提交流程和切片源码详解 FileInputFormat切片机制 CombineTextInputFormat切片机制 InputFormat接口 ...

  9. 《Hadoop海量数据处理:技术详解与项目实战(第2版)》一2.8 小结

    本节书摘来异步社区<Hadoop海量数据处理:技术详解与项目实战(第2版)>一书中的第2章,第2.8节,作者: 范东来 责编: 杨海玲,更多章节内容可以访问云栖社区"异步社区&q ...

最新文章

  1. 水星记(Mercury Records)
  2. Mysql增加、删除和修改列属性和约束,和一些有用的查询语句
  3. 乐视姓孙还是姓贾?反正我不知道
  4. 第八届医学图像计算青年研讨会(MICS 2021)--简要记录
  5. lucene 查询示例_Lucene查询(搜索)语法示例
  6. 独家:Havok 发布新的 AI 中间件
  7. Android-TextView跑马灯效果
  8. onpagefinished等了很久才执行_互联网职业经理人的素养(二):执行力
  9. MySQL 第二次练习(源码安装、数据库和表的建立)
  10. openpyxl 2.5.0中文文档
  11. TP-LINK WR703N 变砖救活
  12. 金庸群侠传5 自动化脚本 绝情谷大厅开宝箱按键游戏
  13. MD5加密解密网站测试,MD5加密还安全吗?
  14. 如何轻松使用阿里云得矢量图标库
  15. Kero---knockout
  16. 620集成显卡和mx250,残血还是满血?一招看清MX250显卡真面目
  17. java migration_JetPack知识点实战系列九:Room数据库Migration
  18. 什么是power bi
  19. modelsim与debussy的联合仿真
  20. linux进程家族树,linux下用c语言创建进程树

热门文章

  1. java 中free,javac(freejava)
  2. java怎么发布版本号_java 实现比较版本号功能
  3. 网易云深度学习第二课NoteBook2
  4. pass by value pass by reference
  5. 每日一题(易错)丨Oracle SQL优化与调优技术
  6. 你了解部署流水线吗?
  7. 面对锁等待难题,数仓如何实现问题的秒级定位和分析
  8. 图解带你掌握`JVM`运行时核心内存区
  9. 华为云开天aPaaS 上线,服务千万开发者,使能行业场景化创新
  10. 云小课 | 到底什么是区块链?