调用文件系统(FS)Shell命令应使用 bin/hadoop fs 的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文件系统,scheme是hdfs,对本地文件系统,scheme是file。其中scheme和authority参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme。一个HDFS文件或目录比如/parent/child可以表示成hdfs://namenode:namenodeport/parent/child,或者更简单的/parent/child(假设你配置文件中的默认值是namenode:namenodeport)。大多数FS Shell命令的行为和对应的Unix Shell命令类似,不同之处会在下面介绍各命令使用详情时指出。出错信息会输出到stderr,其他信息输出到stdout。

cat

使用方法:hadoop fs -cat URI [URI …]

将路径指定文件的内容输出到stdout。

示例:

hadoop fs -cat hdfs://host1:port1/file1 hdfs://host2:port2/file2
hadoop fs -cat file:///file3 /user/hadoop/file4
返回值:
成功返回0,失败返回-1。

chgrp

使用方法:hadoop fs -chgrp [-R] GROUP URI [URI …] Change group association of files. With -R, make the change recursively through the directory structure. The user must be the owner of files, or else a super-user. Additional information is in the Permissions User Guide. -->

改变文件所属的组。使用-R将使改变在目录结构下递归进行。命令的使用者必须是文件的所有者或者超级用户。更多的信息请参见HDFS权限用户指南。

chmod

使用方法:hadoop fs -chmod [-R]  URI [URI …]

改变文件的权限。使用-R将使改变在目录结构下递归进行。命令的使用者必须是文件的所有者或者超级用户。更多的信息请参见HDFS权限用户指南。

chown
使用方法:hadoop fs -chown [-R] [OWNER][:[GROUP]] URI [URI ]

改变文件的拥有者。使用-R将使改变在目录结构下递归进行。命令的使用者必须是超级用户。更多的信息请参见HDFS权限用户指南。

copyFromLocal

使用方法:hadoop fs -copyFromLocal  URI

除了限定源路径是一个本地文件外,和put命令相似。

copyToLocal

使用方法:hadoop fs -copyToLocal [-ignorecrc] [-crc] URI

除了限定目标路径是一个本地文件外,和get命令类似。

cp

使用方法:hadoop fs -cp URI [URI …]

将文件从源路径复制到目标路径。这个命令允许有多个源路径,此时目标路径必须是一个目录。
示例:

hadoop fs -cp /user/hadoop/file1 /user/hadoop/file2
hadoop fs -cp /user/hadoop/file1 /user/hadoop/file2 /user/hadoop/dir
返回值:

成功返回0,失败返回-1。

du

使用方法:hadoop fs -du URI [URI …]

显示目录中所有文件的大小,或者当只指定一个文件时,显示此文件的大小。
示例:
hadoop fs -du /user/hadoop/dir1 /user/hadoop/file1 hdfs://host:port/user/hadoop/dir1
返回值:
成功返回0,失败返回-1。

dus

使用方法:hadoop fs -dus

显示文件的大小。

expunge

使用方法:hadoop fs -expunge

清空回收站。请参考HDFS设计文档以获取更多关于回收站特性的信息。

get

使用方法:hadoop fs -get [-ignorecrc] [-crc]

复制文件到本地文件系统。可用-ignorecrc选项复制CRC校验失败的文件。使用-crc选项复制文件以及CRC信息。

示例:

hadoop fs -get /user/hadoop/file localfile
hadoop fs -get hdfs://host:port/user/hadoop/file localfile
返回值:

成功返回0,失败返回-1。

getmerge

使用方法:hadoop fs -getmerge  [addnl]

接受一个源目录和一个目标文件作为输入,并且将源目录中所有的文件连接成本地目标文件。addnl是可选的,用于指定在每个文件结尾添加一个换行符。

ls

使用方法:hadoop fs -ls

如果是文件,则按照如下格式返回文件信息:
文件名  文件大小 修改日期 修改时间 权限 用户ID 组ID
如果是目录,则返回它直接子文件的一个列表,就像在Unix中一样。目录返回列表的信息如下:
目录名  修改日期 修改时间 权限 用户ID 组ID
示例:
hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile
返回值:
成功返回0,失败返回-1。

lsr

使用方法:hadoop fs -lsr 
ls命令的递归版本。类似于Unix中的ls -R。

mkdir

使用方法:hadoop fs -mkdir

接受路径指定的uri作为参数,创建这些目录。其行为类似于Unix的mkdir -p,它会创建路径中的各级父目录。

示例:

hadoop fs -mkdir /user/hadoop/dir1 /user/hadoop/dir2
hadoop fs -mkdir hdfs://host1:port1/user/hadoop/dir hdfs://host2:port2/user/hadoop/dir
返回值:

成功返回0,失败返回-1。

movefromLocal

使用方法:dfs -moveFromLocal

输出一个”not implemented“信息。

mv

使用方法:hadoop fs -mv URI [URI …]

将文件从源路径移动到目标路径。这个命令允许有多个源路径,此时目标路径必须是一个目录。不允许在不同的文件系统间移动文件。
示例:

hadoop fs -mv /user/hadoop/file1 /user/hadoop/file2
hadoop fs -mv hdfs://host:port/file1 hdfs://host:port/file2 hdfs://host:port/file3 hdfs://host:port/dir1
返回值:

成功返回0,失败返回-1。

put

使用方法:hadoop fs -put  ...

从本地文件系统中复制单个或多个源路径到目标文件系统。也支持从标准输入中读取输入写入目标文件系统。

hadoop fs -put localfile /user/hadoop/hadoopfile
hadoop fs -put localfile1 localfile2 /user/hadoop/hadoopdir
hadoop fs -put localfile hdfs://host:port/hadoop/hadoopfile
hadoop fs -put - hdfs://host:port/hadoop/hadoopfile
从标准输入中读取输入。
返回值:

成功返回0,失败返回-1。

rm

使用方法:hadoop fs -rm URI [URI …]

删除指定的文件。只删除非空目录和文件。请参考rmr命令了解递归删除。
示例:

hadoop fs -rm hdfs://host:port/file /user/hadoop/emptydir
返回值:

成功返回0,失败返回-1。

rmr

使用方法:hadoop fs -rmr URI [URI …]

delete的递归版本。
示例:

hadoop fs -rmr /user/hadoop/dir
hadoop fs -rmr hdfs://host:port/user/hadoop/dir
返回值:

成功返回0,失败返回-1。

setrep

使用方法:hadoop fs -setrep [-R]

改变一个文件的副本系数。-R选项用于递归改变目录下所有文件的副本系数。

示例:

hadoop fs -setrep -w 3 -R /user/hadoop/dir1
返回值:

成功返回0,失败返回-1。

stat

使用方法:hadoop fs -stat URI [URI …]

返回指定路径的统计信息。

示例:

hadoop fs -stat path
返回值:
成功返回0,失败返回-1。

tail

使用方法:hadoop fs -tail [-f] URI

将文件尾部1K字节的内容输出到stdout。支持-f选项,行为和Unix中一致。

示例:

hadoop fs -tail pathname
返回值:
成功返回0,失败返回-1。

test

使用方法:hadoop fs -test -[ezd] URI

选项:
-e 检查文件是否存在。如果存在则返回0。
-z 检查文件是否是0字节。如果是则返回0。
-d 如果路径是个目录,则返回1,否则返回0。

示例:hadoop fs -test -e filename
text
使用方法:hadoop fs -text

将源文件输出为文本格式。允许的格式是zip和TextRecordInputStream。

touchz
使用方法:hadoop fs -touchz URI [URI …]

创建一个0字节的空文件。

示例:

hadoop -touchz pathname
返回值:
成功返回0,失败返回-1

Hadoop hdfs Shell命令 HDFS操作命令相关推荐

  1. Hadoop Shell命令-hdfs常用命令

    Hadoop Shell命令-hdfs Hadoop Shell命令 cat chgrp chmod chown copyFromLocal copyToLocal cp du dus expunge ...

  2. hdfs mv命令_Hadoop2.x HDFS shell命令

    Hadoop2 HDFS shell命令 1.hdfs dfs -appendToFile ... 可同时上传多个文件到HDFS里面 2.hdfs dfs -cat URI [URI ...] 查看文 ...

  3. 常用的HDFS Shell命令及解析

    常用的HDFS Shell命令 大多数HDFS Shell命令的行为和对应的Unix Shell命令类似,主要不同之处是HDFS Shell 命令操作的是远程Hadoop服务器的文件,而Unix Sh ...

  4. Hadoop之Shell命令

    hadoop的shell命令与linux下的命令类似,一般要在命名了的前面加-, 例如:hadoop fs -ls /....... 具体如下: FS Shell 调用文件系统(FS)Shell命令应 ...

  5. Hadoop基于Shell命令与底层Unix操作系统的交互

    在阅读Hadoop源代码过程中,在org.apache.hadoop.security.UnixUserGroupInformation类中,需要获取到Unix系统的用户名和所属组的信息,就需要通过执 ...

  6. HDFS Shell命令练习

    前提条件 拥有hadoop2环境,可参考:CentOS7安装hadoop2.7.3伪分布式 步骤 HDFS常用的操作命令是dfs命令. 查看hdfs dfs所有命令 [hadoop@node1 ~]$ ...

  7. HDFS shell命令操作大全

    HDFS的shell命令操作 目标:掌握HDFS操作数据的命令 基本语法 bin/hdfs dfs 具体命令 参数大全 [root@node01 Hadoop-2.6.0-cdh5.14.0]# bi ...

  8. 分布式文件系统—HDFS—shell命令

    常用命令参数介绍: -help:输出这个命令参数手册 [hadoop@hadoop02 ~]$ hadoop -help [hadoop@hadoop02 ~]$ hadoop fs -help [h ...

  9. hadoop学习记录(二):hadoop常用shell命令

    2019独角兽企业重金招聘Python工程师标准>>> 一.查看hadoop命令帮助手册 hadoop -help hadoop命令 hadoop fs -help hadoop文件 ...

最新文章

  1. R语言ggplot2可视化使用ggplotly(plotly version of R)可视化散点图(scatter plot)
  2. flutter 移动通知_Flutter移动电商实战 --(24)Provide状态管理基础
  3. BCH比特币现金有何魅力,让“比特币耶稣”和矿工们都看涨买入?
  4. Mysql 监视工具
  5. python 解析 配置文件
  6. etcd raft library设计原理和使用
  7. 【渝粤教育】广东开放大学 地基与基础 形成性考核 (27)
  8. 系统目录结构 ls命令 文件类型 alias命令
  9. Ubuntu 14.04 16.04 安装最新的 docker
  10. cpu上干硅脂怎么清理_笔记本电脑散热硅脂的正确涂法
  11. Jquery跨域请求php数据(jsonp)
  12. 行为型设计模式(2)—— 模板方法模式(Template Method Pattern)
  13. 基于朴素贝叶斯分类器的西瓜数据集 2.0 预测分类_第十章:利用Python实现朴素贝叶斯模型
  14. python---使用get方法访问‘数据库’实体
  15. html怎么设置文字无法复制粘贴,网页文字无法复制粘贴怎么办
  16. 自编码神经网络相似图片检索
  17. 5月31日武汉国金天地亮灯仪式鎏光绽放!
  18. 条件概率下的全概率公式
  19. 数据结构——顺序表的实现
  20. 加州大学欧文分校 计算机专业,加州大学欧文分校计算机专业申请条件(附案例)...

热门文章

  1. 如何在网上赚钱?80%的人都缺乏的赚钱思维
  2. vmvare搭建k8s集群
  3. 软件获取imei和imsi_imei和imsi
  4. 四川 计算机 英语考试,我院参加四川省2016年下半年全国英语等级考试(PETS)和全国计算机等级考试(NCRE)考务工作视频会议...
  5. 网红RGB镜子灯触摸芯片-DLT8S15B-杰力科创
  6. 自用PTA题目记录0001
  7. MAC m1芯片,下载安装natapp
  8. curl命令使用大全
  9. Mathtype内嵌到Word中的方法(含错误解决办法)
  10. iOS 开发 带区号的城市三级联动(xml解析)