hadoop fs常用命令
hadoop fs -help
当执行-help命令后,可以列出所有命令帮助信息
查看某一命令的帮助信息可在-help后面跟上所要查询的命令,以cat命令为例:
hadoop fs -help cat
常用命令
hadoop fs (hdfs dfs)文件操作
ls 显示目录下的所有文件或者文件夹
使用方法: hadoop fs -ls [uri形式目录]示例:
hadoop fs -ls /
显示根目录下的所有文件和目录显示目录下的所有文件可以加 -R 选项示例:
hadoop fs -ls -R /
cat 查看文件内容
使用方法:hadoop fs -cat URI [URI …]示例:
hadoop fs -cat /in/test2.txt
mkdir 创建目录
使用方法:hadoop fs -mkdir [uri形式目录]示例:
hadoop fs –mkdir /test
创建多级目录 加上 -p示例:
hadoop fs -mkdir -p /a/b/c
rm 删除目录或者文件
使用方法:hadoop fs -rm [文件路径]
删除文件夹加上 -r,示例:
hadoop fs -rm /test1.txt
删除文件夹加上 -r,示例:
hadoop fs -rm -r /test
put 复制文件
将文件复制到hdfs系统中,也可以是从标准输入中读取文件,此时的dst是一个文件,使用方法: hadoop fs -put … 。示例:
Hadoop fs -put /usr/topabu/temp/test1.txt /
从标准输入中读取文件:
hadoop fs -put -/in/myword
cp 复制系统内文件
使用方法:hadoop fs -cp URI [URI …]
将文件从源路径复制到目标路径。
这个命令允许有多个源路径,此时目标路径必须是一个目录。示例:hadoop fs -cp /in/topabu.com/word
copyFromLocal 复制本地文件到hdfs
使用方法:hadoop fs -copyFromLocal URI
除了限定源路径是一个本地文件外,和put命令相似
get 复制文件到本地系统
使用方法:hadoop fs -get[-ignorecrc] [-crc]
复制文件到本地文件系统。可用-ignorecrc选项复制CRC校验失败的文件。
使用-crc选项复制文件以及CRC信息。示例:
hadoop fs -get/word /usr/topabu/temp/word.txt
copyToLocal 复制文件到本地系统
使用方法:hadoop fs -copyToLocal [-ignorecrc] [-crc] URI
除了限定目标路径是一个本地文件外,和get命令类似。示例:
hadoop fs -copyToLocal /word /usr/topabu/temp/word.txt
mv 将文件从源路径移动到目标路径。
这个命令允许有多个源路径,此时目标路径必须是一个目录。不允许在不同的文件系统间移动文件。
使用方法:hadoop fs -mv URI [URI …] 。示例:
hadoop fs -mv /in/test2.txt /test2.txt
du 显示文件大小
显示目录中所有文件的大小。使用方法:hadoop fs -du URI [URI …]。示例:
hadoop fs -du /
显示当前目录或者文件夹的大小可加选项 -s。示例:
hadoop fs -du -s /
touchz 创建空文件
使用方法:hadoop fs -touchz URI [URI …]
创建一个0字节的空文件,示例:
hadoop fs -touchz /empty.txt
chmod 改变文件权限
使用方法:hadoop fs -chmod[-R] <MODE[,MODE]… | OCTALMODE> URI [URI …]
与Linux平台下chmod命令相似,改变文件的权限。
使用-R将使改变在目录结构下递归进行。
命令的使用者必须是文件的所有者或者超级用户。
chown 改变文件所有者
使用方法:hadoop fs -chown [-R] [OWNER][:[GROUP]] URI [URI]
改变文件的拥有者。
使用-R将使改变在目录结构下递归进行。
命令的使用者必须是超级用户。示例:
hadoop fs -chown -R test /a
chgrp 改变文件所在组
使用方法:hadoop fs -chgrp [-R] GROUP URI [URI …]
改变文件所属的组。
使用-R将使改变在目录结构下递归进行。
命令的使用者必须是文件的所有者或者超级用户。示例:
hadoop fs -chgrp -R test /a
hdfs dfsadmin 管理命令
-report
查看文件系统的基本信息和统计信息。
示例:hadoop dfsadmin -report
-safemode 安全模式命令
enter | leave | get | wait
安全模式是NameNode的一种状态,在这种状态下,NameNode不接受对名字空间的更改(只读),不复制或删除块。
NameNode在启动时自动进入安全模式,当配置块的最小百分数满足最小副本数的条件时,会自动离开安全模式。
enter是进入,leave是离开。示例:
hadoop dfsadmin -safemode get hadoop dfsadmin -safemode enter -refreshNodes
重新读取hosts和exclude文件,使新的节点或需要退出集群的节点能够被NameNode重新识别。
这个命令在新增节点或注销节点时用到。示例:
hadoop dfsadmin -refreshNodes
-finalizeUpgrade
终结HDFS的升级操作。
DataNode删除前一个版本的工作目录,之后NameNode也这样做。
-upgradeProgress
status| details | force
请求当前系统的升级状态 | 升级状态的细节| 强制升级操作
-metasave filename
保存NameNode的主要数据结构到hadoop.log.dir属性指定的目录下的文件中。
-setQuota……
为每个目录设定配额。
目录配额是一个长整形整数,强制设定目录树下的名字个数。
-clrQuota……
为每个目录清除配额设定。
hadoop fs常用命令相关推荐
- 【大数据开发运维解决方案】hadoop fs常用命令案例解释
文章目录 前言 一.hadoop fs常用命令参数列表 二.案例展示 hadoop fs -mkdir hadoop fs -ls hadoop fs -put hadoop fs -get hado ...
- Hadoop fs 常用命令
操作hdfs系统可以使用hadoop fs 也可以使用 hdfs dfs ,两者效果一样. Hadoop启动: start-all.sh 等价于 start-dfs.sh + start-yarn.s ...
- 运行hadoop fs -ls 命令显示本地目录问题
2019独角兽企业重金招聘Python工程师标准>>> 运行hadoop fs -ls 命令显示本地目录问题 问题原因:是因为在hadoop配置文件中没有指定HDFS的默认路径 解决 ...
- Hadoop Yarn常用命令
文章目录 Hadoop Yarn常用命令 1 查看任务 1.1 yarn application -list 1.2 yarn application -list -appStates 1.3 kil ...
- Hadoop HDFS常用命令
在Linux命令行终端,我们可以利用Shell命令对Hadoop进行操作.利用这些命令可以完成HDFS中文档的上传.下载.复制.查看文件信息.格式化名称节点等操作.关于HDFS的Shell命令有一个统 ...
- hadoop一些常用命令
假设Hadoop的安装目录HADOOP_HOME为/home/admin/hadoop. 启动与关闭 启动Hadoop 1. 进入HADOOP_HOME目录. 2. 执 ...
- Hadoop文件系统常用命令
1.查看指定目录下内容 hadoop dfs –ls [文件目录] eg: hadoop dfs –ls /user/wangkai.pt 2.打开某个已存在文件 hadoop dfs –cat [f ...
- Hadoop 基本常用命令
hdfs文件的相关操作主要使用hadoop fs.hadoop dfs.hdfs dfs 命令 hadoop fs命令可以用于HDFS.Local FS等不同的文件系统.而hdfs dfs命令只用于H ...
- Hadoop Shell 常用命令
参考链接:http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html FS Shell 调用文件系统(FS)Shell命令应使用 bin/hadoo ...
最新文章
- SpringBoot 搭建基于 minio 的高性能存储服务
- 5个拓展潜客的创意方法
- java 短语_从Java中的文本文件中提取短语
- 详解计算机内部存储数据的形式 二进制数
- python实现解释器_Python设计模式之解释器模式
- SQL Server事务日志–第2部分–日志性能问题的主要原因
- sparkTransformation算子
- 如何获得base64图片的高度_如何使坡口机工作的高度获得提升
- 《运算放大器权威指南》读书笔记(二)
- Oracle(plsql)数据导入导出
- 鱼眼摄像机弊端及应用
- LinuxMint 桌面美化
- 华硕笔记本刷BIOS
- 用微信 远程遥控 服务器
- 【今日CV 计算机视觉论文速览 第101期】Wed, 17 Apr 2019
- 计算机英语输入法怎么,电脑为什么输入法总是英文怎么办
- 来聊聊,今年各互联网大厂的年终奖......
- c语言text的作用,一个读text文本文件和解析文本的例子(C语言)
- 这些用 Python 写的牛逼程序/脚本,你玩过吗?
- 阿里云RAM访问控制