HFDS命令行操作（开发重点）

1）基本语法

bin/hadoop fs 具体命令

2）参数大全

[faded@faded102 hadoop-2.7.2]$ bin/hadoop fs

[-appendToFile <localsrc> ... <dst>]

[-cat [-ignoreCrc] <src> ...]

[-checksum <src> ...]

[-chgrp [-R] GROUP PATH...]

[-chmod [-R] <MODE[,MODE]... | OCTALMODE> PATH...]

[-chown [-R] [OWNER][:[GROUP]] PATH...]

[-copyFromLocal [-f] [-p] <localsrc> ... <dst>]

[-copyToLocal [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]

[-count [-q] <path> ...]

[-cp [-f] [-p] <src> ... <dst>]

[-createSnapshot <snapshotDir> [<snapshotName>]]

[-deleteSnapshot <snapshotDir> <snapshotName>]

[-df [-h] [<path> ...]]

[-du [-s] [-h] <path> ...]

[-expunge]

[-get [-p] [-ignoreCrc] [-crc] <src> ... <localdst>]

[-getfacl [-R] <path>]

[-getmerge [-nl] <src> <localdst>]

[-help [cmd ...]]

[-ls [-d] [-h] [-R] [<path> ...]]

[-mkdir [-p] <path> ...]

[-moveFromLocal <localsrc> ... <dst>]

[-moveToLocal <src> <localdst>]

[-mv <src> ... <dst>]

[-put [-f] [-p] <localsrc> ... <dst>]

[-renameSnapshot <snapshotDir> <oldName> <newName>]

[-rm [-f] [-r|-R] [-skipTrash] <src> ...]

[-rmdir [--ignore-fail-on-non-empty] <dir> ...]

[-setfacl [-R] [{-b|-k} {-m|-x <acl_spec>} <path>]|[--set <acl_spec> <path>]]

[-setrep [-R] [-w] <rep> <path> ...]

[-stat [format] <path> ...]

[-tail [-f] <file>]

[-test -[defsz] <path>]

[-text [-ignoreCrc] <src> ...]

[-touchz <path> ...]

[-usage [cmd ...]]

3）常用命令实操

（0）启动Hadoop集群（方便后续的测试）

[faded@ faded 102 hadoop-2.7.2]$ sbin/start-dfs.sh

[faded @ faded 103 hadoop-2.7.2]$ sbin/start-yarn.sh

（1）-help：输出这个命令参数

[faded @ faded 102 hadoop-2.7.2]$ hadoop fs -help rm

（2）-ls: 显示目录信息

[faded @ faded 102 hadoop-2.7.2]$ hadoop fs -ls /

（3）-mkdir：在hdfs上创建目录

[faded @ faded 102 hadoop-2.7.2]$ hadoop fs -mkdir -p /user/atguigu/test

（4）-moveFromLocal从本地剪切粘贴到hdfs

[atguigu@hadoop102 hadoop-2.7.2]$ touch jinlian.txt

[faded@faded 102 hadoop-2.7.2]$ hadoop fs -moveFromLocal ./jinlian.txt /user/atguigu/test

（5）--appendToFile ：追加一个文件到已经存在的文件末尾

[faded @ faded 102 hadoop-2.7.2]$ touch ximen.txt

[faded @ faded 102 hadoop-2.7.2]$ vi ximen.txt

输入

wo ai jinlian

[faded@faded102 hadoop-2.7.2]$ hadoop fs -appendToFile ximen.txt /user/faded/test/jinlian.txt

（6）-cat ：显示文件内容

（7）-tail：显示一个文件的末尾

[faded@faded102 hadoop-2.7.2]$ hadoop fs -tail /user/faded/test/jinlian.txt

（8）-chgrp 、-chmod、-chown：linux文件系统中的用法一样，修改文件所属权限

[faded@faded102 hadoop-2.7.2]$ hadoop fs -chmod 666 /user/faded/test/jinlian.txt

[atguigu@faded102hadoop-2.7.2]$ hadoop fs -chown atguigu:atguigu /user/faded/test/jinlian.txt

（9）-copyFromLocal：从本地文件系统中拷贝文件到hdfs路径去

[faded@faded102 hadoop-2.7.2]$ hadoop fs -copyFromLocal README.txt /user/faded/test

（10）-copyToLocal：从hdfs拷贝到本地

[faded@faded102hadoop-2.7.2]$ hadoop fs -copyToLocal /user/faded/test/jinlian.txt ./jinlian.txt

（11）-cp ：从hdfs的一个路径拷贝到hdfs的另一个路径

[faded@faded102 hadoop-2.7.2]$ hadoop fs -cp /user/faded/test/jinlian.txt /jinlian2.txt

（12）-mv：在hdfs目录中移动文件

[faded@hadoop102 hadoop-2.7.2]$ hadoop fs -mv /jinlian2.txt /user/faded/test/

（13）-get：等同于copyToLocal，就是从hdfs下载文件到本地

[faded@faded102 hadoop-2.7.2]$ hadoop fs -get /user/faded/test/jinlian2.txt ./

（14）-getmerge ：合并下载多个文件，比如hdfs的目录 /aaa/下有多个文件:log.1, log.2,log.3,...

[faded@faded102 hadoop-2.7.2]$ hadoop fs -getmerge /user/faded/test/* ./zaiyiqi.txt

（15）-put：等同于copyFromLocal

[faded@faded102 hadoop-2.7.2]$ hadoop fs -put ./zaiyiqi.txt /user/faded/test/

（16）-rm：删除文件或文件夹

[atguigu@hadoop102 hadoop-2.7.2]$ hadoop fs -rm /user/atguigu/test/jinlian2.txt

（17）-rmdir：删除空目录

[faded@faded102 hadoop-2.7.2]$ hadoop fs -mkdir /test

[faded@faded102 hadoop-2.7.2]$ hadoop fs -rmdir /test

（18）-df ：统计文件系统的可用空间信息

[faded@faded102 hadoop-2.7.2]$ hadoop fs -df -h /

（19）-du统计文件夹的大小信息

[faded@faded102 hadoop-2.7.2]$ hadoop fs -du -s -h /user/faded/test

2.7 K /user/faded/test

[faded@faded102 hadoop-2.7.2]$ hadoop fs -du -h /user/faded/test

1.3 K /user/faded/test/README.txt

15 K /user/faded/test/jinlian.txt

1.4 K /user/faded/test/zaiyiqi.txt

（20）-setrep：设置hdfs中文件的副本数量

[faded@faded102 hadoop-2.7.2]$ hadoop fs -setrep 2 /user/faded/test/jinlian.txt

这里设置的副本数只是记录在namenode的元数据中，是否真的会有这么多副本，还得看datanode的数量。因为目前只有3台设备，最多也就3个副本，只有节点数的增加到10台时，副本数才能达到10。

HFDS命令行操作（开发重点）相关推荐

HDFS 系列二：HFDS 命令行操作
文章目录 2. HFDS 命令行操作 2.1 基本语法 2.2 参数大全 2.3 常用命令实操 2.3.1 -help:输出这个命令参数 2.3.2 -ls: 显示目录信息 2.3.3 -mkdir: ...
黑猴子的家：HFDS命令行操作
1.基本语法 [victor@node1 hadoop-2.8.2]$ bin/hadoop fs 具体命令或者 [victor@node1 hadoop-2.8.2]$ bin/hdfs dfs ...
区块链之开发命令行操作模块
文章目录功能介绍 go语言中flag用法简介项目命令行具体实现链接: 区块链项目github地址项目目前进度: 功能介绍利用命令行操作区块链相较于图形用户界面来说,编写代码简单,同时也可以实 ...
基于Golang的CLI 命令行程序开发
基于Golang的CLI 命令行程序开发 [阅读时间:约15分钟] 一. CLI 命令行程序概述二. 系统环境&项目介绍&开发准备 1.系统环境 2.项目介绍 3.开发准备三.具体 ...
完全命令行.NET开发
很久没写日记了,今天走一个 Windows系统的GUI太好用了,以至于很多Windows开发者都不知道还有更好用的命令行模式.命令行模式可以把自己经常使用的功能写成脚本,一个命令就可以全部工作执行掉, ...
命令行操作svn和git和git
前几天在写代码的时候电脑突然坏掉,老大交代的任务没完成,非常痛恨自己用svn或者git保存代码,相信很多程序员遇到过,硬盘坏掉,存在硬盘中的代码丢失,无法找回的问题,svn和git可谓程序员界的福音, ...
gitlab ci 自动化部署_前端gitLab加jenkins自动化构建和部署，以及服务器常用的linux命令行操作，免密登录...
常用的linux命令行操作将项目部署到服务器后,需要查看文件是否已经部署成功,已经对文件进行增删改查操作,就需要用到命令行操作,常用操作如下: ll 罗列出当前文件或目录的详细信息,含有时间.读写权 ...
linux下zookeeper启动命令,For Linux Zookeeper客户端命令行操作指令
目录客户端命令行操作 1.启动客户端 2.停止客户端 3.显示所有操作命令 4.查看当前节点信息 ls ~ 详细信息 ls2 5.分别创建两个普通节点 6.获取节点的值 7.创建短暂节点 ~ cr ...
Git 简介和命令行操作
Git 简介官网地址:https://git-scm.com/ 3Git 的优势  大部分操作在本地完成,不需要联网  完整性保证  尽可能添加数据而不是删除或修改数据  分支操作非常快捷流 ...

HFDS命令行操作（开发重点）

HFDS命令行操作（开发重点）相关推荐

最新文章

热门文章