Hadoop之HDFS常用Shell命令


  1. 启动Hadoop集群
 sbin/start-dfs.shsbin/start-yarn.sh
  1. -help:输出这个命令参数
hadoop fs -help rm
  1. -ls: 显示目录信息
hadoop fs -ls /
  1. -mkdir:在hdfs上创建目录
hadoop fs -mkdir -p /hadoop
  1. -moveFromLocal从本地剪切粘贴到hdfs
hadoop fs  -moveFromLocal  ./hh.txt  /hadoop
  1. -cat:显示文件内容
hadoop fs -cat /hadoop/hh.txt
  1. -tail:显示一个文件的末尾
adoop fs -tail /hadoop/hh.txt
  1. -chgrp 、-chmod、-chown:linux文件系统中的用法一样,修改文件所属权限
hadoop fs  -chmod  666  /hadoop/hh.txt
hadoop fs  -chown  centos:centos  /hadoop/hh.txt
  1. -copyFromLocal:从本地文件系统中拷贝文件到hdfs路径去
hadoop fs -copyFromLocal README.txt /
  1. -copyToLocal:从hdfs拷贝到本地
hadoop fs -copyToLocal /hadoop/hh.txt ./
  1. -cp :从hdfs的一个路径拷贝到hdfs的另一个路径
hadoop fs -cp /hadoop/hh.txt /admin/hah.txt
  1. -mv:在hdfs目录中移动文件
hadoop fs -mv /hh.txt /admin
  1. -get:等同于copyToLocal,就是从hdfs下载文件到本地
hadoop fs -get /hadoop/hh.txt ./
  1. -getmerge :合并下载多个文件,比如hdfs的目录 /aaa/下有多个文件:log.1, log.2,log.3,…
hadoop fs -getmerge /user/test/* ./hh.txt
  1. -put:等同于copyFromLocal
hadoop fs -put ./zaiyiqi.txt /user/test/
  1. -rm:删除文件或文件夹
hadoop fs -rm /user/test/jinlian2.txt
  1. -rmdir:删除空目录
hadoop fs -rmdir /test
  1. -du统计文件夹的大小信息
hadoop fs -du -s -h /user/test
  1. -setrep:设置hdfs中文件的副本数量
 hadoop fs -setrep 10 /hadoop/hh.txt

这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。因为目前只有3台设备,最多也就3个副本,只有节点数的增加到10台时,副本数才能达到10。


hadoop fs、hadoop dfs与hdfs dfs命令的区别

Hadoop fs:使用面最广,可以操作任何文件系统。
hadoop dfs与hdfs dfs:只能操作HDFS文件系统相关(包括与Local FS间的操作),前者已经Deprecated,一般使用后者。

Hadoop之HDFS常用Shell命令相关推荐

  1. hadoop之hdfs的shell命令操作

    FS Shell 调用文件系统(FS)Shell命令应使用 bin/hadoop fs <args> 的形式. 所有的的FS shell命令使用URI路径作为参数.URI格式是scheme ...

  2. HDFS常用Shell命令

    1.-ls: 显示目录信息 hadoop fs -ls / 2.-mkdir:在HDFS上创建目录 hadoop fs -mkdir -p /demo/test 3.-moveFromLocal:从本 ...

  3. 用JAVA API实现HDFS常用shell命令的功能(新建文件夹,上传文件,下载文件,判断文件是否存在)

    新建文件夹 package hdfs.files;import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.Fi ...

  4. 实验二 HDFS的Shell命令操作,和HDFS的API操作

    文章目录 实验目的 一. 实验原理 二.实验准备 实验内容 步骤 项目1 HDFS常见命令练习 列出HDFS当前用户家目录下的文件及文件夹: 列出HDFS文件下名为directory的文件夹中的文件: ...

  5. hadoop fs –ls /hbase 无内容_Hadoop学习---HDFS的常用shell命令详解

    注意:访问hdfs系统的指令 hadoop dfs --- 已过时 hadoop fs -- 使用范围更大 hdfs dfs --范围相对较小hadoop fs 和 hdfs dfs之间没有太大的区别 ...

  6. 2021年大数据Hadoop(八):HDFS的Shell命令行使用

    2021大数据领域优质创作博客,带你从入门到精通,该博客每天更新,逐渐完善大数据各个知识体系的文章,帮助大家更高效学习. 有对大数据感兴趣的可以关注微信公众号:三帮大数据 目录 HDFS的Shell命 ...

  7. 学习笔记Hadoop(十)—— Hadoop基础操作(2)—— HDFS常用Shell操作

    三.HDFS常用Shell操作 3.1.HDFS文件系统 HDFS Shell 指的是可以使用类似shell的命令来直接和Hadoop分布式文件系统(HDFS)进行交互. 使用命令: bin/hado ...

  8. 大数据_07 【hadoop HDFS的shell命令操作】

    大数据_07 [hadoop HDFS的shell命令操作] 01 基本语法 02 常用普通命令实操 03 HDFS常用高级命令 04 HDFS适用场景 05 HDFS不适用场景 06 hdfs的安全 ...

  9. Hadoop教程(三)HDFS文件系统Shell命令

    Hadoop教程(三)HDFS文件系统Shell命令 本文链接:https://blog.csdn.net/yuan_xw/article/details/50202381 Hadoop教程(三)HD ...

最新文章

  1. BIM技术在各阶段应用的软件你知多少?
  2. 未能解析引用的程序集……因为它对不在当前目标框架……
  3. 关于ThinkPHP的一些编程技巧
  4. QToolButton设置背景无效的思考
  5. linux 文档属于apache,Apache 安装和使用文档
  6. DBFace升级,模型仅1.3M的轻量级高精度人脸检测模型
  7. 2能不用cuda_农村建房的新方法,只需要一块地,2天就建好房子,不用还能搬走...
  8. java 图文生成图片_java生成图片
  9. 中国加热织物市场趋势报告、技术动态创新及市场预测
  10. dbeaver驱动问题解决方案
  11. Oracle 11g RAC添加一节点过程
  12. Python制作反编译APK工具
  13. 解决 Github用户名 变为 invalid-email-address 问题
  14. 自助装机配置专家点评
  15. 以太坊Whisper协议
  16. 【寻找最佳小程序】12期:小程序数据助手——微信官方打造,移动端数据分析工具...
  17. 美颜技术---引导滤波 Guided Filter
  18. 笔记本电脑也是一种微型计算机,计算机一级试题 很权威的哦
  19. 图解脱机BT(transmission-daemon)教程
  20. 六.卡尔曼滤波器开发实践之六: 无损卡尔曼滤波器(UKF)进阶-白话讲解篇

热门文章

  1. Git SSH 连接phacility服务器
  2. Openfiler的安装和配置
  3. Java Servlet(三):Servlet中ServletConfig对象和ServletContext对象
  4. Zabbix 2.2(一):Web监控的监控项
  5. 在组策略中使用脚本为域用户添加网络打印机
  6. TransactionScope 分布式事务
  7. Async下处理多个异常
  8. 运维监控之Nagios实战(五)Nagios QL3.11
  9. CodeForces - 1512G Short Task(欧拉筛求因子和)
  10. CodeForces - 1359E Modular Stability(组合数学)