Hadoop之HDFS常用Shell命令
Hadoop之HDFS常用Shell命令
- 启动Hadoop集群
sbin/start-dfs.shsbin/start-yarn.sh
- -help:输出这个命令参数
hadoop fs -help rm
- -ls: 显示目录信息
hadoop fs -ls /
- -mkdir:在hdfs上创建目录
hadoop fs -mkdir -p /hadoop
- -moveFromLocal从本地剪切粘贴到hdfs
hadoop fs -moveFromLocal ./hh.txt /hadoop
- -cat:显示文件内容
hadoop fs -cat /hadoop/hh.txt
- -tail:显示一个文件的末尾
adoop fs -tail /hadoop/hh.txt
- -chgrp 、-chmod、-chown:linux文件系统中的用法一样,修改文件所属权限
hadoop fs -chmod 666 /hadoop/hh.txt
hadoop fs -chown centos:centos /hadoop/hh.txt
- -copyFromLocal:从本地文件系统中拷贝文件到hdfs路径去
hadoop fs -copyFromLocal README.txt /
- -copyToLocal:从hdfs拷贝到本地
hadoop fs -copyToLocal /hadoop/hh.txt ./
- -cp :从hdfs的一个路径拷贝到hdfs的另一个路径
hadoop fs -cp /hadoop/hh.txt /admin/hah.txt
- -mv:在hdfs目录中移动文件
hadoop fs -mv /hh.txt /admin
- -get:等同于copyToLocal,就是从hdfs下载文件到本地
hadoop fs -get /hadoop/hh.txt ./
- -getmerge :合并下载多个文件,比如hdfs的目录 /aaa/下有多个文件:log.1, log.2,log.3,…
hadoop fs -getmerge /user/test/* ./hh.txt
- -put:等同于copyFromLocal
hadoop fs -put ./zaiyiqi.txt /user/test/
- -rm:删除文件或文件夹
hadoop fs -rm /user/test/jinlian2.txt
- -rmdir:删除空目录
hadoop fs -rmdir /test
- -du统计文件夹的大小信息
hadoop fs -du -s -h /user/test
- -setrep:设置hdfs中文件的副本数量
hadoop fs -setrep 10 /hadoop/hh.txt
这里设置的副本数只是记录在NameNode的元数据中,是否真的会有这么多副本,还得看DataNode的数量。因为目前只有3台设备,最多也就3个副本,只有节点数的增加到10台时,副本数才能达到10。
hadoop fs、hadoop dfs与hdfs dfs命令的区别
Hadoop fs:使用面最广,可以操作任何文件系统。
hadoop dfs与hdfs dfs:只能操作HDFS文件系统相关(包括与Local FS间的操作),前者已经Deprecated,一般使用后者。
Hadoop之HDFS常用Shell命令相关推荐
- hadoop之hdfs的shell命令操作
FS Shell 调用文件系统(FS)Shell命令应使用 bin/hadoop fs <args> 的形式. 所有的的FS shell命令使用URI路径作为参数.URI格式是scheme ...
- HDFS常用Shell命令
1.-ls: 显示目录信息 hadoop fs -ls / 2.-mkdir:在HDFS上创建目录 hadoop fs -mkdir -p /demo/test 3.-moveFromLocal:从本 ...
- 用JAVA API实现HDFS常用shell命令的功能(新建文件夹,上传文件,下载文件,判断文件是否存在)
新建文件夹 package hdfs.files;import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.Fi ...
- 实验二 HDFS的Shell命令操作,和HDFS的API操作
文章目录 实验目的 一. 实验原理 二.实验准备 实验内容 步骤 项目1 HDFS常见命令练习 列出HDFS当前用户家目录下的文件及文件夹: 列出HDFS文件下名为directory的文件夹中的文件: ...
- hadoop fs –ls /hbase 无内容_Hadoop学习---HDFS的常用shell命令详解
注意:访问hdfs系统的指令 hadoop dfs --- 已过时 hadoop fs -- 使用范围更大 hdfs dfs --范围相对较小hadoop fs 和 hdfs dfs之间没有太大的区别 ...
- 2021年大数据Hadoop(八):HDFS的Shell命令行使用
2021大数据领域优质创作博客,带你从入门到精通,该博客每天更新,逐渐完善大数据各个知识体系的文章,帮助大家更高效学习. 有对大数据感兴趣的可以关注微信公众号:三帮大数据 目录 HDFS的Shell命 ...
- 学习笔记Hadoop(十)—— Hadoop基础操作(2)—— HDFS常用Shell操作
三.HDFS常用Shell操作 3.1.HDFS文件系统 HDFS Shell 指的是可以使用类似shell的命令来直接和Hadoop分布式文件系统(HDFS)进行交互. 使用命令: bin/hado ...
- 大数据_07 【hadoop HDFS的shell命令操作】
大数据_07 [hadoop HDFS的shell命令操作] 01 基本语法 02 常用普通命令实操 03 HDFS常用高级命令 04 HDFS适用场景 05 HDFS不适用场景 06 hdfs的安全 ...
- Hadoop教程(三)HDFS文件系统Shell命令
Hadoop教程(三)HDFS文件系统Shell命令 本文链接:https://blog.csdn.net/yuan_xw/article/details/50202381 Hadoop教程(三)HD ...
最新文章
- BIM技术在各阶段应用的软件你知多少?
- 未能解析引用的程序集……因为它对不在当前目标框架……
- 关于ThinkPHP的一些编程技巧
- QToolButton设置背景无效的思考
- linux 文档属于apache,Apache 安装和使用文档
- DBFace升级,模型仅1.3M的轻量级高精度人脸检测模型
- 2能不用cuda_农村建房的新方法,只需要一块地,2天就建好房子,不用还能搬走...
- java 图文生成图片_java生成图片
- 中国加热织物市场趋势报告、技术动态创新及市场预测
- dbeaver驱动问题解决方案
- Oracle 11g RAC添加一节点过程
- Python制作反编译APK工具
- 解决 Github用户名 变为 invalid-email-address 问题
- 自助装机配置专家点评
- 以太坊Whisper协议
- 【寻找最佳小程序】12期:小程序数据助手——微信官方打造,移动端数据分析工具...
- 美颜技术---引导滤波 Guided Filter
- 笔记本电脑也是一种微型计算机,计算机一级试题 很权威的哦
- 图解脱机BT(transmission-daemon)教程
- 六.卡尔曼滤波器开发实践之六: 无损卡尔曼滤波器(UKF)进阶-白话讲解篇
热门文章
- Git SSH 连接phacility服务器
- Openfiler的安装和配置
- Java Servlet(三):Servlet中ServletConfig对象和ServletContext对象
- Zabbix 2.2(一):Web监控的监控项
- 在组策略中使用脚本为域用户添加网络打印机
- TransactionScope 分布式事务
- Async下处理多个异常
- 运维监控之Nagios实战(五)Nagios QL3.11
- CodeForces - 1512G Short Task(欧拉筛求因子和)
- CodeForces - 1359E Modular Stability(组合数学)