Hadoop基础-HDFS集群中大数据开发常用的命令总结
Hadoop基础-HDFS集群中大数据开发常用的命令总结
作者:尹正杰
版权声明:原创作品,谢绝转载!否则将追究法律责任。
本盘博客仅仅列出了我们在实际生成环境中常用的hdfs命令,如果想要了解更多,比如滚动编辑,融合镜像文件,目录的空间配额等运维操作,请参考我之前的笔记:https://www.cnblogs.com/yinzhengjie/p/9074730.html
1>.基本语法
[root@node105 ~]# hadoop fs
2>.查看hdfs的某个命令的帮助信息
[root@node105 ~]# hadoop fs -help put
3>.显示某个目录的信息
[root@node105 ~]# hadoop fs -ls /
4>.在hdfs上创建目录
[hdfs@node105 ~]$ hadoop fs -mkdir /data
5>.将本地的文件剪切到hdfs集群上
6>.查看文件内容
[hdfs@node105 ~]$ hadoop fs -cat /data/yinzhengjie.blog
7>.追加一个文件到hdfs中已经存在的一个文件末尾
[hdfs@node105 ~]$ hadoop fs -appendToFile ./yinzhengjie.log /data/yinzhengjie.blog
8>.显示一个文件的末尾
[hdfs@node105 ~]$ hadoop fs -tail /data/yinzhengjie.blog
9>.修改权限
[hdfs@node105 ~]$ hadoop fs -chmod 755 /data/yinzhengjie.blog
10>.修改文件的所属者
[hdfs@node105 ~]$ hadoop fs -chown root:root /data/yinzhengjie.blog
11>.从本地文件系统拷贝文件到hdfs集群中
[hdfs@node105 ~]$ hadoop fs -copyFromLocal ./yinzhengjie.log /data
12>.从hdfs集群拷贝数据到本地
[hdfs@node105 ~]$ hadoop fs -copyToLocal /data/yinzhengjie.blog yinzhengjie.blog-2
13>.在hdfs集群中从一个目录拷贝到另外一个目录中
[hdfs@node105 ~]$ hadoop fs -cp /data/yinzhengjie.blog /yinzhengjie
14>.在hdfs就群中,从一个目录移动到另外一个目录
hdfs@node105 ~]$ hadoop fs -mv /yinzhengjie/yinzhengjie.blog /data/yinzhengjie.blog-2
15>.下载文件到本地
[hdfs@node105 ~]$ hadoop fs -get /data/yinzhengjie.blog-2 ./
16>.将hdfs中多个文件的内容下载到本地并仅生成一个文件
[hdfs@node105 ~]$ hadoop fs -getmerge /yinzhengjie-data/* ./yinzhengjie.log
17>.将本地文件上传的hdfs指定目录并改名
[hdfs@node105 ~]$ hadoop fs -put ./yinzhengjie.log /yinzhengjie-data/merge.log
18>.删除hdfs集群中国的某个文件或文件夹
[hdfs@node105 ~]$ hadoop fs -rm /yinzhengjie-data/yinzhengjie.blog-2
19>.删除空的文件夹
[hdfs@node105 ~]$ hadoop fs -rmdir /data
20>.统计hdfs文件系统可用空间信息
[root@calculation101 ~]# hadoop fs -df -h /
21>.统计文件夹的大小信息
[hdfs@calculation101 ~]$ hadoop fs -du -h /user/
22>.设置hdfs文件中的副本数量
[root@calculation101 ~]# hadoop fs -setrep 10 /user/yinzhengjie_output/part-m-00000
Hadoop基础-HDFS集群中大数据开发常用的命令总结相关推荐
- Hadoop(八)Java程序访问HDFS集群中数据块与查看文件系统
阅读目录(Content) 一.HDFS中数据块概述 1.1.HDFS集群中数据块存放位置 1.2.数据块(data block)简介 1.3.对分布式文件系统中的块进行抽象会带来很多好处 二.Jav ...
- Hadoop 3.x搭建基础HDFS集群
与Hadoop 2.x相比,它有一些新的特性如下: 基于JDK 1.8 HDFS可擦除编码 MR Native Task优化 基于Cgroup的内存隔离和IO Disk隔离 更改分配容器资源Conta ...
- 大数据开发技术课程报告(搭建Hadoop完全分布式集群操作集群)
文章目录 大数据开发技术课程报告内容及要求 一. 项目简介和实验环境 二. 虚拟机的各项准备工作 三. 安装JDK并配置环境变量 四. 安装Hadoop并配置环境变量 五. 配置Hadoop完全分布式 ...
- 大数据开发·关于虚拟机Hadoop完全分布式集群搭建教程
hadoop完全分布式集群搭建 一.搭建准备 1.安装VMware虚拟机 2.Xshell 7 远程客户端及Xftp 7安装 3.搭建模板虚拟机hadoop100 配置虚拟机网络 为虚拟机普通用户配置 ...
- 【大数据之Hadoop】三十一、HDFS集群迁移之Apache和Apache集群间数据拷贝
数据迁移场景: 冷热集群数据分类存储:集群数据整体迁移:数据的准实时同步,目的在于数据的双备份可用. 数据迁移需要考虑的因素: 带宽.性能.增量同步(原始数据文件进行了追加写.被删除或重命名) ...
- 二、大数据之Hadoop完全分布式集群搭建
目录 Hadoop简介: (1)安装JDK和Hadoop (2)配置环境变量 (3)集群部署规划 (4)配置免密登录 (5)修改Hadoop配置文件 1.vim hdfs-site.xml 2.vim ...
- 数据中心安全风控_平安银行Hadoop集群跨数据中心迁移项目告捷项目骨干专访
Hadoop集群跨数据中心迁移 平安银行东莞数据中心建成 平安银行科技中心零售大数据团队 平安银行科技中心科技运营中心 群迁告捷 经过平安银行科技运营中心和大数据团队的不懈努力,作为平安银行AI战略转 ...
- 大数据系列(一)之hadoop介绍及集群搭建
大数据系列(一)之hadoop介绍及集群搭建 文章最早发布来源,来源本人原创初版,同一个作者: https://mp.weixin.qq.com/s/fKuKRrpmHrKtxlCPY9rEYg 系列 ...
- 『实践』VirtualBox 5.1.18+Centos 6.8+hadoop 2.7.3搭建hadoop完全分布式集群及基于HDFS的网盘实现...
『实践』VirtualBox 5.1.18+Centos 6.8+hadoop 2.7.3搭建hadoop完全分布式集群及基于HDFS的网盘实现 1.基本设定和软件版本 主机名 ip 对应角色 mas ...
最新文章
- java 返回值判断_在Java中判断方法重载的条件除了参数外,还可以通过返回值类型判断。_学小易找答案...
- c#索引器介绍|C#索引器写法|c#索引器例子
- 服务器内存技术知识充电
- 2020CCPC(长春) - Ragdoll(启发式合并+带权并查集)
- 通过学习反编译和修改IL,阅读高人的代码,提高自身的水平。 【转】
- Access 利用模版实现条码打印功能
- linux中 查看系统属性 与 可执行文件属性 的方法
- Matlab之semilogx、semilogx、loglog函数
- HNCU1324:算法2-2:有序线性表的有序合并(线性表)
- Android获取手机MAC地址
- 【北京-亚运村】这7家公司推荐给你
- WebView中的视频全屏的相关操作
- mysql忘记密码(无秘登录)for Linux
- win10 如何删除电脑开机启动菜单中的一键还原选项
- python 最简单的画图
- 白鸦谈“以用户为中心的设计”
- Android调用跳转百度地图、高德地图、腾讯地图进行目的地导航
- 基于STM32与机智云的智能蜡疗机
- 有哪些免费的思维导图软件?分享两个制作软件给你
- python docx 一种文档缩略语提取方案
热门文章
- 【支付专区】之解析微信支付返回xml
- Android 隐藏Home键、返回键
- 【转载】django在eclipse环境下建web网站
- HDU_2065 红色病毒问题(指数型生成函数)
- 给FreeBSD加上了防火墙
- redhat下网络的配置
- Google Chrome 调试JS利器
- 计算机word考试试题答案,计算机word考试-试题1(附答案解析).doc
- 【数字信号处理】傅里叶变换性质 ( 傅里叶变换时移性质示例 )
- 【错误记录】安卓 RecyclerView 报错 ( only use immediately and call holder.getAdapterPosition() to look it up )