hadoop学习笔记(八):Java HDFS API

阅读目录

  • 一、使用HDFS FileSystem详解

回到顶部

一、使用HDFS FileSystem详解

HDFS依赖的第三方包:

  hadoop 1.x版本:

  commons-configuration-1.6.jar

  commons-lang-2.4.jar

  commons-loggin-1.1.1.jar

  hadoop-core-1.2.1.jar

  log4j-1.2.15.jar

  hadoop2.x版本:

  hadoop-mapreduce-client-core-2.2.0.jar

  hadoop-common-2.2.0.jar 

  hadoop-mapreduce-client-common-2.2.0.jar

  hadoop-mapreduce-client-jobclient-2.2.0.jar

注意:可根据自身的情况和版本信息手动添加或maven仓库依赖。

文件操作

  1 工具类的创建:

  创建一个工具类HDFSUtils,主要用来加载公共信息:  

 HDFSUtils

  2 上传文件到HDFS

 上传文件

  3 读取文件

 读取文件

 查看目录

  4 在hadoop fs中新建文件,并写入

 创建文件

 创建文件并写入内容

  5 重命名文件

 重命名

  6 删除hadoop fs上的文件

 删除

HDFS信息

  1 查找某个文件在HDFS集群中的位置

 查找某个文件在HDFS中的位置

  2 获取HDFS集群上所有节点名称信息

 获取HDFS集群上所有节点名称信息

hadoop学习笔记(八):Java HDFS API相关推荐

  1. Hadoop学习笔记之HDFS

    Hadoop学习笔记之HDFS HDFS (Hadoop Distributed File System) 优点 缺点 HDFS操作 命令操作HDFS Web端操作HDFS Java操作HDFS HD ...

  2. Hadoop学习笔记(四)HDFS部分下

    Hadoop学习笔记(四)HDFS部分下 一.HDFS 的数据流 1.1 HDFS的写数据流程 客户端通过 Distributed FileSystem 模块向 NameNode 请求上传文件,Nam ...

  3. Hadoop学习笔记一 简要介绍

    Hadoop学习笔记一 简要介绍 这里先大致介绍一下Hadoop.     本文大部分内容都是从官网Hadoop上来的.其中有一篇介绍HDFS的pdf文档,里面对Hadoop介绍的比较全面了.我的这一 ...

  4. hadoop学习笔记-目录

    以下是hadoop学习笔记的顺序: hadoop学习笔记(一):概念和组成 hadoop学习笔记(二):centos7三节点安装hadoop2.7.0 hadoop学习笔记(三):hdfs体系结构和读 ...

  5. Hadoop学习笔记—16.Pig框架学习

    Hadoop学习笔记-16.Pig框架学习 一.关于Pig:别以为猪不能干活 1.1 Pig的简介 Pig是一个基于Hadoop的大规模数据分析平台,它提供的SQL-LIKE语言叫Pig Latin, ...

  6. Hadoop学习笔记(1) ——菜鸟入门

     Hadoop学习笔记(1) --菜鸟入门 Hadoop是什么?先问一下百度吧: [百度百科]一个分布式系统基础架构,由Apache基金会所开发.用户能够在不了解分布式底层细节的情况下.开发分布式 ...

  7. Hadoop学习笔记(1)

    原文:http://www.cnblogs.com/zjfstudio/p/3859704.html Hadoop学习笔记(1) --菜鸟入门 Hadoop是什么?先问一下百度吧: [百度百科]一个分 ...

  8. Hadoop学习笔记—4.初识MapReduce

    一.神马是高大上的MapReduce MapReduce是Google的一项重要技术,它首先是一个 编程模型 ,用以进行大数据量的计算.对于大 数据量的计算,通常采用的处理手法就是并行计算.但对许多开 ...

  9. Hadoop学习笔记—10.Shuffle过程那点事儿

    Hadoop学习笔记-10.Shuffle过程那点事儿 一.回顾Reduce阶段三大步骤 在第四篇博文<初识MapReduce>中,我们认识了MapReduce的八大步骤,其中在Reduc ...

最新文章

  1. 【转】符串搜索工具及XenoCode字符串自动解密工具
  2. 推荐一个Asp.Net Core工具库
  3. java ajax 导出excel文件_springMVC(4)---生成excel文件并导出
  4. linux svn可视化工具,CentOS6.5安装SVN 可视化管理工具iF.SVNAdmin
  5. DMA及cache一致性的学习心得 --dma_alloc_writecombine
  6. 图像增强处理之:同态滤波与Retinex算法(一)同态滤波
  7. 软件是如何做到控制芯片电路的闭合的?
  8. [C#]Excel画斜线以及Excel宏的利用
  9. 从区块链到DAG(三)--DAG共识之SPECTRE协议
  10. pr使用视频素材技巧
  11. Nature Cell Biology:揭示 PI3K-Akt 信号通路新机制,有望成为癌症治疗新靶点
  12. cocos2d-x游戏开发 跑酷(四) 关联物理世界
  13. Modeling Task Relationships in Multi-task Learning withMulti-gate Mixture-of-Experts
  14. 在vue里使用reset.css
  15. PHP一句话木马Webshell变形免杀总结
  16. bash中正确处理文件或路径名中的空格
  17. 数据看板用什么软件做比较好-九数云
  18. 拼图游戏-恶搞整蛊表白软件
  19. Vegas色键的使用技巧
  20. 无人机送快递是噱头还是方向? 实现智慧物流还需时日

热门文章

  1. JAVA毕设项目劳务外包管理系统(java+VUE+Mybatis+Maven+Mysql)
  2. 怎么监控Linux流量,linux下监控流量
  3. 一阶系统的时域和频域分析
  4. applyTo和renderTo配置项
  5. linux netstart命令
  6. python汉字排序_Python实现针对中文排序的方法
  7. Java-对象相等判断
  8. Windows批处理 遍历当前文件夹 循环删除指定文件
  9. Java 轻量级框架Spring曝出0day漏洞
  10. 查看 adb 可执行命令