【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS
第1关:HDFS的基本操作
任务描述
本关任务:使用 Hadoop
命令来操作分布式文件系统。
编程要求
在右侧命令行中启动 Hadoop
,进行如下操作。
- 在
HDFS
中创建/usr/output/
文件夹; - 在本地创建
hello.txt
文件并添加内容:“HDFS
的块比磁盘的块大,其目的是为了最小化寻址开销。”; - 将
hello.txt
上传至HDFS
的/usr/output/
目录下; - 删除
HDFS
的/user/hadoop
目录; - 将
Hadoop
上的文件hello.txt
从HDFS
复制到本地/usr/local
目录。
测试说明
平台会查看你本地的文件和 HDFS
的文件是否存在,如果存在,则会将其内容输出到控制台。
预期输出:
HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。HDFS的块比磁盘的块大,其目的是为了最小化寻址开销。
代码如下
start-dfs.sh
hadoop fs -mkdir /usr
hadoop fs -mkdir /usr/output
vim hello.txt
hadoop fs -put hello.txt /usr/output
hadoop fs -rm -r /user/hadoop
hadoop fs -copyToLocal /usr/output/hello.txt /usr/local
第2关:HDFS-JAVA接口之读取文件
任务描述
本关任务:使用 HDFS
的 Java
接口进行文件的读写,文件 uri
地址为 hdfs://localhost:9000/user/hadoop/task.txt
。
编程要求
在右侧代码编辑区中编写代码实现如下功能:
- 使用
FSDataInputStream
获取HDFS
的/user/hadoop/
目录下的task.txt
的文件内容,并输出,其中uri
为hdfs://localhost:9000/user/hadoop/task.txt
。
测试说明
点击评测,平台会通过脚本创建 /user/hadoop/task.txt
文件并添加相应内容,无需你自己创建,开启 hadoop
,编写代码点击评测即可。因为 Hadoop
环境非常消耗资源,所以你如果一段时间不在线,后台会销毁你的镜像,之前的数据会丢失(你的代码不会丢失),这个时候需要你重新启动 Hadoop
。
预期输出:
WARN [main] - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 怕什么真理无穷,进一寸有一寸的欢喜。
第一行打印出来的是
log4j
的日志警告,可以忽略。
代码如下
//先再命令行输入如下代码,然后再去代码文件粘贴java代码
start-dfs.sh
vim test.txt
i
//按i进入修改模式后,把下列中文粘贴进去 ctl+shift+v
独坐池塘如虎踞,绿荫树下养精神。春来我不先开口,哪个虫儿敢作声。
//按Esc键推出修改模式
Esc
//输入:wq推出命令行模式
:wq
package step2;import java.io.IOException;
import java.io.InputStream;
import java.net.URI;import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;public class FileSystemCat {public static void main(String[] args) throws IOException {//请在Begin-End之间添加你的代码,完成任务要求。//请按照左侧的编程要求进行编写代码//文件地址为 "hdfs://localhost:9000/user/hadoop/task.txt"/********* Begin *********/URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");Configuration config = new Configuration();FileSystem fs = FileSystem.get(uri,config);InputStream in = null;try{in = fs.open(new Path(uri));IOUtils.copyBytes(in, System.out,2048,false);}catch (Exception e){IOUtils.closeStream(in);}/********* End *********/}
}
第3关:HDFS-JAVA接口之上传文件
任务描述
本关任务:使用 HDFSAPI
上传文件至集群。
编程要求
在右侧代码编辑区和命令行中,编写代码与脚本实现如下功能:
在
/develop/input/
目录下创建hello.txt
文件,并输入如下数据: 迢迢牵牛星,皎皎河汉女。 纤纤擢素手,札札弄机杼。 终日不成章,泣涕零如雨。 河汉清且浅,相去复几许? 盈盈一水间,脉脉不得语。 《迢迢牵牛星》使用
FSDataOutputStream
对象将文件上传至HDFS
的/user/tmp/
目录下,并打印进度。
测试说明
平台会运行你的 java
程序,并查看集群的文件将文件信息输出到控制台,第一行属于警告信息可以忽略。
代码如下
//先再命令行输入如下代码,然后再去代码文件粘贴java代码
start-dfs.sh
mkdir -p /develop/input
cd /develop/input
vim hello.txt
i
//输入i进入修改模式后把下面诗句粘贴进去 ctl+shift+v
迢迢牵牛星,皎皎河汉女。
纤纤擢素手,札札弄机杼。
终日不成章,泣涕零如雨。
河汉清且浅,相去复几许?
盈盈一水间,脉脉不得语。
《迢迢牵牛星》
//按Esc键退出修改模式
Esc
//输入:wq退出命令行模式
:wq
package step3;import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;public class FileSystemUpload {public static void main(String[] args) throws IOException {//请在 Begin-End 之间添加代码,完成任务要求。/********* Begin *********/File localPath = new File("/develop/input/hello.txt");String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";InputStream in = new BufferedInputStream(new FileInputStream(localPath));Configuration config = new Configuration();FileSystem fs = FileSystem.get(URI.create(hdfsPath), config);long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1; FSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable() {long fileCount = 0;public void progress() {System.out.println("总进度" + (fileCount / fileSize) * 100 + "%");fileCount++;}});IOUtils.copyBytes(in, out, 2048, true);/********* End *********/}
}
第4关:HDFS-JAVA接口之删除文件
任务描述
本关任务:删除 HDFS
中的文件和文件夹。
编程要求
在右侧代码区填充代码,实现如下功能:
- 删除
HDFS
的/user/hadoop/
目录(空目录); - 删除
HDFS
的/tmp/test/
目录(非空目录); - 列出
HDFS
根目录下所有的文件和文件夹; - 列出
HDFS
下/tmp/
的所有文件和文件夹。
测试说明
HDFS
的文件夹在你点击评测是会通过脚本自动创建,不需要你自己创建哦,依照题意编写代码点击评测即可。
代码如下
//先再命令行输入如下代码,然后再去代码文件粘贴java代码
start-dfs.sh
package step4;import java.io.IOException;
import java.net.URI;import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FileUtil;
import org.apache.hadoop.fs.Path;public class FileSystemDelete {public static void main(String[] args) throws IOException {//请在 Begin-End 之间添加代码,完成本关任务。/********* Begin *********/String root = "hdfs://localhost:9000/";String path = "hdfs://localhost:9000/tmp";String del1 = "hdfs://localhost:9000/user/hadoop";String del2 = "hdfs://localhost:9000/tmp/test";Configuration config = new Configuration();FileSystem fs = FileSystem.get(URI.create(root),config);fs.delete(new Path(del1),true);fs.delete(new Path(del2),true);Path[] paths = {new Path(root),new Path(path)};FileStatus[] status = fs.listStatus(paths);Path[] listPaths = FileUtil.stat2Paths(status);for (Path path1 : listPaths){System.out.println(path1);}/********* End *********/}
}
【头歌】大数据从入门到实战 - 第2章 分布式文件系统HDFS相关推荐
- 大数据从入门到实战 - 第2章 分布式文件系统HDFS
大数据从入门到实战 - 第2章 分布式文件系统HDFS 一.关于此次实践 1.实战简介 2.全部任务 二.实践详解 1.第1关: HDFS 的基本操作 2.第2关:HDFS-JAVA接口之读取文件 3 ...
- 大数据从入门到实战 - 第2章 分布式文件系统HDFS,cz教你玩转HDFS
第1关:HDFS的基本操作: 为了完成本关任务你需要了解的知识有:1.HDFS的设计,2.HDFS常用命令. HDFS的设计 分布式文件系统 客户:帮我保存一下这几天的数据. 程序猿:好嘞,有多大呢? ...
- 头歌大数据技术第二关 大数据从入门到实战 - 第2章 分布式文件系统HDFS
第1关 HDFS的基本操作 pwd 回车 cd / 回车 mkdir /develop 回车 mkdir /develop/input 回车 mkdir /develop/output 回车 star ...
- 大数据从入门到实战 - 第3章 MapReduce基础实战
大数据从入门到实战 - 第3章 MapReduce基础实战 一.关于此次实践 1.实战简介 2.全部任务 二.实践详解 1.第 1 关:成绩统计 2.第 2 关:文件内容合并去重 3.第 3 关:信息 ...
- 大数据技术原理与应用(第三章 分布式文件系统HDFS)
目录 3.1分布式文件系统HDFS简介 计算机集群的基本架构 分布式文件系统结构图 HDFS实现目标 HDFS自身局限性 3.2HDFS相关概念 块的设计优势 HDFS两大组件--NameNode和D ...
- 大数据技术第三章-分布式文件系统HDFS
前言:马上期末考试了,瑟瑟发抖~ 总结了一些大数据技术原理和应用的知识点,如有错误,请求指正~ 大数据技术原理与应用期末复习前两章知识点 1.HDFS集群采用主从结构,节点主要包括名称节点和数据节点 ...
- 大数据从入门到实战——Hive综合应用案例 ——学生成绩查询
Hive综合应用案例 - 学生成绩查询 第1关 计算每个班的语文总成绩和数学总成绩 第2关 查询选修了3门以上的课程的学生姓名 第3关 课程选修人数 第4关 shujuku课程的平均成绩 第1关 计算 ...
- 大数据从入门到实战-HDFS-JAVA接口之上传文件
FSDataOutputStream对象 我们知道在Java中要将数据输出到终端,需要文件输出流,HDFS的JavaAPI中也有类似的对象. FileSystem类有一系列新建文件的方法,最简单的方法 ...
- 大数据从入门到实战- 信息挖掘 - 挖掘父子关系
你编写的程序要能挖掘父子辈关系,给出祖孙辈关系的表格.规则如下: 孙子在前,祖父在后: 输入文件路径:/user/reduce/input: 输出文件路径:/user/reduce/output. 代 ...
最新文章
- TFS 报错解决方案:tf400324
- SQLMAP使用笔记
- c语言随机迷宫生成方法,[原创]递归随机迷宫生成算法详解
- Windows编程之使用外部动态链接库——纸牌
- 信息学奥赛一本通(1046:判断一个数能否同时被3和5整除)
- fiddler修改支付金额_支付漏洞总结
- Cross-Modal Retrieval——为什么要使用GAN呢?
- java 分隔函数split(,-1)的用途
- 3. redis的超时,事务,watch
- 转速恒压频比交流变频调速系统Simulink仿真,可观察到电压频率的变比情况以及电动机的转速波形。
- matlab $r$n$m,维纳滤波器推导以及MATLAB代码(Wiener Filter)
- VSCode python extension loading 终极解决方案
- 天猫精灵 python_天猫精灵控制esp8266点led灯
- SemanticKITTI 数据集(ICCV 2019)
- 蓦然回首,十余年的程序员生涯最后就只剩下了这些!希望我犯过的错误你不要再犯!
- Tencent SSL 数字证书安装部署
- 智能化变电站辅助系统与生产系统结合的未来发展方向
- 马斯克亲自审核代码,裁员50%员工,硅谷程序员的福报来了
- android 中shape的使用
- 逻辑门电路符号图(与门或门非门同或门异或门)