HDFS每日一练2 API读取文件
HDFS每日一练2 API读取文件
题目
在右侧代码编辑区和命令行中,编写代码与脚本实现如下功能:
在
/develop/input/
目录下创建hello.txt
文件,并输入如下数据:迢迢牵牛星,皎皎河汉女。
纤纤擢素手,札札弄机杼。
终日不成章,泣涕零如雨。
河汉清且浅,相去复几许?
盈盈一水间,脉脉不得语。
《迢迢牵牛星》
使用
FSDataOutputStream
对象将文件上传至HDFS
的/user/tmp/
目录下,并打印进度。
测试说明:
测试说明
平台会运行你的java
程序,并查看集群的文件将文件信息输出到控制台,第一行属于警告信息可以忽略。
预期输出:
教程
为了完成本关任务,你需要掌握:FSDataInputStream
对象如何使用。
FSDataOutputStream对象
我们知道在Java
中要将数据输出到终端,需要文件输出流,HDFS
的JavaAPI
中也有类似的对象。 FileSystem
类有一系列新建文件的方法,最简单的方法是给准备新建的文件制定一个path
对象,然后返回一个用于写入数据的输出流:
public FSDataOutputStream create(Path p)throws IOException
该方法有很多重载方法,允许我们指定是否需要强制覆盖现有文件,文件备份数量,写入文件时所用缓冲区大小,文件块大小以及文件权限。
注意:
create()
方法能够为需要写入且当前不存在的目录创建父目录,即就算传入的路径是不存在的,该方法也会为你创建一个目录,而不会报错。如果有时候我们并不希望它这么做,可以先用exists()
方法先判断目录是否存在。
我们在写入数据的时候经常想要知道当前的进度,API
也提供了一个Progressable
用于传递回调接口,这样我们就可以很方便的将写入datanode
的进度通知给应用了。
package org.apache.hadoop.util;
public interface Progressable{public void progress();
}
答案
用命令行创建文件
# mkdir -p /develop/input/
# cd develop/input/
# vim hello.txt
迢迢牵牛星,皎皎河汉女。
纤纤擢素手,札札弄机杼。
终日不成章,泣涕零如雨。
河汉清且浅,相去复几许?
盈盈一水间,脉脉不得语。
《迢迢牵牛星》
写代码
package step3;import java.io.BufferedInputStream;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.net.URI;
import java.io.File;import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.apache.hadoop.util.Progressable;public class FileSystemUpload {public static void main(String[] args) throws IOException {//请在 Begin-End 之间添加代码,完成任务要求。/********* Begin *********/File localPath = new File("/develop/input/hello.txt"); String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";InputStream in = new BufferedInputStream(new FileInputStream(localPath));Configuration conf = new Configuration();FileSystem fs = FileSystem.get(URI.create(hdfsPath), conf);long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;//除以64kb有多少 64kb字节是65536bytesFSDataOutputStream out = fs.create(new Path(hdfsPath), new Progressable(){//该方法在每次上传了64KB字节的文件后就会调用一次long fileCount = 0;public void progress(){System.out.println("总进度"+(fileCount / fileSize) * 100 + "%");fileCount++;}});IOUtils.copyBytes(in, out, 2048, true);/********* End *********/}
}
HDFS每日一练2 API读取文件相关推荐
- HDFS每日一练1 API读取文件
HDFS每日一练1 API读取文件 更多整理都在我的github上:Auraros欢迎大家. 题目 在右侧代码编辑区中编写代码实现如下功能: 使用FSDataInputStream获取HDFS的/us ...
- HTML5 file api读取文件的MD5码工具
1.工具的用途:用HTML5 file api读取文件的MD5码.MD5码在文件的唯一性识别上有很重要的应用,业内常用MD5进行文件识别.文件秒传.文件安全性检查等: 2.适用性:IE.Chrome皆 ...
- Flink 使用Table Api 读取文件数据并写出到文件中
前言 在上一篇我们演示了如何使用Flink 的Table Api 读取文件数据,并过滤特定字段的数据,本篇在上一篇的基础上,将从CSV文件中读取的数据重新输出到一个新的CSV文件中: 在实际业务场景下 ...
- QT每日一练day13:QFileDialog文件浏览框
运行结果(GIF动图): day13.pro QT += core guigreaterThan(QT_MAJOR_VERSION, 4): QT += widgetsCONFIG += c++11# ...
- L24.linux命令每日一练 -- 第三章 文件过滤及内容编辑处理命令 -- diff和vimdiff命令
3.17 diff:比较两个文件的不同 3.17.1 命令详解 [命令星级] ★★★★☆ [功能说明] diff命令可以逐行比较纯文本文件的内容,并输出文件的差异. [语法格式] di ...
- L23.linux命令每日一练 -- 第三章 文件过滤及内容编辑处理命令 -- iconv和dos2unix命令
3.15 iconv:转换文件的编码格式 3.15.1 命令详解 [命令星级] ★★★☆☆ [功能说明] iconv命令用于转换文件的编码格式. [语法格式] iconv [optio ...
- 使用 JavaCSV api 读取和写入 csv 文件
使用JavaCSV api 导包 我现在基本上都是Maven构建项目,相信大家也是,就不提供jar包了. <dependency><groupId>net.sourceforg ...
- 学习File API用于前端读取文件
1. File API简介 File API对于某些专门的网站的不可或缺的.现在常用它实现对文件的预览等功能. File API规定怎么从硬盘上提取文件,直接交给在网页中运行中的Javascript代 ...
- 使用J2SE API读取Properties文件的六种方法(选择自 kindani 的 Blog )
使用J2SE API读取Properties文件的六种方法 1.使用java.util.Properties类的load()方法 示例: InputStream in = lnew BufferedI ...
最新文章
- dlopen failed: library “libopencv_java4.so“ not found 解决
- UA SIE545 优化理论基础1 例题2 Farkas定理与相关结论
- 使Docker搭建Java Web运行环境
- FCN学习:Semantic Segmentation
- 快速git本地项目到github的关键命令及执行步骤(附上idea到git的步骤)
- 【剑指offer】反转链表
- [html] 编写一个布局,让文字环绕在图片的周围
- Spring Cloud Greenwich 新特性和F升级分享
- Android开发技术周报 Issue#77
- [转]OAuth 认证步骤
- 应用机器学习(六):决策树
- 【脱壳-寻找OEP】通过堆栈平衡法找到OEP(ESP定律)
- 【webssh】网页上的SSH终端
- LayaBox---TypeScript---基础数据类型
- 高格VE8产品技术白皮书
- REINFORCE和Reparameterization Trick
- 视频物体检测(VID) FGFA:Flow-Guided Feature Aggregation for Video Object Detection
- 潘金莲改变了历史吗 - PostgreSQL舆情事件分析应用
- 下面关于在dos停止mysql_下面关于在DOS停止MySql的命令中,正确的是 (5.0分)_学小易找答案...
- [附源码]Python计算机毕业设计Django高校社团管理系统