通过扩展RandomAccessFile类使之具备Buffer改善I/O性能--转载
主体:
目前最流行的J2SDK版本是1.3系列。使用该版本的开发人员需文件随机存取,就得使用RandomAccessFile类。其I/O性能较之其它常用开发语言的同类性能差距甚远,严重影响程序的运行效率。
开发人员迫切需要提高效率,下面分析RandomAccessFile等文件类的源代码,找出其中的症结所在,并加以改进优化,创建一个"性/价比"俱佳的随机文件访问类BufferedRandomAccessFile。
在改进之前先做一个基本测试:逐字节COPY一个12兆的文件(这里牵涉到读和写)。
读 | 写 | 耗用时间(秒) |
---|---|---|
RandomAccessFile | RandomAccessFile | 95.848 |
BufferedInputStream + DataInputStream | BufferedOutputStream + DataOutputStream | 2.935 |
我们可以看到两者差距约32倍,RandomAccessFile也太慢了。先看看两者关键部分的源代码,对比分析,找出原因。
1.1.[RandomAccessFile]
public class RandomAccessFile implements DataOutput, DataInput {public final byte readByte() throws IOException {int ch = this.read();if (ch < 0)throw new EOFException();return (byte)(ch);}public native int read() throws IOException; public final void writeByte(int v) throws IOException {write(v);} public native void write(int b) throws IOException; }
可见,RandomAccessFile每读/写一个字节就需对磁盘进行一次I/O操作。
1.2.[BufferedInputStream]
public class BufferedInputStream extends FilterInputStream {private static int defaultBufferSize = 2048; protected byte buf[]; // 建立读缓存区public BufferedInputStream(InputStream in, int size) {super(in); if (size <= 0) {throw new IllegalArgumentException("Buffer size <= 0");}buf = new byte[size];}public synchronized int read() throws IOException {ensureOpen();if (pos >= count) {fill();if (pos >= count)return -1;}return buf[pos++] & 0xff; // 直接从BUF[]中读取} private void fill() throws IOException {if (markpos < 0)pos = 0; /* no mark: throw away the buffer */else if (pos >= buf.length) /* no room left in buffer */if (markpos > 0) { /* can throw away early part of the buffer */int sz = pos - markpos;System.arraycopy(buf, markpos, buf, 0, sz);pos = sz;markpos = 0;} else if (buf.length >= marklimit) {markpos = -1; /* buffer got too big, invalidate mark */pos = 0; /* drop buffer contents */} else { /* grow buffer */int nsz = pos * 2;if (nsz > marklimit)nsz = marklimit;byte nbuf[] = new byte[nsz];System.arraycopy(buf, 0, nbuf, 0, pos);buf = nbuf;}count = pos;int n = in.read(buf, pos, buf.length - pos);if (n > 0)count = n + pos;} }
1.3.[BufferedOutputStream]
public class BufferedOutputStream extends FilterOutputStream {protected byte buf[]; // 建立写缓存区public BufferedOutputStream(OutputStream out, int size) {super(out);if (size <= 0) {throw new IllegalArgumentException("Buffer size <= 0");}buf = new byte[size];} public synchronized void write(int b) throws IOException {if (count >= buf.length) {flushBuffer();}buf[count++] = (byte)b; // 直接从BUF[]中读取}private void flushBuffer() throws IOException {if (count > 0) {out.write(buf, 0, count);count = 0;}} }
可见,Buffered I/O putStream每读/写一个字节,若要操作的数据在BUF中,就直接对内存的buf[]进行读/写操作;否则从磁盘相应位置填充buf[],再直接对内存的buf[]进行读/写操作,绝大部分的读/写操作是对内存buf[]的操作。
1.3.小结
内存存取时间单位是纳秒级(10E-9),磁盘存取时间单位是毫秒级(10E-3), 同样操作一次的开销,内存比磁盘快了百万倍。理论上可以预见,即使对内存操作上万次,花费的时间也远少对于磁盘一次I/O的开销。 显然后者是通过增加位于内存的BUF存取,减少磁盘I/O的开销,提高存取效率的,当然这样也增加了BUF控制部分的开销。从实际应用来看,存取效率提高了32倍。
回页首
根据1.3得出的结论,现试着对RandomAccessFile类也加上缓冲读写机制。
随机访问类与顺序类不同,前者是通过实现DataInput/DataOutput接口创建的,而后者是扩展FilterInputStream/FilterOutputStream创建的,不能直接照搬。
2.1.开辟缓冲区BUF[默认:1024字节],用作读/写的共用缓冲区。
2.2.先实现读缓冲。
读缓冲逻辑的基本原理:
A 欲读文件POS位置的一个字节。
B 查BUF中是否存在?若有,直接从BUF中读取,并返回该字符BYTE。
C 若没有,则BUF重新定位到该POS所在的位置并把该位置附近的BUFSIZE的字节的文件内容填充BUFFER,返回B。
以下给出关键部分代码及其说明:
public class BufferedRandomAccessFile extends RandomAccessFile { // byte read(long pos):读取当前文件POS位置所在的字节 // bufstartpos、bufendpos代表BUF映射在当前文件的首/尾偏移地址。 // curpos指当前类文件指针的偏移地址。public byte read(long pos) throws IOException {if (pos < this.bufstartpos || pos > this.bufendpos ) {this.flushbuf();this.seek(pos);if ((pos < this.bufstartpos) || (pos > this.bufendpos)) throw new IOException();}this.curpos = pos;return this.buf[(int)(pos - this.bufstartpos)];} // void flushbuf():bufdirty为真,把buf[]中尚未写入磁盘的数据,写入磁盘。private void flushbuf() throws IOException {if (this.bufdirty == true) {if (super.getFilePointer() != this.bufstartpos) {super.seek(this.bufstartpos);}super.write(this.buf, 0, this.bufusedsize);this.bufdirty = false;}} // void seek(long pos):移动文件指针到pos位置,并把buf[]映射填充至POS 所在的文件块。public void seek(long pos) throws IOException {if ((pos < this.bufstartpos) || (pos > this.bufendpos)) { // seek pos not in bufthis.flushbuf();if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // seek pos in file (file length > 0)this.bufstartpos = pos * bufbitlen / bufbitlen;this.bufusedsize = this.fillbuf();} else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // seek pos is append posthis.bufstartpos = pos;this.bufusedsize = 0;}this.bufendpos = this.bufstartpos + this.bufsize - 1;}this.curpos = pos;} // int fillbuf():根据bufstartpos,填充buf[]。private int fillbuf() throws IOException {super.seek(this.bufstartpos);this.bufdirty = false;return super.read(this.buf);} }
至此缓冲读基本实现,逐字节COPY一个12兆的文件(这里牵涉到读和写,用BufferedRandomAccessFile试一下读的速度):
读 | 写 | 耗用时间(秒) |
---|---|---|
RandomAccessFile | RandomAccessFile | 95.848 |
BufferedRandomAccessFile | BufferedOutputStream + DataOutputStream | 2.813 |
BufferedInputStream + DataInputStream | BufferedOutputStream + DataOutputStream | 2.935 |
可见速度显著提高,与BufferedInputStream+DataInputStream不相上下。
2.3.实现写缓冲。
写缓冲逻辑的基本原理:
A欲写文件POS位置的一个字节。
B 查BUF中是否有该映射?若有,直接向BUF中写入,并返回true。
C若没有,则BUF重新定位到该POS所在的位置,并把该位置附近的 BUFSIZE字节的文件内容填充BUFFER,返回B。
下面给出关键部分代码及其说明:
// boolean write(byte bw, long pos):向当前文件POS位置写入字节BW。 // 根据POS的不同及BUF的位置:存在修改、追加、BUF中、BUF外等情 况。在逻辑判断时,把最可能出现的情况,最先判断,这样可提高速度。 // fileendpos:指示当前文件的尾偏移地址,主要考虑到追加因素public boolean write(byte bw, long pos) throws IOException {if ((pos >= this.bufstartpos) && (pos <= this.bufendpos)) { // write pos in bufthis.buf[(int)(pos - this.bufstartpos)] = bw;this.bufdirty = true;if (pos == this.fileendpos + 1) { // write pos is append posthis.fileendpos++;this.bufusedsize++;}} else { // write pos not in bufthis.seek(pos);if ((pos >= 0) && (pos <= this.fileendpos) && (this.fileendpos != 0)) { // write pos is modify filethis.buf[(int)(pos - this.bufstartpos)] = bw;} else if (((pos == 0) && (this.fileendpos == 0)) || (pos == this.fileendpos + 1)) { // write pos is append posthis.buf[0] = bw;this.fileendpos++;this.bufusedsize = 1;} else {throw new IndexOutOfBoundsException();}this.bufdirty = true;}this.curpos = pos;return true;}
至此缓冲写基本实现,逐字节COPY一个12兆的文件,(这里牵涉到读和写,结合缓冲读,用BufferedRandomAccessFile试一下读/写的速度):
读 | 写 | 耗用时间(秒) |
---|---|---|
RandomAccessFile | RandomAccessFile | 95.848 |
BufferedInputStream + DataInputStream | BufferedOutputStream + DataOutputStream | 2.935 |
BufferedRandomAccessFile | BufferedOutputStream + DataOutputStream | 2.813 |
BufferedRandomAccessFile | BufferedRandomAccessFile | 2.453 |
可见综合读/写速度已超越BufferedInput/OutputStream+DataInput/OutputStream。
回页首
优化BufferedRandomAccessFile。
优化原则:
- 调用频繁的语句最需要优化,且优化的效果最明显。
- 多重嵌套逻辑判断时,最可能出现的判断,应放在最外层。
- 减少不必要的NEW。
这里举一典型的例子:
public void seek(long pos) throws IOException {... this.bufstartpos = pos * bufbitlen / bufbitlen; // bufbitlen指buf[]的位长,例:若bufsize=1024,则bufbitlen=10。 ... }
seek函数使用在各函数中,调用非常频繁,上面加重的这行语句根据pos和bufsize确定buf[]对应当前文件的映射位置,用"*"、"/"确定,显然不是一个好方法。
优化一:this.bufstartpos = (pos << bufbitlen) >> bufbitlen;
优化二:this.bufstartpos = pos & bufmask; // this.bufmask = ~((long)this.bufsize - 1);
两者效率都比原来好,但后者显然更好,因为前者需要两次移位运算、后者只需一次逻辑与运算(bufmask可以预先得出)。
至此优化基本实现,逐字节COPY一个12兆的文件,(这里牵涉到读和写,结合缓冲读,用优化后BufferedRandomAccessFile试一下读/写的速度):
读 | 写 | 耗用时间(秒) |
---|---|---|
RandomAccessFile | RandomAccessFile | 95.848 |
BufferedInputStream + DataInputStream | BufferedOutputStream + DataOutputStream | 2.935 |
BufferedRandomAccessFile | BufferedOutputStream + DataOutputStream | 2.813 |
BufferedRandomAccessFile | BufferedRandomAccessFile | 2.453 |
BufferedRandomAccessFile优 | BufferedRandomAccessFile优 | 2.197 |
可见优化尽管不明显,还是比未优化前快了一些,也许这种效果在老式机上会更明显。
以上比较的是顺序存取,即使是随机存取,在绝大多数情况下也不止一个BYTE,所以缓冲机制依然有效。而一般的顺序存取类要实现随机存取就不怎么容易了。
回页首
需要完善的地方
提供文件追加功能:
public boolean append(byte bw) throws IOException {return this.write(bw, this.fileendpos + 1);}
提供文件当前位置修改功能:
public boolean write(byte bw) throws IOException {return this.write(bw, this.curpos);}
返回文件长度(由于BUF读写的原因,与原来的RandomAccessFile类有所不同):
public long length() throws IOException {return this.max(this.fileendpos + 1, this.initfilelen);}
返回文件当前指针(由于是通过BUF读写的原因,与原来的RandomAccessFile类有所不同):
public long getFilePointer() throws IOException {return this.curpos;}
提供对当前位置的多个字节的缓冲写功能:
public void write(byte b[], int off, int len) throws IOException {long writeendpos = this.curpos + len - 1;if (writeendpos <= this.bufendpos) { // b[] in cur buf System.arraycopy(b, off, this.buf, (int)(this.curpos - this.bufstartpos), len);this.bufdirty = true;this.bufusedsize = (int)(writeendpos - this.bufstartpos + 1);} else { // b[] not in cur bufsuper.seek(this.curpos);super.write(b, off, len);}if (writeendpos > this.fileendpos)this.fileendpos = writeendpos;this.seek(writeendpos+1); }public void write(byte b[]) throws IOException {this.write(b, 0, b.length);}
提供对当前位置的多个字节的缓冲读功能:
public int read(byte b[], int off, int len) throws IOException { long readendpos = this.curpos + len - 1;if (readendpos <= this.bufendpos && readendpos <= this.fileendpos ) { // read in bufSystem.arraycopy(this.buf, (int)(this.curpos - this.bufstartpos), b, off, len);} else { // read b[] size > buf[]if (readendpos > this.fileendpos) { // read b[] part in filelen = (int)(this.length() - this.curpos + 1);}super.seek(this.curpos);len = super.read(b, off, len);readendpos = this.curpos + len - 1;}this.seek(readendpos + 1);return len; }public int read(byte b[]) throws IOException {return this.read(b, 0, b.length);} public void setLength(long newLength) throws IOException {if (newLength > 0) {this.fileendpos = newLength - 1;} else {this.fileendpos = 0;}super.setLength(newLength); }public void close() throws IOException {this.flushbuf();super.close();}
至此完善工作基本完成,试一下新增的多字节读/写功能,通过同时读/写1024个字节,来COPY一个12兆的文件,(这里牵涉到读和写,用完善后BufferedRandomAccessFile试一下读/写的速度):
读 | 写 | 耗用时间(秒) |
---|---|---|
RandomAccessFile | RandomAccessFile | 95.848 |
BufferedInputStream + DataInputStream | BufferedOutputStream + DataOutputStream | 2.935 |
BufferedRandomAccessFile | BufferedOutputStream + DataOutputStream | 2.813 |
BufferedRandomAccessFile | BufferedRandomAccessFile | 2.453 |
BufferedRandomAccessFile优 | BufferedRandomAccessFile优 | 2.197 |
BufferedRandomAccessFile完 | BufferedRandomAccessFile完 | 0.401 |
回页首
与JDK1.4新类MappedByteBuffer+RandomAccessFile的对比?
JDK1.4提供了NIO类 ,其中MappedByteBuffer类用于映射缓冲,也可以映射随机文件访问,可见JAVA设计者也看到了RandomAccessFile的问题,并加以改进。怎么通过MappedByteBuffer+RandomAccessFile拷贝文件呢?下面就是测试程序的主要部分:
RandomAccessFile rafi = new RandomAccessFile(SrcFile, "r");RandomAccessFile rafo = new RandomAccessFile(DesFile, "rw");FileChannel fci = rafi.getChannel(); FileChannel fco = rafo.getChannel();long size = fci.size();MappedByteBuffer mbbi = fci.map(FileChannel.MapMode.READ_ONLY, 0, size); MappedByteBuffer mbbo = fco.map(FileChannel.MapMode.READ_WRITE, 0, size); long start = System.currentTimeMillis(); for (int i = 0; i < size; i++) {byte b = mbbi.get(i);mbbo.put(i, b); } fcin.close(); fcout.close(); rafi.close(); rafo.close(); System.out.println("Spend: "+(double)(System.currentTimeMillis()-start) / 1000 + "s");
试一下JDK1.4的映射缓冲读/写功能,逐字节COPY一个12兆的文件,(这里牵涉到读和写):
读 | 写 | 耗用时间(秒) |
---|---|---|
RandomAccessFile | RandomAccessFile | 95.848 |
BufferedInputStream + DataInputStream | BufferedOutputStream + DataOutputStream | 2.935 |
BufferedRandomAccessFile | BufferedOutputStream + DataOutputStream | 2.813 |
BufferedRandomAccessFile | BufferedRandomAccessFile | 2.453 |
BufferedRandomAccessFile优 | BufferedRandomAccessFile优 | 2.197 |
BufferedRandomAccessFile完 | BufferedRandomAccessFile完 | 0.401 |
MappedByteBuffer+ RandomAccessFile | MappedByteBuffer+ RandomAccessFile | 1.209 |
确实不错,看来JDK1.4比1.3有了极大的进步。如果以后采用1.4版本开发软件时,需要对文件进行随机访问,建议采用MappedByteBuffer+RandomAccessFile的方式。但鉴于目前采用JDK1.3及以前的版本开发的程序占绝大多数的实际情况,如果您开发的JAVA程序使用了RandomAccessFile类来随机访问文件,并因其性能不佳,而担心遭用户诟病,请试用本文所提供的BufferedRandomAccessFile类,不必推翻重写,只需IMPORT 本类,把所有的RandomAccessFile改为BufferedRandomAccessFile,您的程序的性能将得到极大的提升,您所要做的就这么简单。
转载:http://www.ibm.com/developerworks/cn/java/l-javaio/
转载于:https://www.cnblogs.com/davidwang456/p/4065742.html
通过扩展RandomAccessFile类使之具备Buffer改善I/O性能--转载相关推荐
- 1.5 RandomAccessFile类:动态读取文件内容
所谓动态读取是指从文件的任意位置开始访问文件,而不是必须从文件开始位置读取到文件末尾.动态读取需要用到 Java 中的 RandomAccessFile 类. RandomAccessFile 是 J ...
- 高度可扩展的类脑神经拟态硬件,完成了字母识别和人脸识别
基于单晶体管的神经元和突触可大幅降低硬件成本,加速神经拟态硬件的商业化.研究人员使用标准硅 CMOS 工艺制造的单晶体管神经元和突触.它们共同集成在同一个8英寸晶圆片上. 韩国科学技术院(KAIST) ...
- RandomAccessFile类解析
[0]README 0.1) 本文描述转自 core java volume 2, 旨在理解 java流与文件--RandomAccessFile类解析 的相关知识: 0.1) 本文 转自: http ...
- css扩展语言_如何决定是否应该链接或扩展CSS类
css扩展语言 by Sarah Dayan 通过莎拉·达扬 如何决定是否应该链接或扩展CSS类 (How to decide whether you should chain or extend C ...
- ASP.NET MVC 扩展HtmlHelper类为 js ,css 资源文件添加版本号
写在前面 在项目部署当中会需要更新 css 文件或 js 等资源文件,为了避免由于浏览器缓存的原因无法加载新的 css 或 js ,一般的做法是在资源文件的后面加上一个版本号来解决,这样浏览器就会去服 ...
- 使用randomaccessfile类将一个文本文件中的内容逆序输出_Java 中比较常用的知识点:I/O 总结...
Java中I/O操作主要是指使用Java进行输入,输出操作. Java所有的I/O机制都是基于数据流进行输入输出,这些数据流表示了字符或者字节数据的流动序列. 数据流是一串连续不断的数据的集合,就象水 ...
- 新型人工突触可用于高度扩展的类脑计算
来源:科技日报 作者:张梦然 科技日报北京12月28日电 (记者张梦然)据最新一期美国化学会期刊<应用材料与界面>报道,新加坡科技与设计大学(SUTD)研究团队开发出一种基于二维(2D)材 ...
- [Google Guava] 2.4-集合扩展工具类
原文链接 译文链接 译者:沈义扬,校对:丁一 简介 有时候你需要实现自己的集合扩展.也许你想要在元素被添加到列表时增加特定的行为,或者你想实现一个Iterable,其底层实际上是遍历数据库查询的结果集 ...
- 29.怎样扩展现有类功能?
实际项目开发中,我们经常会需要对系统的UI控件等进行封装,以达到统一修改.重复代码少.复用性高等效果.OC中,我们一般通过Category来给现有类添加方法:而在Swift中,我们使用Extensio ...
最新文章
- python基础代码库-python基础--注册和登录功能 代码
- 原创关于python中的一些坑点
- C语言计算分段函数pta,PTA浙大版《C语言程序设计(第3版)》题目集 练习2-11 计算分段函数[2] (10分)...
- list python 转tensor_Pytorch--Tensor, Numpy--Array,Python--List 相互之间的转换。
- 笔记本电脑如何保养_嘉兴专业笔记本电脑喷漆加工厂价格实惠
- 设置clion执行前的cmake命令,和CMAKELIST.txt不冲突
- 【宝塔】【cloudreve】挂载阿里云OSS到ECS服务器内网上
- OpenLayers 绘制,选中,鼠标悬浮
- 网吧版XP系统制作与优化终极版(转)
- idea各工作区背景颜色设置
- PHP爬虫最全总结1
- android关于无法debug
- 晶体二极管工作原理(详解)
- 计算机关机界面设置在哪里,如何修改电脑关机图片_win7电脑关机背景怎么设置图文教程...
- LogBack 日志压缩产生上百G的tmp文件问题
- Mybatis数据框架整合
- LED驱动电源EMI整改方案
- 外贸客户开发误解,网上很多看似专业的理论并不切实际
- 智慧养老之基于RFID技术下的智慧养老解决方案-养老院智能看护系统-新导智能
- conda command not found的两种解决方案
热门文章
- cmd怎么运行http_Scrapy源码剖析(二)Scrapy是如何运行起来的?
- html中放大镜案列,Canvas实现放大镜效果完整案例分析(附代码)
- android 之 使用显示意图和隐式意图完成Activity的跳转
- 让电脑死机的java代码_小编为你win7系统Java活动脚本出错导致电脑死机的还原方法...
- gdb 调试core 文件
- pandas Series 的索引对象(一)
- python中回文设计_Python中的回文递归
- NTU课程笔记:MAS 714 algorithm and theory of computing(1):introduction
- 文巾解题 793. 阶乘函数后 K 个零
- 从C语言的角度重构数据结构系列(八)-数据结构堆知识超级丑数