c#分页读取GB文本文件

原文:c#分页读取GB文本文件

应用场景：

a.我在做BI开发测试的时候，有可能面对source文件数GB的情况，如果使用一般的文本编辑器，则会卡死，或要等很久才能显示出来。

b.有时候，我们使用ascii(01)或ascii(02)作为行或列的分隔符，这样的临时文件用于导数据到DB,如果文件导入过程中有错误，需要查看文件的时候，普通的编辑器不支持换行，则会很恐怖。

为解决这两个需求，我使用c#完成了一个简单的winform的应用程序。

功能列表：

1.根据配置的行数，写测试文件，指定行终止符，列分隔符暂时没有使用上。

2根据指定的行终止符，和pagesize,分页读取文件内容，而且可以在text和byte间转换。

Sourcecode:

主要的代码如下，使用了一个迭代器：

private IEnumerator<string> ReadLines(string filename){/*string line;using (TextReader reader = File.OpenText(filename)){while ((line = reader.ReadLine()) != null)yield return line;}*/StringBuilder sb = new StringBuilder();using (FileStream fs = File.OpenRead(filename)){int b = 0;while ((b=fs.ReadByte())!=-1){//textbox3 store the row terminatorif (b.ToString() == textBox3.Text.Trim()){yield return sb.ToString();sb.Clear();}elsesb.Append(UnicodeEncoding.ASCII.GetString(new byte[] { byte.Parse(b.ToString()) }));}}}

示例截图：

我测试了一次，生成了1个亿的数据行，在系统中显示占用6GB的空间，

我尝试读写，无卡顿情况。

可以进一步更新：

根据列行分隔符显示到gridview中，这样更清晰。

可以从后往前读文件。

posted on 2014-11-12 00:06 NET未来之路阅读(...) 评论(...) 编辑收藏

转载于:https://www.cnblogs.com/lonelyxmas/p/4090908.html

c#分页读取GB文本文件相关推荐

A.PHP读取txt文本文件并分页显示的方法
PHP读取txt文本文件并分页显示的方法作者:TomRobert 字体:[增加减小] 类型:转载时间:2015-03-11 我要评论这篇文章主要介绍了PHP读取txt文本文件并分页显示的方法, ...
AcFun_API 之分页读取番剧列表
分页读取番剧列表调用地址 (GET) https://www.acfun.cn/bangumilist 参数字段必选类型说明备注 filters false string 过滤方式详情见 ...
AcFun_API 之分页读取作者作品
分页读取作者作品调用地址 (GET) https://www.acfun.cn/u/ + authorID 参数字段必选类型说明备注 quickViewId true string 板块名 ...
Pandas读取中文文本文件报错:python ‘utf-8‘ codec can‘t decode byte 0xe3 in position 0: unexpected end of data
近日用pandas的read_csv读取中文文本文件时报错:python 'utf-8' codec can't decode byte 0xe3 in position 0: unexpected ...
python的读取纯文本文件的几种模式
python读取纯文本文件利用open函数: fout = open(path,[arg]) path表示你要读取的文件的路径,可以是绝对路径,也可以是相对路径. arg表示你读取这个文件采取的模式, ...
C#基础字符串读取/写入文本文件代码示例
C#基础字符串读取/写入文本文件代码示例写入文本文件: 1 class Program 2 { 3 static void Main(String[] args) 4 { 5 //写入strin ...
用 ABAP 读取本地文本文件内容试读版
零基础 ABAP 学习教程系列文章的目录 ABAP 标准培训教程 BC400 学习笔记之一:ABAP 服务器的架构和一个典型的 ABAP 程序结构介绍 ABAP 标准培训教程 BC400 学习笔记之二 ...
用StreamReader读取服务器端文本文件，或远程网页
用StreamReader读取服务器端文本文件,或远程网页放在WebService中,返回字符串,使得ajax解析方便. [WebMethod] public stri ...
python 读取文本文件_如何在Python中读取大文本文件
python 读取文本文件 Python File object provides various ways to read a text file. The popular way is to us ...

c#分页读取GB文本文件

c#分页读取GB文本文件相关推荐

最新文章

热门文章