c#分页读取GB文本文件实例
更新时间：2014年11月06日 15:37:43 投稿：shichen2014
这篇文章主要介绍了c#分页读取GB文本文件的方法,对于C#实现对大数据量的读取非常具有实用价值,需要的朋友可以参考下
本文实例讲述了c#分页读取GB文本文件的方法。分享给大家供大家参考。具体如下：
一、应用场景：
① .我在做BI开发测试的时候，有可能面对source文件数GB的情况，如果使用一般的文本编辑器，则会卡死，或要等很久才能显示出来。
② .有时候，我们使用ascii(01)或ascii(02)作为行或列的分隔符，这样的临时文件用于导数据到DB,如果文件导入过程中有错误，需要查看文件 的时候，普通的编辑器不支持换行，则会很恐怖。
为解决这两个需求，我使用c#完成了一个简单的winform的应用程序。
功能列表：
1.根据配置的行数，写测试文件，指定行终止符，列分隔符暂时没有使用上。
2.根据指定的行终止符，和pagesize,分页读取文件内容，而且可以在text和byte间转换。
二、实现代码:
主要的代码如下，使用了一个迭代器：
复制代码 代码如下:
private IEnumerator<string> ReadLines(string filename)
{
/*
string line;
using (TextReader reader = File.OpenText(filename))
{
while ((line = reader.ReadLine()) != null)
yield return line;
}
*/
StringBuilder sb = new StringBuilder();
using (FileStream fs = File.OpenRead(filename))
{
int b = 0;
while ((b=fs.ReadByte())!=-1)
{
//textbox3 store the row terminator
if (b.ToString() == textBox3.Text.Trim())
{
yield return sb.ToString();
sb.Clear();
}
else
sb.Append(UnicodeEncoding.ASCII.GetString(new byte[] { byte.Parse(b.ToString()) }));
}
}
}
{
/*
string line;
using (TextReader reader = File.OpenText(filename))
{
while ((line = reader.ReadLine()) != null)
yield return line;
}
*/
StringBuilder sb = new StringBuilder();
using (FileStream fs = File.OpenRead(filename))
{
int b = 0;
while ((b=fs.ReadByte())!=-1)
{
//textbox3 store the row terminator
if (b.ToString() == textBox3.Text.Trim())
{
yield return sb.ToString();
sb.Clear();
}
else
sb.Append(UnicodeEncoding.ASCII.GetString(new byte[] { byte.Parse(b.ToString()) }));
}
}
}
示例截图如下所示：
我测试了一次，生成了1个亿的数据行，在系统中显示占用6GB的空间，
我尝试读写，无卡顿情况。
可以进一步更新：
根据列行分隔符显示到gridview中，这样更清晰。
可以从后往前读文件。
希望本文所述对大家的C#程序设计有所帮助。
相关文章
c# socket心跳超时检测的思路(适用于超大量TCP连接情况下)
这篇文章主要介绍了c# socket心跳超时检测的思路(适用于超大量TCP连接情况下)，帮助大家更好的理解和学习使用c#，感兴趣的朋友可以了解下2021-03-03
这篇文章主要介绍了C#弹出对话框确定或者取消执行相应操作的实例代码,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-12-12
C# 控件属性和InitializeComponent()关系案例详解
这篇文章主要介绍了C# 控件属性和InitializeComponent()关系案例详解,本篇文章通过简要的案例,讲解了该项技术的了解与使用,以下就是详细内容,需要的朋友可以参考下2021-08-08
CefSharp简单来说就是一款.Net编写的浏览器包，本文主要介绍了CefSharp如何进行页面的缩放，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-06-06
这篇文章主要介绍了C#中Dictionary的作用及用法讲解,本文还对dictionary类用什么接口实现、Dictionary的基本用法做了讲解,需要的朋友可以参考下2014-10-10
这篇文章主要介绍了C#警惕匿名方法造成的变量共享,以实例形式分析了C#的匿名方法造成变量共享的原因及对应的解决方法,具有一定参考借鉴价值,需要的朋友可以参考下2015-11-11
这篇文章主要介绍了C#实现 Server-sent Events的步骤，帮助大家更好的理解和使用c#，感兴趣的朋友可以了解下2021-01-01
这篇文章主要为大家详细介绍了基于C#实现串口通信，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2022-02-02
这篇文章介绍了C#使用Task实现并行编程的方法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-08-08
这篇文章主要介绍了C#命名空间与java包的区别,较为详细的分析了C#命名空间与java包的相同点与不同点,非常具有实用价值,需要的朋友可以参考下2015-04-04
最新评论