利用Python读取文件的四种不同方法比对

更新时间：2017年05月18日 14:11:09 作者：时空路由器

Python的文本处理是经常碰到的一个问题，下面这篇文章主要给大家介绍了关于Python读取文件的几种不同方法比对的相关资料，文中给出了详细的示例代码供大家理解和学习，需要的朋友们下面来一起看看吧。

前言

大家都知道Python 读文件的方式多种多样，但是当需要读取一个大文件的时候，不同的读取方式会有不一样的效果。下面就来看看详细的介绍吧。

场景

逐行读取一个 2.9G 的大文件

CPU i7 6820HQ
RAM 32G

方法

对每一行的读取进行一次分割字符串操作

以下方法都使用 with…as 方法打开文件。

with 语句适用于对资源进行访问的场合，确保不管使用过程中是否发生异常都会执行必要的“清理”操作，释放资源，比如文件使用后自动关闭、线程中锁的自动获取和释放等。

方法一最通用的读文件方式

with open(file, 'r') as fh:
 for line in fh.readlines():
 line.split("|")

运行结果：耗时 15.4346568584 秒

系统监视器中显示内存从 4.8G 一下子飙到了 8.4G， fh.readlines() 将读取的所有行数据存到内存，这种方法适合小文件。

方法二

with open(file, 'r') as fh:
 line = fh.readline()
 while line:
 line.split("|")

运行结果：耗时 22.3531990051 秒

内存几乎没有变化，因为内存中只存取一行的数据，但是时间明显比上一次的长，对于进一步处理数据来说效率不高。

方法三

with open(file) as fh:
 for line in fh:
 line.split("|")

运行结果：耗时 13.9956979752 秒

内存几乎没有变化，速度也比方法二快。

for line in fh 将文件对象 fh 视为可迭代的，它自动使用缓冲的 IO 和内存管理，因此您不必担心大文件。这是很 pythonic 的方式！

方法四 fileinput 模块

for line in fileinput.input(file):
 line.split("|")

运行结果：耗时 26.1103110313 秒

内存增加了 200-300 MB，速度是以上最慢的。

总结

以上方法仅供参考，公认的大文件读取方法还是三最好。但是具体情况还是要根据机器的性能、处理数据的复杂度。

好了，以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流，谢谢大家对脚本之家的支持。

您可能感兴趣的文章:

推荐下python/ironpython:从入门到精通
推荐下python/ironpython:从入门到精通...
2007-10-10
Python利用glob库实现轻松应对文件和目录管理
Python提供了glob库，它允许我们根据特定模式匹配文件和目录，本文将详细介绍glob库的用法，并通过实例演示它的各种功能，需要的可以了解一下
2023-07-07
Python中将dataframe转换为字典的实例
下面小编就为大家分享一篇Python中将dataframe转换为字典的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2018-04-04
Python Cookie 读取和保存方法
今天小编就为大家分享一篇Python Cookie 读取和保存方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2018-12-12
python学习将数据写入文件并保存方法
在本篇文章里小编给大家分享的是关于python将数据写入文件并保存的实例内容，需要的朋友们可以学习下。
2020-06-06
python编程实现归并排序
这篇文章主要为大家详细介绍了python编程实现归并排序的具体代码，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2017-04-04
Python编程实现数学运算求一元二次方程的实根算法示例
这篇文章主要介绍了Python编程实现数学运算求一元二次方程的实根算法,涉及Python数学运算求解方程的相关实现技巧,需要的朋友可以参考下
2017-04-04
Python实现小黑屋游戏的完整实例
这篇文章主要给大家介绍了关于Python实现小黑屋游戏的完整实例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2021-01-01
Pandas中Apply函数加速百倍的技巧分享
虽然目前dask,cudf等包的出现，使得我们的数据处理大大得到了加速，但是并不是每个人都有比较好的gpu。本文为大家分享几个Pandas中Apply函数加速百倍的技巧，希望有所帮助
2022-07-07
Python元素集合的列表切片
这篇文章主要介绍了Python元素集合的列表切片，列表是元素的集合，列表的这些子集称为切片，下面违章围绕Python列表切片得相关资料展开学习内容，需要的朋友可以参考一下，希望对你的学习有所帮助
2022-02-02