python读取大型csv文件的操作方法(降低内存占用)

更新时间：2024年03月13日 11:53:33 作者：jieshenai

遇到大型的csv文件时,pandas会把该文件全部加载进内存,从而导致程序运行速度变慢,本文提供了批量读取csv文件、读取属性列的方法,减轻内存占用情况,文中有详细的代码示例,需要的朋友可以参考下

简介

遇到大型的csv文件时，pandas会把该文件全部加载进内存，从而导致程序运行速度变慢。
本文提供了批量读取csv文件、读取属性列的方法，减轻内存占用情况。

import pandas as pd

input_file = 'data.csv'

读取前多少行

加载前100000行数据

df = pd.read_csv(input_file, nrows=1e5)
df

查看每个字段占用的系统内存的情况

df.info(memory_usage='deep')

设置 memory_usage 的参数为 ‘deep’ 时，深度检查对象中的内存使用情况，包括对象中可能包含的其他对象（如列表、数组或其他数据结构）。若不设置deep参数，memory_usage 只会返回一个对象的基础内存使用情况，这主要基于对象本身的内存占用，而不考虑它可能引用的其他对象。

在这里插入图片描述

如上图所示，前100000行数据共占用220.MB内存。

查看每列属性的内存占用情况；

item = df.memory_usage(deep=True)

在这里插入图片描述

针对每个属性列的字节数进行求和，使用/ (1024 ** 2)，实现1B到1MB的单位转换。验证了所有属性列的内存占用确实为 220.8MB。

在这里插入图片描述

内存占用从高到低降序排列：

df.memory_usage(deep=True).sort_values(ascending=False)

在这里插入图片描述

读取属性列

可能我们只关心，一整张表中的某几个属性，比如：'企业名称', '经营范围'。那么便无需把整张表加载进内存。

df2 = pd.read_csv(input_file, nrows=1e5, usecols=['企业名称', '经营范围'])

查看一下内存占用

df2.memory_usage(deep=True).sum() / (1024 ** 2)

在这里插入图片描述

只读取两个属性列，内存占用只有33MB。

逐块读取整个文件

pd.read_csv(input_file, chunksize=1e3, nrows=1e5)

nrows=1e5: 读取100000条数据；
chunksize=1e3: 每一块是1000条数据；

故1e5条数据，应该由100块1e3的数据组成；

# 分批次读取, 每chunksize是一个批次
chunk_dfs = pd.read_csv(input_file, chunksize=1e3, nrows=1e5)

v = 0
cnt = 0
# 每个chunk_df 都是 dataframe 类型数据
for chunk_df in chunk_dfs:
    print(chunk_df.shape)
    cnt += 1
    v += chunk_df.shape[0]

print(v, cnt)

在这里插入图片描述

上图验证了，总共处理了1e5条数据，分成了100块进行读取。

总结

pd.read_csv(input_file, nrows, usecols, chunksize)

nrows: 读取多少行数据；
usecols: 读取哪些属性列的数据；
chunksize：分块读取，每一块的大小是多少条数据；

到此这篇关于python读取大型csv文件的操作方法(降低内存占用)的文章就介绍到这了,更多相关python读取大型csv文件内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

python中pandas nlargest()的详细用法小结
df.nlargest()是一个DataFrame的方法,用于返回DataFrame中最大的n个值所在的行,通过调用nlargest()方法,我们返回了分数最高的三个行,并按照降序排列,本文结合实例代码给大家介绍的非常详细,需要的朋友参考下吧
2023-10-10
解决pandas报错'DataFrame' object has no
这篇文章主要介绍了解决pandas报错'DataFrame' object has no attribute 'as_matrix'问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2023-08-08
python_mask_array的用法
今天小编就为大家分享一篇python_mask_array的用法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2020-02-02
详细介绍Python语言中的按位运算符
这篇文章主要介绍了Python语言中的按位运算符，有需要的朋友可以参考一下
2013-11-11
python实现扫雷游戏
这篇文章主要为大家详细介绍了python实现扫雷游戏，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2020-03-03
排序算法之希尔排序法解析
这篇文章主要介绍了排序算法之希尔排序法解析,希尔排序法（Shell Sort），也称为缩小增量排序，是一种改进的插入排序算法,它通过将待排序的元素按照一定的间隔分组，对每个分组进行插入排序，逐渐减小间隔直至为1，最后对整个序列进行一次插入排序
2023-07-07
Python面向对象程序设计示例小结
这篇文章主要介绍了Python面向对象程序设计,结合实例形式总结分析了Python面向对象程序设计中比较常见的类定义、实例化、继承、私有变量等相关使用技巧与操作注意事项,需要的朋友可以参考下
2019-01-01
Python操作mongodb数据库的方法详解
这篇文章主要介绍了Python操作mongodb数据库的方法,结合实例形式详细分析了Python下载、安装pymongo及操作MongoDB数据库相关实现技巧,需要的朋友可以参考下
2018-12-12
什么是python的必选参数
在本篇文章里小编给大家分享的是一篇关于python必选参数是什么意思的相关知识点，需要的朋友们可以参考下。
2020-06-06
Python中如何给字典设置默认值
这篇文章主要介绍了Python中如何给字典设置默认值问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教
2023-02-02