用Python读取几十万行文本数据
更新时间：2018年12月24日 11:21:15 作者：accumulate_zhang
今天小编就为大家分享一篇关于用Python读取几十万行文本数据，小编觉得内容挺不错的，现在分享给大家，具有很好的参考价值，需要的朋友一起跟随小编来看看吧
我在使用python读取几十万行的文件中的数据，并构造字典，列表等数据结构时，再访问字典，列表时，一般都会出现内存不够的问题，然后只能循环读取几百行或者一定数量的行数来循环操作。
keyword_list=[line.strip() for line in open("keywords.txt",'r')]
#f1=open("part_wiki_vec.txt",'r')
f1=open("wiki_vectors.txt")
f2=open("result.txt",'w')
i=0
content=f1.readlines()
while i<1150:
for line in content[300*i:300*(i+1)]:
line=line.strip().split(' ')
if line[0] in keyword_list:
wordvec=' '.join(line)
print wordvec
f2.write(wordvec)
#print line
i+=1
我是这样读取的
应该还有很多好的方法，比如多线程等等。
做此记录只为了学习
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作具有一定的参考学习价值，谢谢大家对脚本之家的支持。如果你想了解更多相关内容请查看下面相关链接
相关文章
本文主要介绍了python3.0 对接美团接口的实现示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-05-05
下面小编就为大家分享一篇Numpy掩码式数组详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-04-04
下面小编就为大家带来一篇老生常谈python之鸭子类和多态。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-06-06
这篇文章主要给大家介绍了关于Python图片缩放cv2.resize()的相关资料, resize是opencv库中的一个函数,主要起到对图片进行缩放的作用,文中通过代码介绍的非常详细,需要的朋友可以参考下2023-10-10
电脑连接wifi后,很难直观地看到当前连接wifi的密码,需要借助命令行公管局才可以查看到相关信息,本文为大家介绍一下如何利用python获取电脑所连接的wifi密码,感兴趣的可以了解下2023-11-11
这篇文章主要介绍了Python中类的mro与继承关系，文章围绕主题展开初步认识mro的解析顺序，具有一定的参考价值。需要的朋友可以参考一下2022-07-07
在本篇文章里小编给大家整理的是一篇关于python函数超时自动退出的实操方法，有需要的朋友们可以学习下。2020-12-12
今天小编就为大家分享一篇pandas求两个表格不相交的集合方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-12-12
Python实现封装打包自己写的代码,被python import
这篇文章主要介绍了Python实现封装打包自己写的代码,被python import，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-07-07
这篇文章主要介绍了pytorch深度学习中对softmax实现进行了详细解析，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步2021-09-09
最新评论