Python实现快速大文件比较代码解析
更新时间：2020年09月04日 14:52:51 作者：阿遥
这篇文章主要介绍了Python实现快速大文件比较代码解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
问题
假如，在有两个大文件分别存储了大量的数据，数据其实很简单就是一堆字符串，每行存储一条，如何快速筛选出两个文件的异同之处么，或者如何筛选出两个文件中不同的元素呢？
刚开始我是通过最简单的方法，利用for循环去一个个的判断，时间复杂度为m的n次幂，当然当文件数量级为十万或者百万时，速率简直慢到了极点。
解决方法
利用set()的different(方法)可快速比较，两个set集合的不同之处，也就是对集合进行数学运算
假设:数据1拥有858882条记录，数据2有360029条记录，快速挑选出数据2中而不存在与数据1中的数据
方法：先将两个文件中的数据读入两个list：data1和data2，然后通过：set(data2).difference(set(data1))，获取data2与data1的差集
下面为一个小的demo，可以看到近百万级的数据，比较出差集也就需要1秒左右，效率不是一般的高
import time
t1 = time.time()
data1 = []
for i in open("inDB.txt","r",encoding="utf-8"):
i = i.strip("\n")
i = i.lower()
data1.append(i)
data2 = []
for i in open("data/18年.filename","r",encoding="utf-8"):
i = i.strip("\n")
i = i.lower()
data2.append(i)
newdata = set(data2).difference(set(data1))
t2 = time.time()
print(f"data1 length:\t{len(data1)}")
print(f"data2 length:\t{len(data2)}")
print(f"newdata length:\t{len(newdata)}")
print(f"time use:\t{round(t2 - t1,3)}s")
list最多可以存放多少条数据呢？
python中list最多可以存放多少条数据呢？
对于这个问题，有个网友调研了python的文档，结果跟计算机的性能相关
64位机器：2^63-1=9223372036854775807
32位机器：2^31-1=2147483647
import sys
print(sys.maxsize)
print(pow(2,63)-1)
9223372036854775807
9223372036854775807
集合set的操作
| 内置函数 | 作用 |
|---|---|
| add() | 为集合添加元素 |
| clear() | 移除集合中的所有元素 |
| copy() | 拷贝一个集合 |
| difference() | 返回多个集合的差集 |
| difference_update() | 移除集合中的元素，该元素在指定的集合也存在。 |
| discard() | 删除集合中指定的元素 |
| intersection() | 返回集合的交集 |
| intersection_update() | 返回集合的交集。 |
| isdisjoint() | 判断两个集合是否包含相同的元素，如果没有返回 True，否则返回 False。 |
| issubset() | 判断指定集合是否为该方法参数集合的子集。 |
| issuperset() | 判断该方法的参数集合是否为指定集合的子集 |
| pop() | 随机移除元素 |
| remove() | 移除指定元素 |
| symmetric_difference() | 返回两个集合中不重复的元素集合。 |
| symmetric_difference_update() | 移除当前集合中在另外一个指定集合相同的元素，并将另外一个指定集合中不同的元素插入到当前集合中。 |
| union() | 返回两个集合的并集 |
| update() | 给集合添加元素 |
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了Python写捕鱼达人的游戏实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-03-03
这篇文章主要给大家分享了200个Python 标准库总结，主要对文本、数据类型、数学等多个类型总结，既有一定的参考价值，需要的小伙伴可以参考一下2022-01-01
这篇文章主要介绍了python中的多cpu并行编程，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-05-05
在本篇文章里小编给大家整理了关于python爬虫中抓取指数的实例讲解内容，有兴趣的朋友们学习下。2020-12-12
这篇文章主要给大家介绍了关于如何利用PyCharm Profile分析异步爬虫效率的相关资料，文中通过示例代码介绍的非常详细，对大家学习或者使用PyCharm具有一定的参考学习价值，需要的朋友们下面来一起学习学习吧2019-05-05
这篇文章主要介绍了关于 Python json中load和loads区别，文章也有简单的说明它们之间的相同点，然后详细介绍不同点,需要的朋友可以参考一下文章的具体内容2021-11-11
本文介绍了详解用Python处理HTML转义字符的5种方式，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-12-12
win10下tensorflow和matplotlib安装教程
这篇文章主要为大家详细介绍了win10下tensorflow和matplotlib安装教程，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-09-09
这篇文章主要介绍了Python如何用NumPy读取和保存点云数据，文章围绕主题展开详细的内容介绍，具有一定的参考价值，需要的小伙伴可以参考一下2022-08-08
这篇文章主要介绍了Python数据传输黏包问题，黏包指数据与数据之间没有明确的分界线，导致不能正确的读取数据，更多相关内容需要的小伙伴可以参考一下2022-04-04
最新评论