如何用Python合并lmdb文件
更新时间:2022年05月20日 09:55:36 作者:SnailTyan
这篇文章主要为大家详细介绍了如何用Python合并lmdb文件,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
由于Caffe使用的存储图像的数据库是lmdb,因此有时候需要对lmdb文件进行操作,本文主要讲解如何用Python合并lmdb文件。没有lmdb支持的,需要用pip命令安装。
pip install lmdb
代码及注释如下:
# coding=utf-8
# filename: merge_lmdb.py
import lmdb
# 将两个lmdb文件合并成一个新的lmdb
def merge_lmdb(lmdb1, lmdb2, result_lmdb):
print 'Merge start!'
# env代表Environment, txn代表Transaction
# 打开lmdb文件,读模式
env_1 = lmdb.open(lmdb1)
env_2 = lmdb.open(lmdb2)
# 创建事务
txn_1 = env_1.begin()
txn_2 = env_2.begin()
# 打开数据库
database_1 = txn_1.cursor()
database_2 = txn_2.cursor()
# 打开lmdb文件,写模式,
env_3 = lmdb.open(result_lmdb, map_size=int(1e12))
txn_3 = env_3.begin(write=True)
count = 0
# 遍历数据库
for (key, value) in database_1:
# 将数据放到结果数据库事务中
txn_3.put(key, value)
count++
if(count % 1000 == 0):
# 将数据写入数据库,必须的,否则数据不会写入到数据库中
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
if(count % 1000 != 0):
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
for (key, value) in database_2:
txn_3.put(key, value)
if(count % 1000 == 0):
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
if(count % 1000 != 0):
txn_3.commit()
count = 0
txn_3 = env_3.begin(write=True)
# 关闭lmdb
env_1.close()
env_2.close()
env_3.close()
print 'Merge success!'
# 输出结果lmdb的状态信息,可以看到数据是否合并成功
print env_3.stat()
def main():
fr = open('lmdb.txt')
# lmdb1的目录
lmdb1 = fr.readline().strip()
# lmdb2的目录
lmdb2 = fr.readline().strip()
# result lmdb的目录
result_lmdb = fr.readline().strip()
fr.close()
merge_lmdb(lmdb1, lmdb2, result_lmdb)
if __name__ == '__main__':
main()
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。
相关文章
Python错误提示:[Errno 24] Too many open files的分析与解决
这篇文章主要给大家介绍了Python中出现错误提示:[Errno 24] Too many open files的分析与解决,需要的朋友可以参考借鉴,下面来一起看看吧。2017-02-02
Python3实现的爬虫爬取数据并存入mysql数据库操作示例
这篇文章主要介绍了Python3实现的爬虫爬取数据并存入mysql数据库操作,涉及Python正则爬取数据及针对mysql数据库的存储操作相关实现技巧,需要的朋友可以参考下2018-06-06


最新评论