Python内存映射文件读写方式

 更新时间:2020年04月24日 10:56:02   作者:zhangphil  
这篇文章主要介绍了Python内存映射文件读写方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

我就废话不多说了,还是直接看代码吧!

import os
import time
import mmap
 
filename = 'test.txt'
 
#如果不存在,创建。
if not os.path.exists(filename):
 open(filename, 'w')
 
print(os.path.isdir(filename))
if os.path.isfile(filename):
 print(time.ctime(os.path.getctime(filename)))
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字节的文件。
m.seek(2) 
buf1 = bytes(b'Zhang')
m[2:len(buf1)+2] = buf1
 
buf2 = b'Phil'
 
m.seek(20) # 定位写入的位置。
m.write(buf2) # 写入字节数据。
m.close()
 
fd = os.open(filename, os.O_RDWR)
m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ)
m.seek(20)
buf3 = m.read(len(buf2))
m.close()
print(list(buf3))

操作后的test.txt文件内容:

Zhang Phil

补充知识:Python对二进制文件做内存映射,高效优雅地对内容随机访问

读写二进制文件还在使用open函数?

各种组合seek()、read()和write()累不累?

使用 mmap 模块实现对文件的内存映射,让我们读写二进制文件像操作数组一样高效优雅。

先给出一个实用函数,用来演示如何打开一个文件并对它进行内存映射操作。

def memory_map(filename, access=mmap.ACCESS_WRITE):
 size = os.path.getsize(filename)
 fd = os.open(filename, os.O_RDWR)
 return mmap.mmap(fd, size, access=access)

要使用这个函数,需要先准备一个已经创建好的文件并为之填充一些数据。

>>> size = 1000000
>>> with open('data','wb') as f:
  f.seek(size-1)
  f.write(b'\x00')

接着我们可以使用memory_map()函数对文件内容做内存映射,它返回的mmap对象可以让我们像操作数组一样读写二进制文件!

>>> m = memory_map('data')
>>> len(m)
1000000
>>> m[:10]
b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'
>>> m[0]
0
>>> m[0:11]=b'Hello World'#改变一个切片
>>> m.close()
>>> with open('data','rb') as f:#验证改变已经生效
 print(f.read(11))
 
b'Hello World'

由于mmap()返回的mmap对象也可以当作上下文管理器使用,在这种情况下,底层的文件会自动关闭。

>>> with memory_map('data') as m:
 print(len(m))
 print(m[0:11])
 
1000000
b'Hello World'

默认情况下memory_map()函数打开的文件既可以读,也可以写。对数据的任何修改都会拷贝回原始的文件中。

如果需要只读访问,可以为access参数提供mmap.ACCESS_READ值。

m = memory_map(filename, mmap.ACCESS_READ)

如果只想要在本地修改数据,并不想将这些修改写回到原始文件中,可以使用mmap.ACCESS_COPY参数。

m = memory_map(filename, mmap.ACCESS_COPY)

总结:

通过mmap将文件映射到内存之后,我们可以高效并优雅地对文件的内容进行随机访问。

与其打开文件后通过组合各种seek()、read()和write()调用来访问,不如简单将文件映射到内存,然后通过切片操作来访问数据。

需要强调的是,对某个文件进行内存映射并不会导致将整个文件读到内存中。也就是说,文件并不会拷贝到某种内存缓冲区或数组上。相反,操作系统只是为文件内容保留一段虚拟内存而已。

当访问文件的不同区域时,文件的这些区域将被读取并按照需要映射到内存区域中。但是,文件中从未访问过的部分会简单地留在磁盘上。这一切都是以透明的方式在幕后完成的。

如果有多个Python解释器对同一个文件做了内存映射,得到的mmap对象可以用来在解释器之间交换数据。也就是说,所有的解释器可以同时读/写数据,在一个解释器中对数据做出的修改会自动反映到其他解释器上。

虽然还需要一些额外的步骤来处理同步问题,但是有时候可以使用这种方法作为通过管道或者socket传输数据的替代方案。

以上这篇Python内存映射文件读写方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • python数据分析:关键字提取方式

    python数据分析:关键字提取方式

    今天小编就为大家分享一篇python数据分析:关键字提取方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • python Yaml、Json、Dict之间的转化

    python Yaml、Json、Dict之间的转化

    这篇文章主要介绍了python Yaml 、Json 、Dict 之间的转化的示例,帮助大家更好的理解和学习python,感兴趣的朋友可以了解下
    2020-10-10
  • tensorflow 查看梯度方式

    tensorflow 查看梯度方式

    今天小编就为大家分享一篇tensorflow 查看梯度方式,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • python中waitKey实例用法讲解

    python中waitKey实例用法讲解

    在本篇文章里小编给大家整理了一篇关于python中waitKey实例用法讲解,有兴趣的朋友们可以参考学习下。
    2021-04-04
  • python实现CSF地面点滤波算法原理解析

    python实现CSF地面点滤波算法原理解析

    这篇文章主要介绍了python实现CSF地面点滤波算法原理,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-08-08
  • Python程序打包exe报错的几种解决方法

    Python程序打包exe报错的几种解决方法

    本文主要介绍了Python程序打包exe报错的几种解决方法,文中通过几种解决方法的介绍非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2023-08-08
  • Python实现爬取马云的微博功能示例

    Python实现爬取马云的微博功能示例

    这篇文章主要介绍了Python实现爬取马云的微博功能,结合实例形式较为详细的分析了Python模拟ajax请求爬取马云微博的相关操作技巧与注意事项,需要的朋友可以参考下
    2019-02-02
  • 详解Python中string模块除去Str还剩下什么

    详解Python中string模块除去Str还剩下什么

    这篇文章主要介绍了详解Python中string模块除去Str还剩下什么,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-11-11
  • Python 爬虫爬取指定博客的所有文章

    Python 爬虫爬取指定博客的所有文章

    因为Google App Engine 被墙,我无法继续完善我的Moven project 还有20+天才回去,怕到时候会忘记project的进度和细节就趁着个冷的什么都不想干的时候, 大概的总结一下
    2016-02-02
  • Python使用pyfinance包进行证券收益分析

    Python使用pyfinance包进行证券收益分析

    在查找如何使用Python实现滚动回归时,发现一个很有用的量化金融包——pyfinance。顾名思义,pyfinance是为投资管理和证券收益分析而构建的Python分析包,主要是对面向定量金融的现有包进行补充,如pyfolio和pandas等。pyfinance包含六个模块,下面将一一介绍
    2021-11-11

最新评论