linecache模块加载和缓存文件内容详解

 更新时间:2018年01月11日 10:47:23   作者:GanZiQim  
这篇文章主要介绍了linecache模块加载和缓存文件内容详解,具有一定借鉴价值,需要的朋友可以参考下

linecache模块

接触到linecache这个模块是因为前两天读attrs源码的时候看到内部代码引用了这个模块来模拟一个假文件,带着一脸疑问顺便读了一下这个模块的源码,发现其实也就那么回事儿,代码不多,在这总结一下。

linecache模块可以读取文件并将文件内容缓存起来,方便后面多次读取。这个模块原本被设计用来读取Python模块的源代码,所以当一个文件名不在指定路径下的时候,模块会通过搜索路径(search path)来尝试读取文件。

接口

linecache模块的__all__参数其实只提供了getline/clearcache/checkcache三个接口,但实际上可以使用的不止这些,下面我会对所有接口逐个进行介绍。

linecache.getline(filename, lineno, module_globals=None)

获取指定文件的某一行,filename指定文件名、lineno指定行号、module_globals用于指定模块的上下文我也不知道怎么称呼,姑且称为上下文吧,最后一个参数其实到会传到linecache.updatecache()里,用于尝试使用__loader__加载文件,一般情况下不会用到最后一个参数,忽略即可。当行号小于一或大于文件最大行号时函数直接返回空字符串。

linecache.clearcache()

清空所有缓存,注意是所有。

linecache.checkcache(filename=None)

这个函数用于检查缓存,如果文件的大小或者修改时间有变化,会把文件原先的缓存删除,如果文件是懒加载的则保持不变。当filename为None时检查缓存中的所有文件。

以下是没写进模块__all__参数的接口。

linecache.lazycache(filename, module_globals)

对指定文件使用懒加载,启用懒加载成功的文件会在实际调用获取内容的接口时才将文件内容加载进内存,使用这个可以避免多余的文件IO。返回值为一个布尔值,当懒加载成功时返回True,如果文件内容已经实际加载进内存或者加载失败则返回False。

这个函数的module_globals参数是必填的,其实就是传入要加载文件对应模块的上下文。比如加载linecache模块,则传入linecache.__dict__或者vars(linecache)(目前只想到这两种方法,当然你要自己构建一个字典传进去也是可以的)。然后函数会根据上下文获取__loader__的get_source函数保存到缓存中。这个函数是在Python3.5后新增的。

linecache.updatecache(filename, module_globals=None)

这个函数是整个模块的核心,用于更新文件缓存并返回文件内容。函数中间任何一个环节出错了会返回一个空列表。

对于普通文件,内部使用tokenize.open()函数用于打开文件,检测文件的编码并使用检测到的编码打开文件,如果缺失编码默认使用UTF-8。如果给定路径无法打开文件则使用sys.path指定的路径尝试加载。如果文件内容的最后一行不带\n,会自动在最后一个字符加上\n。

对于懒加载的文件,则调用懒加载时保存的get_source函数获取文件内容。

注意:linecache在打开文件之后使用readlines一次性加载所有文件内容,所以在文件很多或者文件太大时会出现问题,所以还是应该谨慎使用。

linecache.getlines(filename, module_globals=None)

获取文件所有内容,如果文件尚未加载或者是懒加载,会调用linecache.updatecache()加载文件内容,如果出现MemoryError则清空缓存。linecache.getline()其实内部就是调用了这个函数。

linecache.cache

这是一个字典,所有文件的缓存就存在这里面。字典的Key是你读取时传入的filename,Value是一个保存了文件大小、修改时间、内容、名字的元组,当文件为懒加载时则是对应__loader__的get_source函数。

总结

Python标准库内置了很多基础模块,平时不会注意到,但是总有一些别的代码会依赖到这些基础设施,像标准库里的pdb和traceback都有用到linecache模块。这里面其实有不少代码是能加以利用的,平时多多读源码,会有惊喜的。

以上就是本文关于linecache模块加载和缓存文件内容详解的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!

相关文章

  • python 网络编程详解及简单实例

    python 网络编程详解及简单实例

    这篇文章主要介绍了python 网络编程详解及简单实例的相关资料,需要的朋友可以参考下
    2017-04-04
  • VS2022+Python3.11实现C++调用python接口

    VS2022+Python3.11实现C++调用python接口

    在C/C++中嵌入Python,可以使用Python提供的强大功能,通过嵌入Python可以替代动态链接库形式的接口,本文主要介绍了VS2022+Python3.11实现C++调用python接口,感兴趣的可以了解一下
    2023-12-12
  • matplotlib 向任意位置添加一个子图(axes)

    matplotlib 向任意位置添加一个子图(axes)

    这篇文章主要介绍了matplotlib 向任意位置添加一个子图(axes),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-04-04
  • Django在Win7下的安装及创建项目hello word简明教程

    Django在Win7下的安装及创建项目hello word简明教程

    这篇文章主要介绍了Django在Win7下的安装及创建项目hello word,需要的朋友可以参考下
    2014-07-07
  • python求列表交集的方法汇总

    python求列表交集的方法汇总

    这篇文章主要介绍了python求列表交集的方法,实例汇总了三个常用的方法,具有一定的参考借鉴价值,需要的朋友可以参考下
    2014-11-11
  • python网络编程之多线程同时接受和发送

    python网络编程之多线程同时接受和发送

    这篇文章主要为大家详细介绍了python网络编程之多线程同时接受和发送,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-09-09
  • 深入解析Python设计模式编程中建造者模式的使用

    深入解析Python设计模式编程中建造者模式的使用

    这篇文章主要介绍了深入解析Python设计模式编程中建造者模式的使用,建造者模式的程序通常将所有细节都交由子类实现,需要的朋友可以参考下
    2016-03-03
  • Python获取时间戳代码实例

    Python获取时间戳代码实例

    这篇文章主要介绍了Python获取时间戳代码实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-09-09
  • 从运行效率与开发效率比较Python和C++

    从运行效率与开发效率比较Python和C++

    今天小编就为大家分享一篇关于从运行效率与开发效率比较Python和C++,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2018-12-12
  • 浅析python的Lambda表达式

    浅析python的Lambda表达式

    在本文里我们给大家整理了关于python的Lambda表达式相关知识点以及相关实例,需要的朋友们学习下。
    2019-02-02

最新评论