python中functools.lru_cache的具体使用

 更新时间:2024年09月23日 09:28:32   作者:pumpkin84514  
本文主要介绍了python中functools.lru_cache的具体使用,通过functools.lru_cache,你可以轻松优化具有重复计算的函数,大大提高代码的执行效率

1. 优化算法的思想

当算法的复杂度较高时,常见的优化策略包括:

  • 减少重复计算:通过缓存结果避免相同输入的重复计算。这种方法常用在递归和动态规划问题中。
  • 合理使用数据结构:根据具体问题,选择合适的数据结构(如哈希表、堆、树等),以提高操作效率。例如,用哈希表可以加快查找操作。
  • 剪枝(Pruning):在搜索或递归算法中,及时放弃不可能产生最优解的分支,减少无效计算。
  • 分治法(Divide and Conquer):将大问题拆解为多个小问题,分别求解后再合并结果。经典例子是归并排序。
  • 记忆化(Memoization):将已经计算过的结果保存下来,以便下次直接使用。这种策略在递归或递推中尤为重要。
  • 动态规划(Dynamic Programming):通过存储子问题的结果,避免重复计算子问题。

2. LRU 算法与优化思想的关系

LRU(Least Recently Used,最近最少使用) 是一种基于 缓存优化 思想的算法,用于减少重复计算。这与上面的减少重复计算思想紧密相关。LRU 通过缓存结果来加速访问,但同时通过淘汰最近最少使用的缓存项来保证缓存不会无限增长。

LRU 算法的核心思想

  • 保留最近使用的结果,淘汰不常用的结果。
  • 如果缓存容量达到上限,优先淘汰最久未被使用的项。

3. functools.lru_cache

Python 提供了 functools.lru_cache,这是一个基于 LRU 算法的缓存装饰器。它会缓存函数的返回值,当再次调用该函数时,如果参数相同,直接从缓存中返回结果,避免重复计算。lru_cache 自动处理 LRU 淘汰策略,能够显著优化那些需要大量重复计算的场景。

lru_cache 的参数

  • maxsize:缓存的最大容量,超过这个容量时,最近最少使用的数据会被淘汰。maxsize=None 表示没有限制。
  • typed:若设置为 True,不同类型的相同值将被区别对待。例如 1 和 1.0 会被认为是不同的参数。

4. 原理详解:functools.lru_cache 是如何工作的?

  • 缓存机制:当你第一次调用某个函数时,它的计算结果会被缓存起来,储存在一个类似字典的结构中。
  • 缓存命中:当你再次调用该函数,且参数相同时,函数不会再次执行,而是直接返回缓存中的结果。
  • 缓存淘汰:如果缓存的数量达到了 maxsize,并且有新的函数调用进入缓存,则最近最少被使用的缓存项会被淘汰。

5. 如何使用 functools.lru_cache 优化算法

接下来通过一些例子说明如何结合 functools.lru_cache 和 LRU 算法来优化算法。

示例 1:优化递归算法(斐波那契数列)

未优化的版本(时间复杂度为 O(2^n))

def fibonacci(n):
    if n <= 1:
        return n
    return fibonacci(n-1) + fibonacci(n-2)

print(fibonacci(30))  # 计算非常慢,因为存在大量重复计算

优化后的版本(使用 functools.lru_cache

from functools import lru_cache

@lru_cache(maxsize=128)
def fibonacci(n):
    if n <= 1:
        return n
    return fibonacci(n-1) + fibonacci(n-2)

print(fibonacci(30))  # 速度快得多,因为避免了重复计算

maxsize=128:表示最多缓存 128 个结果,超出部分将按 LRU 策略淘汰。

示例 2:带不同参数类型的缓存

@lru_cache(maxsize=100, typed=True)
def double(x):
    return x * 2

print(double(1))   # 缓存 1 的结果
print(double(1.0)) # 缓存 1.0 的结果,区别对待

这里 typed=True 意味着 double(1) 和 double(1.0) 是不同的缓存条目,虽然它们的值相同,但类型不同。

示例 3:缓存大规模计算结果

假设我们有一个耗时的计算,比如对一个大数组的求和操作:

import time

@lru_cache(maxsize=32)
def expensive_sum(arr):
    time.sleep(2)  # 模拟耗时操作
    return sum(arr)

arr = tuple(range(1000000))

# 第一次调用
print(expensive_sum(arr))  # 需要等待 2 秒

# 第二次调用(相同的参数)
print(expensive_sum(arr))  # 立即返回结果,无需等待

由于 arr 是相同的参数,第二次调用时直接从缓存中获取结果。

总结

  • 优化思想:常见的优化策略包括减少重复计算、合理使用数据结构、动态规划等。
  • LRU 算法:是一种缓存淘汰算法,主要用于缓存系统中,通过淘汰最近最少使用的缓存项,优化重复计算问题。
  • functools.lru_cache:是 Python 提供的基于 LRU 算法的缓存工具,用于减少函数的重复计算,自动管理缓存。
  • 应用场景:可以用于递归、动态规划、I/O 缓存等需要重复调用的场景。

通过 functools.lru_cache,你可以轻松优化具有重复计算的函数,大大提高代码的执行效率。

到此这篇关于python中functools.lru_cache的具体使用的文章就介绍到这了,更多相关python functools.lru_cache内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Python爬虫抓取论坛关键字过程解析

    Python爬虫抓取论坛关键字过程解析

    这篇文章主要介绍了Python爬虫抓取论坛关键字过程解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-10-10
  • Pytest测试报告工具Allure的高级用法

    Pytest测试报告工具Allure的高级用法

    这篇文章介绍了Pytest测试报告工具Allure的高级用法,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-07-07
  • Python调用Java可执行jar包问题

    Python调用Java可执行jar包问题

    这篇文章主要介绍了Python调用Java可执行jar包问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-12-12
  • Python collections.deque双边队列原理详解

    Python collections.deque双边队列原理详解

    这篇文章主要介绍了Python collections.deque双边队列原理详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-10-10
  • Python中的bytes类型用法及实例分享

    Python中的bytes类型用法及实例分享

    这篇文章主要介绍了Python中的bytes类型及其用法,Python bytes 类型用来表示一个字节串,bytes 只负责以字节序列的形式来存储数据,下面对其的相关内容介绍,需要的小伙伴可以参考一下
    2022-03-03
  • 连接Python程序与MySQL的教程

    连接Python程序与MySQL的教程

    这篇文章主要介绍了连接Python程序与MySQL的教程,MySQL作为最具人气的数据库,与程序之间的连接也成为了如今Python学习中近乎必备的知识,需要的朋友可以参考下
    2015-04-04
  • Python实现将wav转amr,并转换成hex数组

    Python实现将wav转amr,并转换成hex数组

    这篇文章主要介绍了Python实现将wav转amr,并转换成hex数组方式,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-05-05
  • 用Python制作一个文件加密器

    用Python制作一个文件加密器

    大家好,本篇文章主要讲的是用Python制作一个文件加密器,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下
    2022-02-02
  • 在python中做正态性检验示例

    在python中做正态性检验示例

    今天小编就为大家分享一篇在python中做正态性检验示例,具有很的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-12-12
  • 修复Python Pandas数据标记错误的几种方法总结

    修复Python Pandas数据标记错误的几种方法总结

    用于分析数据的 Python 库称为 Pandas,在 Pandas 中读取数据最常见的方式是通过 CSV 文件,但 CSV 文件的限制是它应该采用特定的格式,否则在标记数据时会抛出错误,在本文中,我们将讨论修复 Python Pandas 错误标记数据的各种方法
    2023-10-10

最新评论