Python lru_cache: кешировать результаты функции

Категория: Python · Язык: Python · Обновлено:

functools.lru_cache запоминает результаты функции по аргументам и возвращает готовое значение при повторном вызове. Это ускоряет чистые функции с дорогими вычислениями: разбор конфигурации, рекурсию, запросы к неизменяемым данным. Кеш хранится в памяти процесса и не разделяется между worker'ами.

Ускорить рекурсивную функцию

Python
from functools import lru_cache

@lru_cache(maxsize=128)
def fib(n: int) -> int:
    if n < 2:
        return n
    return fib(n - 1) + fib(n - 2)

print(fib(10))                    # 55
print(fib.cache_info().hits > 0)  # True

maxsize=128 ограничивает число записей; при переполнении вытесняется давно использованная. maxsize=None отключает ограничение (как functools.cache в Python 3.9+). cache_info() показывает hits, misses и currsize; cache_clear() очищает кеш.

Очистить кеш после изменения данных

Python
fib.cache_clear()
print(fib.cache_info().currsize)  # 0

Кеш строится по хешируемым аргументам. Список, словарь или объект без __hash__ вызовут TypeError. Вызовы f(1) и f(a=1) считаются разными ключами, поэтому придерживайтесь одного стиля. typed=True разделяет 1 и 1.0, если это важно.

Не кешируйте функции с побочными эффектами, зависимостью от времени, файлов или базы: устаревшее значение не обновится само. Для таких случаев используйте TTL-кеш (cachetools) или явную инвалидацию. Кеш держит ссылки на аргументы и результаты, поэтому большие объекты могут остаться в памяти.

lru_cache потокобезопасен для чтения и записи, но два потока могут одновременно вычислить одно значение при промахе. Для тяжёлых вычислений добавьте отдельную блокировку. В multiprocessing каждый процесс имеет свой кеш; для общего кеша нужен Redis или другой внешний store.

Документация: functools.lru_cache, functools.cache.