如何使用joblib并行化缓存的函数

Question

我想仿冒一个用joblib.Memory缓存的函数，但是我得到了以下错误：

TypeError: can't pickle function objects

以下是代码：

import joblib

mem = joblib.Memory(cachedir='/tmp')


@mem.cache
def foo(x):
    # do some complicated task
    return x + 1

if __name__ == '__main__':
    f = joblib.delayed(foo)
    res = joblib.Parallel(n_jobs=-2)(f(x) for x in range(100))

Answer 1

尝试为修饰函数使用不同的名称，如foo_cached = mem.cache(foo)，而不是装饰器。另见https://github.com/joblib/joblib/issues/226