我们有与本机代码交互的作业,在工作人员处理任务时,内存泄漏是不可避免的。我们问题的简单解决方案是在完成指定数量的任务后重新启动工作人员。
我们是从python的multiprocessing迁移的,它有一个有用的maxtasksperchild选项,它在完成指定数量的任务后关闭了工作人员。
在dask中有什么内置的东西可以与maxtasksperchild媲美吗?
作为解决办法,我们通过将员工地址附加到结果有效负载并在客户端手动调用retire_workers来跟踪已完成任务的工作人员。
发布于 2019-07-19 01:00:48
不,达斯克没有这样的等价物
https://stackoverflow.com/questions/56960284
复制相似问题