我需要对我的Sidekiq作业进行节流,这样我就不会遇到这种失败:
2020-04-23T12:36:24.424Z pid=1 tid=osrlydn8x WARN: ActiveJob::DeserializationError: Error while trying to deserialize arguments: could not obtain a connection from the pool within 5.000 seconds (waited 5.000 seconds); all pooled connections were in use基本上,我要做的是发送许多IP地址到Sidekiq,其中每个IP都是它自己的工作:
ip_array.each do |ip|
ScanJob.perform_later(@scan, ip, ports)
end然后,ScanJob会处理每个传入的IP地址,这可能会花费一些时间,从而有效地消耗Sidekiq工作线程“池”,一旦消耗,任何剩余的作业都会失败,因为所有池连接都在使用中,正如错误所述。
例如,我需要对50个地址运行ScanJob。有没有办法将Sidekiq池的大小限制为一次运行5个,并将剩余的45个排队。当这5个作业完成后,接下来的5个运行(剩余40个排队作业),依此类推?
发布于 2020-04-23 23:13:07
试试这个:bundle exec sidekiq -c 5
https://stackoverflow.com/questions/61389359
复制相似问题