如何限制kafka消费者的事件消费速度,使服务不受影响,.Getting kafka Topic中的海量数据,我需要处理所有的事件。我们有8个消费者从12个分区中读取了kafka主题中的大量数据,但保留时间为5天。那么,我如何从消费者方面进行限制,使消费者不会走下坡路。有没有办法在卡夫卡把消息的阅读速度从消费者方面,例如。比如10分钟内有100个事件。
发布于 2020-11-12 05:04:52
您可以使用kafka quotas限制消费者请求。
如果你的消费者正在“崩溃”,那么代码中可能还有其他问题。例如,在之前的消息被完全处理之前,不要阻止对更多消息的请求。但配额应该有助于限制消费者。
https://stackoverflow.com/questions/64793897
复制相似问题