我正在使用Kafka streams,并希望将一些从Java到开头的消费者偏移量重置。KafkaConsumer.seekToBeginning(...)听起来是正确的选择,但我使用的是Kafka Streams:
KafkaStreams streams = new KafkaStreams(builder, props);
...
streams.start();我猜,根据我定义的具体流管道,这将在引擎盖下创建几个消费者。我能接触到这些吗?或者,是否有其他方法可以通过编程方式重置偏移量?
发布于 2017-07-10 07:31:46
由于您使用的是Kafka Streams,因此您不仅需要重置消费者偏移量,还需要重置Streams内部状态存储。
幸运的是,Kafka提供了一个Streams应用程序重置工具。
请参阅https://cwiki.apache.org/confluence/display/KAFKA/Kafka+Streams+Application+Reset+Tool
发布于 2017-11-24 17:00:21
在Hans Jespersens回答的基础上,我成功地使用此代码在Java代码中执行脚本的操作:
import kafka.tools.StreamsResetter;
StreamsResetter resetter = new StreamsResetter();
String[] args = {"--application-id", APP_ID, "--bootstrap-servers", KAFKA_SERVERS, "--input-topics", TEST_TOPIC_NAME, "--zookeeper", ZOOKEEPER};
resetter.run(args);这个类是我在maven中导入的kafka核心库的一部分,使用:
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka_2.12</artifactId>
<version>${kafka.version}</version>
</dependency>https://stackoverflow.com/questions/44995313
复制相似问题