我正在设置2个kafka簇之间的镜子制造器。
卡夫卡版本:kafka_2.11-2.1.0
我的server.properties有auto.create.topics.enable=true。
我正在我的目标集群上运行mirror maker。
但是当源集群添加一个主题时,新的主题不会自动创建。我最终不得不手动创建它们。即使在手动创建之后,源集群中的记录也不会在这个新主题中填充,直到或除非我重新启动我的镜像生成器。一旦重新启动,它将在源上插入数据后立即开始复制。
Mirror Maker命令
./kafka-mirror-maker.sh --consumer.config consumer.properties --producer.config producer.properties --whitelist '.*' --num.streams 2Consumer.properties
bootstrap.servers=!source_host_name_with_port!
group.id=consumer_replicator_group
client.id=mirror_maker_consumer
exclude.internal.topics=trueProducer.properties
bootstrap.servers=!destination_host_name_with_port!
acks=1
batch.size=100
client.id=mirror_maker_producer有什么想法请告诉我。
发布于 2019-03-04 11:18:26
Kafka网站上有文档说明,首先要在目的地创建主题。如果不匹配,则会获得目标群集上的默认分区和复制计数(通常与源主题不匹配)
https://stackoverflow.com/questions/54966144
复制相似问题