如何通过KafkaAdminClient删除主题配置

Question

我想要删除之前被覆盖的主题的配置(将其重置为默认值)。使用提供的脚本可以做到这一点

$> ./kafka-configs.sh --zookeeper localhost:2181 --alter --entity-type topics \
--entity-name test --delete-config my.overridden.config

有没有办法使用kafka- KafkaAdminClient -1.1.1.jar中提供的客户端来实现这一点？

我刚刚找到了方法org.apache.kafka.clients.admin.KafkaAdminClient.alterConfigs(Map<ConfigResource, Config>, AlterConfigsOptions)，但是当我在将配置值设置为null的情况下调用它时，我在服务器上得到了一个NullPointerException：

[2018-07-31 11:24:01,658] ERROR [Admin Manager on Broker 0]: Error processing alter configs request for resource Resource(type=TOPIC, name='test'}, config org.apache.kafka.common.requests.AlterConfigsRequest$Config@5d4fef59 (kafka.server.AdminManager)
java.lang.NullPointerException
    at java.util.Hashtable.put(Hashtable.java:459)
    at java.util.Properties.setProperty(Properties.java:166)
    at kafka.server.AdminManager$$anonfun$alterConfigs$1$$anonfun$apply$18.apply(AdminManager.scala:357)
    at kafka.server.AdminManager$$anonfun$alterConfigs$1$$anonfun$apply$18.apply(AdminManager.scala:356)
    at scala.collection.Iterator$class.foreach(Iterator.scala:891)
    at scala.collection.AbstractIterator.foreach(Iterator.scala:1334)
    at scala.collection.IterableLike$class.foreach(IterableLike.scala:72)
    at scala.collection.AbstractIterable.foreach(Iterable.scala:54)
    at kafka.server.AdminManager$$anonfun$alterConfigs$1.apply(AdminManager.scala:356)
    at kafka.server.AdminManager$$anonfun$alterConfigs$1.apply(AdminManager.scala:339)
    at scala.collection.TraversableLike$$anonfun$map$1.apply(TraversableLike.scala:234)
    at scala.collection.TraversableLike$$anonfun$map$1.apply(TraversableLike.scala:234)
    at scala.collection.Iterator$class.foreach(Iterator.scala:891)
    at scala.collection.AbstractIterator.foreach(Iterator.scala:1334)
    at scala.collection.IterableLike$class.foreach(IterableLike.scala:72)
    at scala.collection.AbstractIterable.foreach(Iterable.scala:54)
    at scala.collection.TraversableLike$class.map(TraversableLike.scala:234)
    at scala.collection.AbstractTraversable.map(Traversable.scala:104)
    at kafka.server.AdminManager.alterConfigs(AdminManager.scala:339)
    at kafka.server.KafkaApis.handleAlterConfigsRequest(KafkaApis.scala:1987)
    at kafka.server.KafkaApis.handle(KafkaApis.scala:136)
    at kafka.server.KafkaRequestHandler.run(KafkaRequestHandler.scala:69)
    at java.lang.Thread.run(Thread.java:745)

空的列表也不会起作用。

我使用的是2.11-1.1.0版本的Kafka。

Answer 1

Kafka admin jar中提供的许多函数都是API，而不是直接脚本化函数。您可以在java程序中使用zookeeper AdminUtils更改主题的配置，如下所示。向函数发送一个空的属性对象，以清除现有的属性。

import org.I0Itec.zkclient.ZkClient;
import org.I0Itec.zkclient.ZkConnection;
import kafka.admin.AdminUtils;
import kafka.utils.ZKStringSerializer$;
import kafka.utils.ZkUtils;

public static void changeConfig(String topic) {
    ZkClient zkClient = new ZkClient("your_zkHost", 5000, 5000, ZKStringSerializer$.MODULE$);
    ZkUtils zkUtils = new ZkUtils(zkClient, new ZkConnection("your_zkHost"), false);
    Properties prop = new Properties();
    prop.setProperty("retention.ms", "3600000");
    AdminUtils.changeTopicConfig(zkUtils, topic, prop);
}

如果您经常需要此功能，您可以包含一个文件读取器来获取新的配置，并将其打包到jar中以便于执行。