Kafka与Spring框架的连接

Question

有没有人知道Spring Boot与Kafka Connect的集成？有一个spring-kafka项目，我认为它与Kafka客户端进行了很好的集成，但没有连接和流API。

Answer 1

KConnect本身是一个不同的客户端，你不能给它添加spring。通过这样做，您将最终创建自己的客户端，这不能称为KConnect。如果你打算将KConnect插件与spring集成，这是一项艰巨的任务，但仍然是可能的，但我不建议这样做，因为插件在初始化和运行时间方面应该是轻量级的。此外，KConnect并不意味着包含任何业务逻辑，如果没有业务逻辑，那么标准插件应该能够完全满足您的需求。

但是，KStreams可以与spring集成。这就像创建一个bean对象一样简单。这是一个示例

public class SampleStream {

@Autowired
CustomBean myBean;

private static final Logger LOG = LoggerFactory.getLogger(SampleStream.class);

public SampleStream() {
    KafkaStreams stream = getStream();
    LOG.info("Starting Stream {}", stream);

    stream.start();
    Runtime.getRuntime().addShutdownHook(new Thread(stream::close));
}

private KafkaStreams getStream(){

    StreamsBuilder builder = new StreamsBuilder();
    KStream<String, String> requestStream = builder.stream("REQUEST_TOPIC");

    KStream<String, String> responseStream = requestStream.flatMap((key, request) -> {
         myBean.process(request)
        //custom logic
    });

    responseStream.to("RESPONSE_TOPIC");

    return new KafkaStreams(builder.build(), getStreamProperties());
}


private Properties getStreamProperties() {
    String defaultKeySerdes = Serdes.StringSerde.class.getName();
    String defaultValueSerdes = Serdes.StringSerde.class.getName();
    String defaultExceptionHandler = LogAndContinueExceptionHandler.class.getName();

    Properties properties = new Properties();
    properties.put(StreamsConfig.APPLICATION_ID_CONFIG, this.getClass().toString());
    properties.put(StreamsConfig.BOOTSTRAP_SERVERS_CONFIG, "kafka.com:9092");
    properties.put(StreamsConfig.DEFAULT_KEY_SERDE_CLASS_CONFIG, defaultKeySerdes);
    properties.put(StreamsConfig.DEFAULT_VALUE_SERDE_CLASS_CONFIG, defaultValueSerdes);
    properties.put(GenericMessagingConstants.KAFKA_DESERIALIZER_VALUE_CLASS_CONFIG, String.class.getName());
    properties.put(StreamsConfig.DEFAULT_DESERIALIZATION_EXCEPTION_HANDLER_CLASS_CONFIG, defaultExceptionHandler);
    ....
    return properties;
    }
}

在应用上下文中创建Bean，如下所示：

<bean id="sampleStream" class="SampleStream"/>

回答这个问题，因为它花了一些时间来弄清楚。