我使用MQTT使用者作为flink作业的数据源。我想知道如何将数据偏移保存到检查点,以确保在flink集群发生故障后重新启动时不会丢失任何数据。我看到了很多介绍apache如何管理kafka消费者补偿的文章。有谁知道apache是否有自己的功能来管理MQTT使用者?谢谢。
发布于 2022-01-24 08:59:13
发布于 2022-01-24 13:11:18
如果您有一个MQTT使用者,您应该确保它使用数据源API。您可以在https://nightlies.apache.org/flink/flink-docs-master/docs/dev/datastream/sources/上阅读这方面的内容--其中还包括如何与检查点集成。您还可以阅读FLIP 27 https://cwiki.apache.org/confluence/display/FLINK/FLIP-27%3A+Refactor+Source+Interface中的详细信息。
https://stackoverflow.com/questions/70828750
复制相似问题