我有flink应用程序,将在DC-1 (数据中心1)的节点上运行,我们计划使用HDFS或AMAZON-S3备份保存点和检查点状态。我的组织中对HDFS和S3的支持是,它不会将写入DC-1的数据复制到DC-2 (他们正在做这件事,但时间线很长)。考虑到这一点,有没有一种方法可以让flink本身以某种方式将flink检查点/保存点写入两个DC?谢谢
发布于 2021-11-22 17:30:31
据我所知,Flink中没有这样的机制。通常,断言数据得到支持并不是数据处理管道的责任。最简单的解决方法是创建一个CRON作业,定期将检查点复制到DC-2。
https://stackoverflow.com/questions/70067791
复制相似问题