我们在我们的K8s环境中部署了Flink作业集群(一个作业管理器和一个任务管理器),并将其配置为HA模式(连接到动物园管理员)。作业是有状态的,检查点是使用RocksDB后端启用的。问题是任务管理器重新启动是正确地从上一个检查点恢复的,但是作业管理器重新启动则不是:
[flink-akka.actor.default-dispatcher-5]recover: 2018-11-27 11:23:26,531 INFO o.a.f.r.c.ZooKeeperCompletedCheckpointStore Recovering checkpoints from ZooKeeper.
[flink-akka.actor.default-dispatcher-5]recover: 2018-11-27 11:23:26,596 INFO o.a.f.r.c.ZooKeeperCompletedCheckpointStore Found 0 checkpoints in ZooKeeper.
[flink-akka.actor.default-dispatcher-5]recover: 2018-11-27 11:23:26,597 INFO o.a.f.r.c.ZooKeeperCompletedCheckpointStore Trying to fetch 0 checkpoints from storage.这些检查点被持久化到和动物园管理员。
flink-conf.yaml中的相关性质
metrics.reporters: prom
metrics.reporter.prom.class: org.apache.flink.metrics.prometheus.PrometheusReporter
high-availability: zookeeper
high-availability.zookeeper.quorum: our-k8s-zookeeper-service:2181
high-availability.zookeeper.path.root: /flink
high-availability.cluster-id: /service_cluster
high-availability.storageDir: gs://our-flink-bucket/namespace/service/ha
high-availability.jobmanager.port: 6123
state.backend.fs.memory-threshold: 0
state.checkpoints.dir: gs://our-flink-bucket/namespace/service/checkpoints我们在这里少了什么?
发布于 2018-11-29 09:08:27
最后,我们发现了这个问题,似乎是Flink 1.6.1 (这一个)中的一个bug造成的。
升级到1.6.2解决了这个问题。
https://stackoverflow.com/questions/53499490
复制相似问题