Apache Flink:提交Flink作业时的NoSuchMethodError

Question

我正在尝试向我的flink集群提交一个作业，但我一直遇到以下错误：

2021-05-03 17:14:32
java.lang.NoSuchMethodError: org/apache/flink/api/common/state/OperatorStateStore.getSerializableListState(Ljava/lang/String;)Lorg/apache/flink/api/common/state/ListState; (loaded from file:/opt/flink/lib/flink-dist_2.11-1.11.3.jar by jdk.internal.loader.ClassLoaders$AppClassLoader@c7a20636) called from class org.apache.flink.streaming.connectors.kafka.FlinkKafkaConsumerBase (loaded from file:/tmp/blobStore-d962f26c-fc16-4ff4-89da-4d86ed60c35e/job_fdc8c054e20b751b6a6f549af602c3d2/blob_p-5fcb7b854786da736df1bbd47aa02017c714f655-34f669043602e72ef3faf32247ab2b17 by org.apache.flink.util.ChildFirstClassLoader@3952d030).
    at org.apache.flink.streaming.connectors.kafka.FlinkKafkaConsumerBase.initializeState(FlinkKafkaConsumerBase.java:858)
    at org.apache.flink.streaming.util.functions.StreamingFunctionUtils.tryRestoreFunction(StreamingFunctionUtils.java:185)
    at org.apache.flink.streaming.util.functions.StreamingFunctionUtils.restoreFunctionState(StreamingFunctionUtils.java:167)
    at org.apache.flink.streaming.api.operators.AbstractUdfStreamOperator.initializeState(AbstractUdfStreamOperator.java:96)
    at org.apache.flink.streaming.api.operators.StreamOperatorStateHandler.initializeOperatorState(StreamOperatorStateHandler.java:106)
    at org.apache.flink.streaming.api.operators.AbstractStreamOperator.initializeState(AbstractStreamOperator.java:260)
    at org.apache.flink.streaming.runtime.tasks.OperatorChain.initializeStateAndOpenOperators(OperatorChain.java:290)
    at org.apache.flink.streaming.runtime.tasks.StreamTask.lambda$beforeInvoke$1(StreamTask.java:506)
    at org.apache.flink.streaming.runtime.tasks.StreamTask$$Lambda$274/0x0000000014046b10.run(Unknown Source)
    at org.apache.flink.streaming.runtime.tasks.StreamTaskActionExecutor$SynchronizedStreamTaskActionExecutor.runThrowing(StreamTaskActionExecutor.java:92)
    at org.apache.flink.streaming.runtime.tasks.StreamTask.beforeInvoke(StreamTask.java:475)
    at org.apache.flink.streaming.runtime.tasks.StreamTask.invoke(StreamTask.java:526)
    at org.apache.flink.runtime.taskmanager.Task.doRun(Task.java:721)
    at org.apache.flink.runtime.taskmanager.Task.run(Task.java:546)
    at java.base/java.lang.Thread.run(Thread.java:836)

我相信这个问题与版本不匹配有关(我假设是我正在使用的kafka连接器)，但我还没有解决这个问题。我尝试将我的flink版本设置为与我的集群(1.11.3)相同，但错误仍然存在。我也不完全确定如何使用maven-shade-plugin来解决这个问题。任何帮助都将不胜感激！

Answer 1

在release notes for Flink 1.11中，它声明

不推荐使用的状态访问方法()的

删除

我们删除了不推荐使用的状态访问方法RuntimeContext#getFoldingState()、OperatorStateStore#getSerializableListState()和OperatorStateStore#getOperatorState()。这意味着一些针对Flink 1.10编译的代码将不能与Flink 1.11集群一起工作。我们的Kafka连接器就是一个这样的例子，它内部使用了OperatorStateStore.getSerializableListState。

在升级到新版本的Flink时，您应该总是希望重新编译您的用户jars。不保证跨次要版本更新(例如，从1.10.x到1.11.y)的二进制兼容性。(在补丁发布中引入破坏性更改是不常见的，但这种情况已经发生过一两次。)

重述:涉及到的所有内容--您的用户jar、它的依赖项和集群都应该使用相同版本的Flink。