Beam数据流python作业在dist_proc/dax/shuffle/batch/chunking_shuffle_writer.cc#146中失败

Question

我有一个Dataflow作业，该作业多次失败，其中包含以下日志消息：

022-03-27T01:39:21.871476411ZAn异常是在试图执行工作项1257504293434498471 :回溯(最近一次调用)：文件"/usr/local/lib/python3.7/site-packages/dataflow_worker/batchworker.py"，行646、do_work work_executor.execute()文件"/usr/local/lib/python3.7/site-packages/dataflow_worker/executor.py"，第210行、执行op.finish()文件“数据流_工作者/洗牌_操作”(第171行)中引发的。在dataflow_worker.shuffle_operations.ShuffleWriteOperation.finish文件“dataflow_worker/shuffle_Opers.py”中，第172行，在dataflow_worker.shuffle_operations.ShuffleWriteOperation.finish文件“dataflow_worker/shuffle_Opers.py”中，第174行，在dataflow_worker.shuffle_operations.ShuffleWriteOperation.finish文件"/usr/local/lib/python3.7/site-packages/dataflow_worker/shuffle.py"，第593行，在exit self.writer.Close() "third_party/windmill/shuffle/python/shuffle_client.pyx"，第185行中，在shuffle_client.PyShuffleWriter.Close OSError: OSError中，关闭失败: b' failed _ Precondition :先决条件检查失败。[type.googleapis.com/util.MessageSetPayload='dist_proc.dax.internal.TrailProto { trail_point { source_file_loc { filepath："dist_proc/dax/shuffle/batch/chunking_shuffle_writer.cc“行: 146 }} trail_point { source_file_loc { filepath："dist_proc/dax/shuffle/batch/chunking_shuffle_writer.cc”线: 102 }} }']‘

我试着运行了几次，每次都在同一个地方失败。除了这个错误和正在运行的一组DoFns之外，我没有多少线索可以找到问题的所在。

我怀疑是我的代码引起了问题。会喜欢关于如何诊断的建议。

Answer 1

你试过使用转轮v2吗？