KubernetesPodOperator中的气流条件重试

Question

我想在我的kube操作符中编写先进的重试机制。

1. 如果第一次执行失败-使用更多内存重新运行，则以上使用jinja模板的示例无法工作:-(

opr_kube = KubernetesPodOperator(
    namespace="development",
    image='bla',
    node_selectors={"servertype": "worker", "env": "development"},
    resources=pod.Resources(request_memory='{{task_instance.try_number}}g', limit_memory='{{task_instance.try_number}}g'),
    name="bla",
    task_id='bla',
    default_args=default_args,
    dag=dag
)

1. 我想了解错误是否是由于内存不足事件造成的。有一个接口来识别这一点？我想写外部函数给kube-cli

- on-retry hook is not relevant here because there is no option to trigger the operator again with more memory.
- when I add inline function, inside the parameter, the scheduler will execute this function every X seconds and I want to execute it once the task failed.

​

Answer 1

我想了解错误是否是由于内存不足事件造成的：

由于任务实例失败的原因，请检查气流网络接口=> DAG的图视图

关于Kubernetes操作符重试选项，这里是一个例子，但您应该首先了解失败任务背后的原因。在没有验证问题的真正原因的情况下，没有理由建立增量内存重试机制。请确保通过KubernetesPodOperator运行的工作负载无论如何都有足够的资源(您也可以参考“确保为您的环境提供适当资源”指南，更具体地针对托管版本的气流)。