在Google升级之后，气流调度器没有启动

Question

早上好,

在将Google升级到1.18版本，Apache气流升级到1.10.15版(使用Composer的自动升级)之后，调度程序似乎无法启动。

气流消息：“调度程序似乎没有运行。最后一次心跳被接收到1天ago.The DAGs列表可能不会更新，新的任务将不会被调度。”

在得到这个之后，我试过：

• 重新启动web服务器gcloud beta composer environments restart-web-server
• 尝试重新启动气流-调度程序：kubectl get deployment airflow-scheduler -o yaml | kubectl replace --force -f -
• 我看了豆荚的信息：kubectl describe pod airflow-scheduler

最后状态:终止原因:错误退出代码:1已启动:开始: Wed，2022年2月23日15:59:13 +0000完成: Wed，2022年2月23日16:04:09 +0000

• 所以我删除了这个吊舱，然后等待它自己运行：kubectl delete pod airflow-scheduler-...
• 编辑1：豆荚中的日志：

Dags和插件还没有同步。

• 编辑2：其他日志：

建立同步状态..。开始同步..。复制gs://europe-west1-********-bucket/dags/sql/...跳过下载到文件名的尝试，以斜杠结尾(/home/airflow/gcs/dags/sql/)。这通常发生在使用gsutil从云控制台(https://cloud.google.com/console) / 0/1文件创建的子目录下载0%完成InvalidUrl错误时发生:无效的目标路径:/home/airflow/gcs/dag/sql/

但它继续单独重新启动，有时会出现CrashLoopBackOff，因此指示容器在重新启动后重复崩溃。

不知道我还能做些什么。

谢谢你的帮助:)

Answer 1

在我们的DAGs文件夹中(在桶中)，我们有另一个文件夹，其中包含由不同的BigQuery操作符触发的所有SQL。由于某些原因，该文件夹的同步没有被正确执行，因此在删除该文件夹并再次添加该文件夹之后，工作人员再次启动。

Answer 2

您所面临的问题与资源有限的问题有关，这并不是让您启动Scheduler。

我的假设是，这可能会发生：

1. 在调度程序上设置的限制会导致gcs引信进程被终止，您能删除它们以检查是否停止了崩溃循环吗？
2. K8s群集没有足够的资源让Composer代理启动调度程序作业，您可以将资源添加到其中。
3. 当该条目启动时，您将得到一个损坏的条目。通过使用ssh连接到实例，您可以自己重新启动调度程序。