是否可以将不同的卷挂载到同一部署的pods

Question

我有一个gce airflow (composer)集群，其中有一群工作人员：

$ kubectl get pods
NAME                                 READY     STATUS    RESTARTS   AGE
airflow-redis-0                      1/1       Running   0          7h
airflow-scheduler                    2/2       Running   0          7h
airflow-sqlproxy                     1/1       Running   0          8h
airflow-worker                       50/50     Running   0          7h
composer-fluentd-daemon              1/1       Running   0          7h
composer-fluentd-daemon              1/1       Running   0          7h

我还有一组唯一的持久NFS卷，它们有需要处理的数据。是否有一种方法可以动态地将不同的NFS卷装载到每个相应的工作进程。

或者，是否可以让worker中调用的DockerOperator挂载与其特定工作负载相关的NFS卷。

理论上，工作流程为：Spin up 1x worker per Dataset > Get Dataset > Run Dataset through Model > Dump results

实现这一点的一种方法是将数据集下载到正在处理它的给定pod；但是，这些数据集是几百gb /s，并且需要针对不同的模型进行多次处理。

最终，我们计划将所有这些数据放在BigTable中，但我需要在概念上证明使用包含数百gb数据的卷，然后才能启动包含多tb数据的BigTable群集。

感谢您的投入。告诉我我用更好的解决方案做错了，这也是一个可行的答案。

Answer 1

根据定义，部署使用一组相同的副本作为pods (即ReplicaSet)。因此，部署的所有pods都将具有指向相同卷的PodSpec。

听起来你需要自己编写一些自定义逻辑来编排具有不同卷的新工作负载(即作业)。

只需在循环中部署一个bash脚本来调用kubectl (默认情况下，pod内的kubectl可以直接工作)，就可以做到这一点。或者，您可以编写一些使用Kubernetes API的代码，并进行一些API调用来发现新的卷，创建工作负载来处理它们(然后可能清理这些卷)。

Answer 2

与普通(长时间运行的) Pod相比，您描述的工作流更符合Job的模型。您需要为指向其各自数据的每个任务创建单独的作业规范，如果您的集群正在执行其他工作，则需要注意批量数据处理pod不会淹没可用的计算资源。

您实际上是否有不同的NFS卷(服务器名称/导出的目录)，或者在单个NFS卷中只有多个文件树？如果是后者，另一条适合您的路径是设置一个类似RabbitMQ的排队系统，并将所有路径加载到那里的队列中。然后，您将编写一个长期运行的流程，该流程串行地从队列中读取单个项目，在该项目上执行任何所需的工作，写入其结果，提交工作项目，然后重复(在单个线程中)。然后，您可以使用部署将其扩展到所需的并行处理量。

在任何情况下，您的输出都表明您正在直接使用裸pod，并试图通过在单个pod中拥有多个并行的worker容器来扩展worker。最好使用一个更高级别的控制器(通常是一个Deployment)，并使用它的replicas:控件来启动所描述的pod的多个副本。此外，这将允许您将负载分散到多个节点上，并允许您执行滚动更新，其中pod将以增量方式重新启动，从而避免在更改底层镜像或pod的其他详细信息时出现停机。