支持批量处理的多分区GKE集群

Question

我正在使用GKE区域集群上的自动伸缩可抢占节点批量处理数据。时不时地，GPU变得稀缺。而不是切换区域以追逐GPU(我已经这样做了)，我尝试更改为多区域配置。在我看来，在一些轻到中等规模的工作负载上，事情似乎运行得很好。

我在UI中看到了有关不平衡节点池的警告，因为在有可用资源的区域中，节点池似乎正在扩展。这个警告是严重的吗？不同区域中不同节点编号的后果是什么？我是否应该为每个区域运行单独的池？

我在节点之间有相当多的通信--处于不同区域的工作人员对我的带宽有多大影响？GKE docs表示没有入口限制，只有出口比区域内慢，比区域间快。

Answer 1

根据Bandwidth汇总表，对于入口和出口没有限制，与区域内的连接相比，部署在多区域中的节点之间的带宽连接略低。

集群自动伸缩器仅在扩容事件中跨区域均衡。无论节点池中底层托管实例组的相对大小如何，Cluster自动缩放器都会缩减未充分利用的节点，这可能会导致节点在区域之间分布不均匀。

如果您指定最少零个节点，则空闲节点池可以完全缩减规模。但是，群集中必须始终有一个节点可用，才能运行系统Pod。

有关均衡节点组的更多信息，请参阅link。