Spark Local vs Cluster

Question

Spark集群相当于standalone的localN是什么？我的意思是，我们将local的参数值设置为N，哪个参数在集群模式下接受它？

Answer 1

In local[N] - N是在任何时间点上节点中可以使用的最大核心数。

在集群模式下，您可以设置--executor-cores N。这意味着每个executor可以在一个executor中同时运行最多的N任务。

Answer 2

在集群模式中，一个executor将在一个worker节点上运行，这意味着一个executor将占用worker节点上的所有核心。这可能会导致资源利用不足。请记住，驱动程序也会占用一个工作节点。