我正在尝试使用spark submit运行我的spark scala代码。为此,我想访问spark集群。那么,在Spark上下文中,我应该为master使用什么?我曾经这样使用过
val spark = SparkSession.builder()
.master("spark://prod5:7077")
.appName("MyApp")
.getOrCreate;但它似乎不起作用。使用spark集群时,我应该使用什么作为主机?
发布于 2018-11-11 23:29:10
如果你正尝试在集成开发环境中提交作业,只需确保"prod5“是主程序,并尝试将端口更改为默认的6066。
发布于 2019-03-13 09:23:05
来自官方文档-
spark-submit --class <main-class> --master <master-url> --deploy-mode <deploy-mode> --conf <key>=<value> ... # other options <application-jar> [application-arguments]https://stackoverflow.com/questions/52987546
复制相似问题