首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >使用Marathon运行Spark作业

使用Marathon运行Spark作业
EN

Stack Overflow用户
提问于 2016-08-22 17:07:20
回答 1查看 655关注 0票数 3

我有一个马拉松式的工作,要做的事情如下:

代码语言:javascript
复制
./bin/spark-class org.apache.spark.deploy.mesos.MesosClusterDispatcher

但是,接下来我想使用以下命令将单个Spark作业作为单独的Marathon作业运行:

代码语言:javascript
复制
./bin/spark-submit ....

我的问题是:我如何从Mesos执行程序调用spark-submit,二进制文件没有安装在它上面?(注意:我知道http://spark.apache.org/docs/latest/running-on-mesos.html#connecting-spark-to-mesos也建议在所有Mesos从属服务器上安装Spark,但这是唯一的选择吗?)

任何指导都是非常感谢的。

EN

回答 1

Stack Overflow用户

发布于 2017-06-21 02:14:16

只需运行以下命令:

代码语言:javascript
复制
/opt/spark/spark-2.1.0-bin-hadoop2.7/bin/spark-submit --class org.apache.spark.examples.SparkPi --master mesos://127.0.0.1:31258 --deploy-mode cluster --supervise --executor-memory 2G --total-executor-cores 1 /opt/spark/spark-2.1.0-bin-hadoop2.7/examples/jars/spark-examples_2.11-2.1.0.jar 1000
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/39075408

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档