首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >使用选项(没有Spack包)启动火花放电时出错

使用选项(没有Spack包)启动火花放电时出错
EN

Stack Overflow用户
提问于 2016-01-10 09:39:10
回答 1查看 9.5K关注 0票数 5

有人能告诉我为什么我会收到下面的错误吗?根据火花放电-卡桑德拉连接器的自述,下面我正在尝试的东西应该可以工作(没有星火包):https://github.com/TargetHolding/pyspark-cassandra

代码语言:javascript
复制
$ pyspark_jar="$HOME/devel/sandbox/Learning/Spark/pyspark-cassandra/target/scala-2.10/pyspark-cassandra-assembly-0.2.2.jar"

$ pyspark_egg="$HOME/devel/sandbox/Learning/Spark/pyspark-cassandra/target/pyspark_cassandra-0.2.2-py2.7.egg"
$ pyspark --jars $pyspark_jar --py_files $pyspark_egg --conf spark.cassandra.connection.host=localhost 

这导致:

代码语言:javascript
复制
Exception in thread "main" java.lang.IllegalArgumentException: pyspark does not support any application options.
at org.apache.spark.launcher.CommandBuilderUtils.checkArgument(CommandBuilderUtils.java:222)
at org.apache.spark.launcher.SparkSubmitCommandBuilder.buildPySparkShellCommand(SparkSubmitCommandBuilder.java:239)
at org.apache.spark.launcher.SparkSubmitCommandBuilder.buildCommand(SparkSubmitCommandBuilder.java:113)
at org.apache.spark.launcher.Main.main(Main.java:74)
EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2016-01-12 00:42:16

解决了问题。我需要用

代码语言:javascript
复制
--py-files 

而不是

代码语言:javascript
复制
--py_files
票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/34703983

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档