首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Spark-Java API : SparkSession.builder().config(conf).getOrCreate()失败了?

Spark-Java API : SparkSession.builder().config(conf).getOrCreate()失败了?
EN

Stack Overflow用户
提问于 2017-11-21 04:31:14
回答 1查看 385关注 0票数 0

我正在尝试运行一个样例独立的Spark-Java程序。看起来虽然缺少一些依赖库...

代码语言:javascript
复制
SparkConf conf = new SparkConf().setAppName("Test").setMaster("local[1]");
SparkSession spark = SparkSession.builder().config(conf).getOrCreate();
JavaSparkContext context = new JavaSparkContext(spark.sparkContext());  
SQLContext sc = new SQLContext(spark);

但是,我得到以下错误:

代码语言:javascript
复制
Exception in thread "main" java.lang.VerifyError: class org.apache.spark.sql.execution.LogicalRDD overrides final method sameResult.(Lorg/apache/spark/sql/catalyst/plans/QueryPlan;)Z
    at java.lang.ClassLoader.defineClass1(Native Method)
    at java.lang.ClassLoader.defineClass(ClassLoader.java:763)
    at java.security.SecureClassLoader.defineClass(SecureClassLoader.java:142)
    at java.net.URLClassLoader.defineClass(URLClassLoader.java:467)
    at java.net.URLClassLoader.access$100(URLClassLoader.java:73)
    at java.net.URLClassLoader$1.run(URLClassLoader.java:368)
    at java.net.URLClassLoader$1.run(URLClassLoader.java:362)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:361)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:331)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
    at sparkwrapper.SparkTest.main(SparkTest.java:19)
17/11/20 12:19:48 INFO SparkContext: Invoking stop() from shutdown hook
EN

回答 1

Stack Overflow用户

发布于 2017-11-22 04:01:46

问题最终被证明是eclipse (Neon3)的配置问题。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/47400527

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档