首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Zeppelin UI OOM

Zeppelin UI OOM
EN

Stack Overflow用户
提问于 2017-03-14 08:25:24
回答 1查看 258关注 0票数 2

我在齐柏林飞艇中有一项繁重的任务,当我多次运行该段落时,齐柏林飞艇的/jobs状态页面将返回HTTP500错误和OOM。

造成这种情况的可能原因是什么?

我在yarn上运行spark的客户端模式。

EN

回答 1

Stack Overflow用户

发布于 2017-03-14 13:06:07

齐柏林飞艇的spark解释器出现OOM的原因可能有很多。一个可能的原因是

  • Scala REPl inside spark解释器将所有求值的值(变量、匿名函数等)保存在内存解释器中

scala>类A()定义类A scala>新A() res0: A= A() scala>新A() res1: A= A() scala> List(1,2,3,4).map(x => x+1) //匿名函数

您可以通过在$SPARK_HOME/conf/spark-defaults.conf中为spark设置spark.driver.memory来增加驱动程序内存

在本地spark的情况下,您可以在解释器选项页中设置相同的选项(您正在使用齐柏林飞艇中的

  • ,您可以使用localhost:8080/#/interpreter
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/42775807

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档