我在齐柏林飞艇中有一项繁重的任务,当我多次运行该段落时,齐柏林飞艇的/jobs状态页面将返回HTTP500错误和OOM。
造成这种情况的可能原因是什么?
我在yarn上运行spark的客户端模式。
发布于 2017-03-14 13:06:07
齐柏林飞艇的spark解释器出现OOM的原因可能有很多。一个可能的原因是
scala>类A()定义类A scala>新A() res0: A= A() scala>新A() res1: A= A() scala> List(1,2,3,4).map(x => x+1) //匿名函数
您可以通过在$SPARK_HOME/conf/spark-defaults.conf中为spark设置spark.driver.memory来增加驱动程序内存
在本地spark的情况下,您可以在解释器选项页中设置相同的选项(您正在使用齐柏林飞艇中的
localhost:8080/#/interpreterhttps://stackoverflow.com/questions/42775807
复制相似问题