首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >查看通过Azure ADF执行的作业的Spark UI

查看通过Azure ADF执行的作业的Spark UI
EN

Stack Overflow用户
提问于 2021-11-10 01:56:11
回答 1查看 65关注 0票数 0

我无法查看通过Azure数据工厂中的notebook活动执行的databricks作业的spark-ui。

有人知道需要添加哪些权限才能启用相同的权限吗?

EN

回答 1

Stack Overflow用户

发布于 2021-11-10 04:54:21

--更新

确保在生产环境中安装了Cluster-level permissions

Job permissions

作业有五个权限级别:无权限、可以查看、可以管理运行、是所有者和可以管理。默认情况下,管理员被授予“可以管理”权限,他们可以将该权限分配给非管理员用户。

接下来..。

我能够在Spark UI中查看已完成的作业,而无需任何其他设置。

也许你在Notebook中所做的事情并不构成Spark Job。

有关详细信息,请参阅:Web UIMonitoring and Instrumentation

检出Spark Glossary

注意: Spark作业由多个任务组成的并行计算,这些任务是为响应Spark操作(例如,保存、收集)而产生的;您将在驱动程序的日志中看到此术语的使用。

View cluster information in the Apache Spark UI

您可以获取有关活动集群和销毁集群的详细信息。如果重新启动终止的群集,Spark UI将显示重新启动的群集的信息,而不是终止的群集的历史信息。

因此,如果我运行一台notebook,其中的一个任务只是显示我的挂载,或者一个失败或异常的任务,它不会在Spark UI中列出。

看不到#job/83

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/69907122

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档