我无法查看通过Azure数据工厂中的notebook活动执行的databricks作业的spark-ui。
有人知道需要添加哪些权限才能启用相同的权限吗?

发布于 2021-11-10 04:54:21
--更新
确保在生产环境中安装了Cluster-level permissions



作业有五个权限级别:无权限、可以查看、可以管理运行、是所有者和可以管理。默认情况下,管理员被授予“可以管理”权限,他们可以将该权限分配给非管理员用户。




接下来..。
我能够在Spark UI中查看已完成的作业,而无需任何其他设置。


也许你在Notebook中所做的事情并不构成Spark Job。
有关详细信息,请参阅:Web UI和Monitoring and Instrumentation。
检出Spark Glossary
注意: Spark作业由多个任务组成的并行计算,这些任务是为响应Spark操作(例如,保存、收集)而产生的;您将在驱动程序的日志中看到此术语的使用。
View cluster information in the Apache Spark UI
您可以获取有关活动集群和销毁集群的详细信息。如果重新启动终止的群集,Spark UI将显示重新启动的群集的信息,而不是终止的群集的历史信息。
因此,如果我运行一台notebook,其中的一个任务只是显示我的挂载,或者一个失败或异常的任务,它不会在Spark UI中列出。


看不到#job/83

https://stackoverflow.com/questions/69907122
复制相似问题