首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >什么是MapReduce应用程序主程序?

什么是MapReduce应用程序主程序?
EN

Data Science用户
提问于 2019-05-15 12:58:50
回答 2查看 1.1K关注 0票数 0

来自Hadoop的权威指南

整个过程如图7-1所示.在最高级别,有五个独立的实体:·客户端,它提交MapReduce作业。·纱线资源管理器,负责协调集群上计算资源的分配。·纱线节点管理器,用于在集群中的机器上启动和监视计算机容器。·MapReduce应用程序主程序,它协调运行Map的任务--减少作业。应用程序主任务和MapReduce任务在由资源管理器调度并由节点管理器管理的容器中运行。

什么是MapReduce应用程序主程序?

在用Java编写的MapReduce程序中,我们需要三种条件:一个映射函数、一个约简函数和一些带有main()函数的代码来运行作业。MapReduce应用程序是否掌握了具有main()函数的代码来运行映射减少作业?

谢谢

EN

回答 2

Data Science用户

发布于 2019-05-15 14:50:51

MapReduce应用程序母版协调运行MapReduce作业的任务。它是请求、启动和监测特定资源的主要容器。它协商来自ResourceManager的资源,并与NodeManager一起执行和监视授予的资源。

对于MapReduce程序,您不需要映射和减少函数。你可以有只有地图的工作和减少的工作。

MapReduce应用程序母版适当地实现了main()中的代码。

票数 1
EN

Data Science用户

发布于 2020-08-23 16:18:02

以下是MapReduce应用程序母版(AM)的生命周期:

  • 在Hadoop集群上运行的每个应用程序都有自己的专用Application Master实例,它运行在从节点上的容器中。每个应用程序一个Application Master
  • 在整个生命周期(当应用程序运行时),Application Master通过其状态和应用程序资源需求的状态向Resource Manager发送心跳消息。
  • Application Master监督/监督应用程序的整个生命周期,从Resource Manager请求所需的容器到向Node Manager提交容器租赁请求。
  • 为Hadoop编写的每个应用程序框架都必须有自己的Application Master实现。示例: MapReduce应用程序有一个特定的Application Master,用于按顺序执行映射任务和减少任务。
票数 1
EN
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://datascience.stackexchange.com/questions/52007

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档