作为一名Hadoop应用程序的新开发人员,我正在努力掌握Map/Reduce、Oozie或Sqoop作业的大量配置选项。没有一本推荐的书或网站能全面解决这个问题。Hadoop生态系统中的任何新工具,您都会看到更多。我想问一下了解作业配置选项的最佳方法/资源是什么。
发布于 2014-11-18 21:25:30
这里有Hadoop的所有配置:
https://hadoop.apache.org/docs/r2.5.1/hadoop-project-dist/hadoop-common/core-default.xml
另外,如果你想知道你当前的配置是什么,它来自哪里,运行下面的命令:
$ hadoop org.apache.hadoop.conf.Configuration发布于 2013-03-05 01:48:18
我读过hadoop :权威指南,它对我非常有用。
此外,在读取任何configuration property in hadoop时,您必须将其与hadoop的相应元素相关联。
与任何以mapred.map开头的属性一样,mapred.reduce用于设置映射器任务的属性,方法与reducer相同。
这样你就可以很容易地理解和记忆这些属性。
https://stackoverflow.com/questions/15205260
复制相似问题