hadoop streaming:如何查看应用程序日志？

Question

我可以在我的/usr/local/hadoop/logs路径上看到所有hadoop日志

但是我可以在哪里看到应用程序级别的日志呢？例如：

mapper.py

import logging

def main():
    logging.info("starting map task now")
    // -- do some task -- //
    print statement  

reducer.py

import logging
def main():
    for line in sys.stdin:
        logging.info("received input to reducer - " + line)  
        // -- do some task -- //
        print statement

在哪里可以看到我的应用程序的logging.info或相关日志语句？

我正在使用Python和hadoop-streaming

谢谢

Answer 1

Hadoop streaming使用STDIN/STDOUT在映射器和缩减程序之间传递键/值对，因此必须将日志消息写入特定的日志文件-查看sample code和python logging documentation以了解更多详细信息。这个Query可能也有帮助。

Answer 2

Hadoop收集stderr，可以在hadoop map/reduce状态站点上查看。所以你可以直接写到stderr。