cdh4 hadoop中作业的详细日志在哪里?

Posted

技术标签:

【中文标题】cdh4 hadoop中作业的详细日志在哪里?【英文标题】:Where is the job's detail log in cdh4 hadoop? 【发布时间】:2014-07-17 02:02:59 【问题描述】:

我只是在 hdfs 中找到 jobhistory

/home/mps/cdh/users/history/done_intermediate/mps/job_1405497023620_0009-1405505656182-mps-simjoin%2D1.0.jar-1405505683781-0-0-FAILED-default.jhist

但是这个工作经历信息远不是这样的细节:

"type":"TASK_FAILED","event":"org.apache.hadoop.mapreduce.jobhistory.TaskFailed":"taskid":"task_1405497023620_0008_m_000002","taskType":"MAP","finishTime":1405505044309,"error":", \n","failedDueToAttempt":"string":"attempt_1405497023620_0008_m_000002_3","status":"FAILED"

在哪里可以找到更多详细信息,例如 Mapper 和 Reducer 中的作业记录器抛出异常或记录信息记录器?

【问题讨论】:

【参考方案1】:

检查此目录:(根据您的设置)

/var/log/hadoop-0.20-mapreduce/userlogs/job_201407151208_0031/attempt_201407151208_0031_m_000000_0

你会发现

标准输出 标准错误 系统日志

在这些文件中,您将详细了解作业的执行情况。

【讨论】:

以上是关于cdh4 hadoop中作业的详细日志在哪里?的主要内容,如果未能解决你的问题,请参考以下文章

Hadoop 2.0中的日志收集以及配置方法

纱线应用的持续时间登录hadoop

减少 HFileOutputFormat 中待处理的作业

Hadoop日志存放位置

在调试模式下构建 Flutter 应用程序时,Gradle 详细日志在哪里?

Hadoop3.x搭建详细教程 | 历史服务器的配置与日志聚合