0019-Yarn的JobHistory目录权限问题导致MapReduce作业异常

小虾米 阅读:81 2023-04-27 14:04:09 评论:0

问题描述:

在使用Yarn运行MapReduce作业时,作业会在JobHistory目录中创建一个目录来存储作业的历史信息。如果JobHistory目录的权限不正确,可能会导致作业异常。

解决方案:

1. 检查JobHistory目录的权限是否正确。JobHistory目录应该具有以下权限:

- 所有者为yarn用户

- 所属组为hadoop组

- 权限为755

可以使用以下命令检查JobHistory目录的权限:

 
$ ls -ld /var/log/hadoop-yarn 
drwxr-xr-x 2 yarn hadoop 4096 Jul  1 10:00 /var/log/hadoop-yarn 

2. 如果JobHistory目录的权限不正确,可以使用以下命令更改权限:

 
$ sudo chown yarn:hadoop /var/log/hadoop-yarn 
$ sudo chmod 755 /var/log/hadoop-yarn 

3. 如果作业仍然异常,可以尝试删除JobHistory目录并重新创建它:

 
$ sudo rm -rf /var/log/hadoop-yarn 
$ sudo mkdir /var/log/hadoop-yarn 
$ sudo chown yarn:hadoop /var/log/hadoop-yarn 
$ sudo chmod 755 /var/log/hadoop-yarn 

4. 如果以上步骤都无法解决问题,可以查看作业的日志文件以获取更多信息:

 
$ yarn logs -applicationId 
   

  

其中, 是作业的应用程序ID,可以在Yarn的Web界面上找到。


标签:MapReduce
声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

关注我们

一个IT知识分享的公众号