0019-Yarn的JobHistory目录权限问题导致MapReduce作业异常
小虾米
阅读:81
2023-04-27 14:04:09
评论:0
问题描述:
在使用Yarn运行MapReduce作业时,作业会在JobHistory目录中创建一个目录来存储作业的历史信息。如果JobHistory目录的权限不正确,可能会导致作业异常。
解决方案:
1. 检查JobHistory目录的权限是否正确。JobHistory目录应该具有以下权限:
- 所有者为yarn用户
- 所属组为hadoop组
- 权限为755
可以使用以下命令检查JobHistory目录的权限:
$ ls -ld /var/log/hadoop-yarn drwxr-xr-x 2 yarn hadoop 4096 Jul 1 10:00 /var/log/hadoop-yarn
2. 如果JobHistory目录的权限不正确,可以使用以下命令更改权限:
$ sudo chown yarn:hadoop /var/log/hadoop-yarn $ sudo chmod 755 /var/log/hadoop-yarn
3. 如果作业仍然异常,可以尝试删除JobHistory目录并重新创建它:
$ sudo rm -rf /var/log/hadoop-yarn $ sudo mkdir /var/log/hadoop-yarn $ sudo chown yarn:hadoop /var/log/hadoop-yarn $ sudo chmod 755 /var/log/hadoop-yarn
4. 如果以上步骤都无法解决问题,可以查看作业的日志文件以获取更多信息:
$ yarn logs -applicationId
其中,
声明
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。



