Hadoop Failed to set permissions of path 错误处理
nutch调试时出现的异常。
Exception in thread "main" java.io.IOException: Failed to set permissions of path: \tmp\hadoop-Administrator\mapred\staging\Administrator-4954228\.staging to 0700
at org.apache.hadoop.fs.FileUtil.checkReturnValue(FileUtil.java:689)
at org.apache.hadoop.fs.FileUtil.setPermission(FileUtil.java:662)
at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:509)
at org.apache.hadoop.fs.RawLocalFileSystem.mkdirs(RawLocalFileSystem.java:344)
at org.apache.hadoop.fs.FilterFileSystem.mkdirs(FilterFileSystem.java:189)
at org.apache.hadoop.mapreduce.JobSubmissionFiles.getStagingDir(JobSubmissionFiles.java:116)
at org.apache.hadoop.mapred.JobClient$2.run(JobClient.java:856)
at org.apache.hadoop.mapred.JobClient$2.run(JobClient.java:850)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Unknown Source)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1121)
at org.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:850)
at org.apache.hadoop.mapreduce.Job.submit(Job.java:500)
at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:530)
at org.apache.nutch.util.NutchJob.waitForCompletion(NutchJob.java:50)
at org.apache.nutch.crawl.GeneratorJob.run(GeneratorJob.java:191)
at org.apache.nutch.crawl.Crawler.runTool(Crawler.java:68)
at org.apache.nutch.crawl.Crawler.run(Crawler.java:152)
at org.apache.nutch.crawl.Crawler.run(Crawler.java:250)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65)
at org.apache.nutch.crawl.Crawler.main(Crawler.java:257)
这个是Windows下文件权限问题,在Linux下可以正常运行,不存在这样的问题。
解决方法是,修改/hadoop-1.0.2/src/core/org/apache/hadoop/fs/FileUtil.java里面的checkReturnValue,注释掉即可(有些粗暴,在Window下,可以不用检查):
......privatestaticvoidcheckReturnValue(booleanrv,Filep,FsPermissionpermission)throwsIOException{/** if (!rv) { throw new IOException("Failed to set permissions of path: " + p + " to " + String.format("%04o", permission.toShort())); } **/}......
重新编译打包hadoop-core-1.0.2.jar,替换掉hadoop-1.0.2根目录下的hadoop-core-1.0.2.jar即可。
这里提供一份修改版的hadoop-core-1.0.2-modified.jar文件,替换原hadoop-core-1.0.2.jar即可。
替换之后,刷新项目,设置好正确的jar包依赖,现在再运行WordCountTest,即可。
成功之后,在Eclipse下刷新HDFS目录,可以看到生成了ouput2目录:
Hadoop Failed to set permissions of path 错误处理相关推荐
- hadoop下Failed to set permissions of path:的解决
1.运行环境介绍 win7旗舰版,虚拟机vmware workstation 11下Centos6.2-32位,hadoop-1.1.2. 在运行mapreduce程序时会发生:Failed to s ...
- Cygwin运行nutch报错:Failed to set permissions of path
2019独角兽企业重金招聘Python工程师标准>>> 错误信息: Exception in thread "main" java.io.IOException: ...
- windows上运行MapReduce出错(Failed to set permissions of path)
今天在windows上搭建了hadoop1.1.2+eclipse的开发环境,在Run on hadoop时,控制台报了一个异常:异常信息大致为: ERRORsecurity.UserGroupIn ...
- CNI failed to retrieve network namespace path
CNI failed to retrieve network namespace path: cannot find network namespace for the terminated cont ...
- IDEA启动报Failed to create JVM. JVM Path错问题解决
IDEA 不解释,个人觉得是最好的JAVA编程工具,没有之一. 一天启动IDEA的时候,突然弹窗提示以下错误 If you already have a 64-bit JDK installed, d ...
- 安装Python2.7出现configure: error: no acceptable C compiler found in $PATH错误
安装Python2.7出现configure: error: no acceptable C compiler found in $PATH错误 安装步骤: 安装依赖 yum groupinstall ...
- Apache服务器的WSASocket failed to open the inherited socket错误
Apache服务器的WSASocket failed to open the inherited socket错误 此问题网上大部分解决方法是这样的: 1.网上邻居->本地连接->属性-& ...
- 【爬坑】在 IDEA 中运行 Hadoop 程序 报 winutils.exe 不存在错误解决方案
[爬坑]在 IDEA 中运行 Hadoop 程序 报 winutils.exe 不存在错误解决方案 参考文章: (1)[爬坑]在 IDEA 中运行 Hadoop 程序 报 winutils.exe 不 ...
- 久未更 ~ 四之 —— Vsftpd出现 Failed to start Vsftpd ftp daemon错误
> > > > > 久未更 系列一:Failed to start Vsftpd ftp daemon错误 配置 vsftpd.conf文件后 重启ftp服务 出现 Fa ...
最新文章
- Java项目:干活管理系统(java+SSM+Jsp+Mysql)
- 零基础参加java培训哪家机构好
- 工作几年了,API 网关还不懂?
- 【转】EXC_BAD_ACCESS问题在xode4下的调试技巧
- 安卓JNI使用C++类
- 不一样的视角,程序员世界里的环保
- javascript初学者_针对JavaScript初学者的调试技巧和窍门
- 我来做百科(第二十天) C
- tp3获取所有post_TP为什么后台接收不到POST的数据?
- 微软最有价值专家(MVP)四连任
- LeetCode每日一题(22年1月27日-2月5日)
- android 本地存储数组,安卓与iphone自带浏览器对本地存储的支持
- vs2016 程序在vs2019 运行,显示无法找到 Intel C++ Compiler XE14.0解决方案
- 如何发现网站被劫持被黑DNS被污染
- Anaconda下载simpleITK包和pytorch包
- python余弦定理求角_python余弦定理计算相似度
- 5G来了,室内该如何覆盖?
- 用echartsjs 实现动态绘制折线、柱状等图形,并实现多图联动效果
- 回文数函数的粗浅理解
- 计算机导论第五讲MOOC模拟答案,MOOC理念指导下的计算机导论课程_微课堂_设计与思考_朱淑鑫...
热门文章
- 新能源消纳机制的欧洲启示:优先并网不能靠行政干预
- 3g android4 移植 飞思卡尔i.MX 6Quad Android 4.2.2的中兴和Ublox 3G驱动移植 Android——4.2 - 3G移植之路
- python生成图片链接_python 实现图片上传接口开发 并生成可以访问的图片url
- 驾考科目一高频和易错点总结
- 剑灵私服服务器维护中请稍后再试,玩家惊曝:《剑灵》竟已有中文私服
- 用css3径向渐变制作花纹背景
- 中柏mini3 android,简单的高科技——jumper 中柏 EZpad mini3 平板电脑 篇一:开箱简评...
- vue---vue路由
- autoit3中Send用法
- box-sizing 详解