Pig 不在 mapreduce 模式下工作
Posted
技术标签:
【中文标题】Pig 不在 mapreduce 模式下工作【英文标题】:Pig isn't working in mapreduce mode 【发布时间】:2016-07-16 11:53:00 【问题描述】:当我在本地模式下运行 pig 时,它运行良好,但在 map reduce 模式下 它正在抛出错误消息
grunt> ls
2016-07-16 17:19:40,973 [主要] 错误 org.apache.pig.tools.grunt.Grunt - 错误 2997:遇到 IOException。文件或目录 null 不存在。日志文件中的详细信息:/home/hduser/pig_1468666911969.log
请查找堆栈跟踪:
猪堆栈跟踪
错误 2997:遇到 IOException。文件或目录 null 不 存在。
java.io.IOException:文件或目录 null 不存在。在 org.apache.pig.tools.grunt.GruntParser.processLS(GruntParser.java:848) 在 org.apache.pig.tools.pigscript.parser.PigScriptParser.parse(PigScriptParser.java:485) 在 org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:230) 在 org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:205) 在 org.apache.pig.tools.grunt.Grunt.run(Grunt.java:66) 在 org.apache.pig.Main.run(Main.java:565) 在 org.apache.pig.Main.main(Main.java:177) 在 sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 在 sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) 在 sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 在 java.lang.reflect.Method.invoke(Method.java:498) 在 org.apache.hadoop.util.RunJar.run(RunJar.java:221) 在 org.apache.hadoop.util.RunJar.main(RunJar.java:136)
提前致谢。
【问题讨论】:
你试过ls /
吗?也许它只需要一个目录?
这帮助我理解了感谢@matthew Rathbone
【参考方案1】:
您的名称节点未设置或未启动 格式化名称节点并重新开始
尝试运行命令
hdfs dfs -ls
【讨论】:
以上是关于Pig 不在 mapreduce 模式下工作的主要内容,如果未能解决你的问题,请参考以下文章
在 CDH4 集群上运行 Pig 时无法进入 mapreduce 模式(Hadoop 2 + MapReduce v1)