Pig 不在 mapreduce 模式下工作

Posted

技术标签:

【中文标题】Pig 不在 mapreduce 模式下工作【英文标题】:Pig isn't working in mapreduce mode 【发布时间】:2016-07-16 11:53:00 【问题描述】:

当我在本地模式下运行 pig 时,它运行良好,但在 map reduce 模式下 它正在抛出错误消息

grunt> ls

2016-07-16 17:19:40,973 [主要] 错误 org.apache.pig.tools.grunt.Grunt - 错误 2997:遇到 IOException。文件或目录 null 不存在。日志文件中的详细信息:/home/hduser/pig_1468666911969.log

请查找堆栈跟踪:

猪堆栈跟踪

错误 2997:遇到 IOException。文件或目录 null 不 存在。

java.io.IOException:文件或目录 null 不存在。在 org.apache.pig.tools.grunt.GruntParser.processLS(GruntParser.java:848) 在 org.apache.pig.tools.pigscript.parser.PigScriptParser.parse(PigScriptParser.java:485) 在 org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:230) 在 org.apache.pig.tools.grunt.GruntParser.parseStopOnError(GruntParser.java:205) 在 org.apache.pig.tools.grunt.Grunt.run(Grunt.java:66) 在 org.apache.pig.Main.run(Main.java:565) 在 org.apache.pig.Main.main(Main.java:177) 在 sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 在 sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) 在 sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 在 java.lang.reflect.Method.invoke(Method.java:498) 在 org.apache.hadoop.util.RunJar.run(RunJar.java:221) 在 org.apache.hadoop.util.RunJar.main(RunJar.java:136)

提前致谢。

【问题讨论】:

你试过ls /吗?也许它只需要一个目录? 这帮助我理解了感谢@matthew Rathbone 【参考方案1】:

您的名称节点未设置或未启动 格式化名称节点并重新开始

尝试运行命令

hdfs dfs -ls

【讨论】:

以上是关于Pig 不在 mapreduce 模式下工作的主要内容,如果未能解决你的问题,请参考以下文章

Pig local vs mapreduce 模型性能对比

Google Map API 不在发布模式下工作

MapReduce 工作原理

在 CDH4 集群上运行 Pig 时无法进入 mapreduce 模式(Hadoop 2 + MapReduce v1)

pig安装配置

PIG 脚本、Hive 查询和相应 MapReduce 代码的包装代码