输入路径不存在:hdfs://localhost:9000/user/rab/input

Posted

技术标签:

【中文标题】输入路径不存在:hdfs://localhost:9000/user/rab/input【英文标题】:Input path does not exist: hdfs://localhost:9000/user/rab/input 【发布时间】:2017-03-17 17:33:34 【问题描述】:

以下是我的工作的输出......在单一模式下它运行良好,但在伪分发模式下它一直抛出以下错误......我已经尝试了很多但无法满足任何人的可能解决方案.我需要快速解决问题。

对成功非常有义务...

rab@rab-VirtualBox:~/hadoop/hadoop-1.2.1$ bin/hadoop jar hadoop-examples-*.jar grep input output 'dfs[a-z.]+'
17/03/17 22:13:12 INFO util.NativeCodeLoader: Loaded the native-hadoop library
17/03/17 22:13:12 WARN snappy.LoadSnappy: Snappy native library not loaded
17/03/17 22:13:12 INFO mapred.JobClient: Cleaning up the staging area hdfs://localhost:9000/tmp/hadoop-rab/mapred/staging/rab/.staging/job_201703172201_0004
17/03/17 22:13:12 ERROR security.UserGroupInformation: PriviledgedActionException as:rab cause:org.apache.hadoop.mapred.InvalidInputException: Input path does not exist: hdfs://localhost:9000/user/rab/input
org.apache.hadoop.mapred.InvalidInputException: Input path does not exist: hdfs://localhost:9000/user/rab/input
at org.apache.hadoop.mapred.FileInputFormat.listStatus(FileInputFormat.java:197)
at org.apache.hadoop.mapred.FileInputFormat.getSplits(FileInputFormat.java:208)
at org.apache.hadoop.mapred.JobClient.writeOldSplits(JobClient.java:1081)
at org.apache.hadoop.mapred.JobClient.writeSplits(JobClient.java:1073)
at org.apache.hadoop.mapred.JobClient.access$700(JobClient.java:179)
at org.apache.hadoop.mapred.JobClient$2.run(JobClient.java:983)
at org.apache.hadoop.mapred.JobClient$2.run(JobClient.java:936)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:422)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1190)
at org.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:936)
at org.apache.hadoop.mapred.JobClient.submitJob(JobClient.java:910)
at org.apache.hadoop.mapred.JobClient.runJob(JobClient.java:1353)
at org.apache.hadoop.examples.Grep.run(Grep.java:69)
at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:65)
at org.apache.hadoop.examples.Grep.main(Grep.java:93)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.ProgramDriver$ProgramDescription.invoke(ProgramDriver.java:68)
at org.apache.hadoop.util.ProgramDriver.driver(ProgramDriver.java:139)
at org.apache.hadoop.examples.ExampleDriver.main(ExampleDriver.java:64)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:498)
at org.apache.hadoop.util.RunJar.main(RunJar.java:160)

【问题讨论】:

我运行以下命令 rab@rab-VirtualBox:~/hadoop/hadoop-1.2.1$ bin/hadoop jar hadoop-examples-*.jar grep input output 'dfs[a-z.]+ ' 使用 8021 作为 hdfs 端口 对于任何寻求错误帮助的问题,您需要minimal reproducible example 【参考方案1】:

日志输出显示错误:

“org.apache.hadoop.mapred.InvalidInputException:输入路径不存在:hdfs://localhost:9000/user/rab/input”

    在 HDFS 文件系统的 /user/rab 下是否有一个名为“input”的目录?该错误表明您没有!该错误还表明它正在查看 hdfs 而不是本地文件系统。您可以使用以下命令进行检查

    “hdfs dfs -ls /user/rab”

    您使用的完整命令“bin/hadoop jar hadoop-examples-*.jar grep input output 'dfs[a-z.]+'”需要该命令的格式为“hadoop jar jarfilename classname hdfsinputdirectory hdfsoutputdirectory”,其中 classname 是 jar 文件中要运行的类的名称。

【讨论】:

以上是关于输入路径不存在:hdfs://localhost:9000/user/rab/input的主要内容,如果未能解决你的问题,请参考以下文章

HDFS 文件 URL 不正确

HDFS简单编程实例:文件合并

PIG ERROR 2118:输入路径不存在

Greenplum错误-输入路径不存在

寒假记录5

pig 示例 apache [输入路径不存在]