如何在hadoop pig中执行-fs

Posted

技术标签:

【中文标题】如何在hadoop pig中执行-fs【英文标题】:How to execute -fs in hadoop pig 【发布时间】:2014-12-02 01:15:01 【问题描述】:

我想将输出文件从 hdfs 获取到我的本地存储,所以我在我的猪脚本中运行了这段代码

Fs -get user/miner/adhoc/results/mine1.txt /home/miner/jeweler/results

不幸的是,执行代码返回error 2997: encountered ioexception

我也看到default bootup file /var/lib/hadoop-yarn/.pigbootup not found

我需要导入一些东西还是需要在我的猪脚本中设置某些属性?

【问题讨论】:

你的机器上安装了hadoop客户端吗 【参考方案1】:

您的路径似乎不正确,导致 IOException。您的路径中缺少根斜线。正确路径:/user/miner/adhoc/results/mine1.txt

你也可以试试这个:

fs -copyToLocal /user/miner/adhoc/results/mine1.txt /home/miner/jeweler/results

【讨论】:

嗨@Ashish.. 我听从了你的建议,但我仍然遇到相同类型的错误

以上是关于如何在hadoop pig中执行-fs的主要内容,如果未能解决你的问题,请参考以下文章

如何在 Hadoop pig 中使用“case when”?

Apache Pig:使用 hadoop fs -text 加载显示良好的文件

如何在 Hadoop/PIG 中处理非 ASCII/亚洲/中文字符

在 Pig 中使用 Python UDF 时,如何让 Hadoop 查找导入的 Python 模块?

执行远程 Apache Pig 脚本时如何查看终端日志

如何在 Hadoop 中的机器之间传输文件并使用 Pig 搜索字符串