如何在hadoop pig中执行-fs
Posted
技术标签:
【中文标题】如何在hadoop pig中执行-fs【英文标题】:How to execute -fs in hadoop pig 【发布时间】:2014-12-02 01:15:01 【问题描述】:我想将输出文件从 hdfs 获取到我的本地存储,所以我在我的猪脚本中运行了这段代码
Fs -get user/miner/adhoc/results/mine1.txt /home/miner/jeweler/results
不幸的是,执行代码返回error 2997: encountered ioexception
我也看到default bootup file /var/lib/hadoop-yarn/.pigbootup not found
我需要导入一些东西还是需要在我的猪脚本中设置某些属性?
【问题讨论】:
你的机器上安装了hadoop客户端吗 【参考方案1】:您的路径似乎不正确,导致 IOException。您的路径中缺少根斜线。正确路径:/user/miner/adhoc/results/mine1.txt
你也可以试试这个:
fs -copyToLocal /user/miner/adhoc/results/mine1.txt /home/miner/jeweler/results
【讨论】:
嗨@Ashish.. 我听从了你的建议,但我仍然遇到相同类型的错误以上是关于如何在hadoop pig中执行-fs的主要内容,如果未能解决你的问题,请参考以下文章
如何在 Hadoop pig 中使用“case when”?
Apache Pig:使用 hadoop fs -text 加载显示良好的文件
如何在 Hadoop/PIG 中处理非 ASCII/亚洲/中文字符