使用 hacatalog 在 tez 模式下运行 pig 脚本时出错

Posted

技术标签:

【中文标题】使用 hacatalog 在 tez 模式下运行 pig 脚本时出错【英文标题】:error in running pig script in tez mode with hacatalog 【发布时间】:2016-05-21 15:45:24 【问题描述】:

我正在运行一个pig 脚本,其中tez 作为执行引擎并使用hcatalog。下面是我的猪脚本。

 set exectype=tez;
    a = load 'hive table' using org.apache.pig.hcatalog.hive.HCatloader();

当我在命令行中输入以下内容时,

pig -useHCatalog -x tez /home/script.pig

我遇到了一个错误:

"解析时遇到错误" ";" ";" 在第 1 行第 17 列。

谁能告诉我问题是什么。在脚本中设置执行引擎有什么不同的方法吗?

【问题讨论】:

exectype=tez 通常会进入 conf/pig.properties 对吧? 根据下面的链接,它也可以用猪脚本编码。 pivotalhd.docs.pivotal.io/docs/pig-tez.html 你能给我们看看script.pig文件里面的代码吗? 【参考方案1】:

我认为你应该使用:

set exectype tez

而不是:

set exectype=tez;

无论如何,指定“-x tez”是否不足以设置执行类型?为什么还需要在脚本中添加它?

【讨论】:

以上是关于使用 hacatalog 在 tez 模式下运行 pig 脚本时出错的主要内容,如果未能解决你的问题,请参考以下文章

在 Amazon EMR-4 上的 Tez 上运行 Pig

tez on yarn配置任务优先级

hive 使用tez

Hive tez 执行错误

hive on tez

在 HIVE 中运行查询时如何更改 Tez 作业名称