如何在 Hadoop/PIG 中处理非 ASCII/亚洲/中文字符

Posted 2023-04-18

【中文标题】如何在 Hadoop/PIG 中处理非 ASCII/亚洲/中文字符

【英文标题】：How to handle non ASCII /Asian/Chinese characters in Hadoop/PIG

【发布时间】：2013-09-24 04:52:24

【问题描述】：

谁能建议如何处理输入数据中的非 ASCII/中文字符？ 知道我们是否需要更改一些编码？ 尤其是从 PIG 的角度来看。

对于“wawàs”的输入值，我的猪工作正在发出：“wawï¿œs”我不明白问题是什么。

【问题讨论】：

您只是将关系转储到终端还是使用 STORE？ Pig chararrays 是 UTF-8，所以你应该没问题，但我注意到在转储到终端时，编码可能会被中文弄乱。

【参考方案1】：

确保您首先使用 UTF-8 字符。