linux shell下16进制 “uxxxx” unicode to UTF-8中文

Posted 言止予思

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了linux shell下16进制 “uxxxx” unicode to UTF-8中文相关的知识,希望对你有一定的参考价值。

问题出现背景:

  项目中有个通过ip获取归属地城市需求,我是直接通过新浪的ip归属查询接口来获取的。我使用的是shell脚本调用

  RESULT=$(curl -s ‘http://int.dpool.sina.com.cn/iplookup/iplookup.php?format=js&ip=119.137.53.145‘)

  返回json格式的值:

 var remote_ip_info = {"ret":1,"start":-1,"end":-1,"country":"\u4e2d\u56fd","province":"\u5e7f\u4e1c",
                    "city":"\u6df1\u5733","district":"","isp":"","type":"","desc":""};

 我使用awk截取到city的是为"\u6df1\u5733"的16进制的unicode编码。
但是在把"\u6df1\u5733"转为中文的时候遇见了麻烦,百度上搜索到的方法是用iconv来转换成utf-8中文,但是这些方法都没有效果。
 可能iconv 只是把字符转成其他字符集的字符,而"\u6df1\u5733"是中文"深圳"在unicode的汉字16进制编码表中的位置,
所以要使用iconv要转换的话,需要先把"\u6df1\u5733"解码成汉字"深圳",然后再转换成其他utf-8、gbk、gb2312等编码方式。
iconv好像没有解码这个功能。


解决方案:
  花了大量时间后在stack voerflow网站上找到了解决方法。
  1、安装一个uni2ascii-4.15-1.el6.rf.x86_64.rpm
  2、然后可以使用ascii2uni命名转换
  # echo ‘\u6df1\u5733‘ | ascii2uni -a U -q
  # 深圳
  















以上是关于linux shell下16进制 “uxxxx” unicode to UTF-8中文的主要内容,如果未能解决你的问题,请参考以下文章

Unicode转义(uXXXX)的编码和解码

怎样在linux下查看文件的16进制编码

Linux 下生成二进制shell 脚本

linux杂碎小知识

unix下KSH中shell的SED命令怎样把文件中的NULL替换成空格。 (十六进制码00替换成20)

shell命令行混合进制计算器