如何判断一个字符串是不是是unicode编码?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何判断一个字符串是不是是unicode编码?相关的知识,希望对你有一定的参考价值。

不论何种编程语言请写出源代码。谢谢!

只是一个字符串
我没那个本事

如果是一个标准的文本文件 是可以识别的

标准的 Unicode 称为UTF-16(UTF:UCS Transformation Format )。后来为了双字节的Unicode能够在现存的处理单字节的系统上正确传输,出现了UTF-8,使用类似MBCS的方式对Unicode进行编码。(Unicode字符集有多种编码形式)
例如"连通"两个字的Unicode标准编码UTF-16 (big endian)为:DE 8F 1A 90
而其UTF-8编码为:E8 BF 9E E9 80 9A

当一个软件打开一个文本时,它要做的第一件事是决定这个文本究竟是使用哪种字符集的哪种编码保存的。软件一般采用三种方式来决定文本的字符集和编码:
检测文件头标识,提示用户选择,根据一定的规则猜测
最标准的途径是检测文本最开头的几个字节,开头字节 Charset/encoding,如下表:
EF BB BF UTF-8
FE FF UTF-16/UCS-2, little endian
FF FE UTF-16/UCS-2, big endian
FF FE 00 00 UTF-32/UCS-4, little endian.
00 00 FE FF UTF-32/UCS-4, big-endian.

怎么样 相信你是能够实现这个算法的

good luck .
参考技术A Unicode编码标准中的所有字符都是双字节长。
单字节字符集是拉丁字母,重音文字,用ASCII标准定义,用于DOS操作系统。双字节字符集用于东亚和中东语言。Unicode用于COM和Windows NT内部。

单字节字符集,它的数据类型是char。
Unicode字符集用wchar_t数据类型。
Unicode字符串用L前缀起头,如:
wchar_t wch = L'1'; // 2 个字节, 0x0031
wchar_t* wsz = L"Hello"; // 12 个字节, 6 个宽字符

用strlen()函数求字符串的长度(非unicode)

_mbslen ( ) (UNICODE)

求出长度,读出数据内容。

java如何把以unicode编码形式的字符串变成编码前的形式

我有一个字符串,是unicode编码形式的,如String s1 = "\\u9996";注意这个字符串的长度是6而不是1,也就是说它并不是一个字符,而是6个字符串
那么如何把它变成编码前的那个字符呢,实际上\u9996就是“首”这个字的unicode编码形式
不要仅仅局限于URLEncoder啊

\u9996是标准的unicode编码表现形式
打开你的Eclipse,然后查看Character这个类的注释,有下面的一段话:

The set of characters from U+0000 to U+FFFF is sometimes referred to as the
Basic Multilingual Plane (BMP)....

不用转,直接输出结果即可,系统会自动转换。举例:

System.out.println("\\u0061\\u0062\\u6c49\\u5b57");

结果就是:ab汉字。

参考技术A Unicode转 汉字字符串最简单的方式就是直接获取。比如
String cnStr = "\\u9996";
System.out.println(cnStr); 即可获取对应的汉字字符 “首”;
但是每次从输出就不方便了,可以使用以下方法来做转换,直接获取。
代码片段如下:
public static String unicodeToString(String str)
Pattern pattern = Pattern.compile("(\\\\u(\\pXDigit4))");
Matcher matcher = pattern.matcher(str);
char ch;
while (matcher.find())
ch = (char) Integer.parseInt(matcher.group(2), 16);
str = str.replace(matcher.group(1), ch + "");

return str;

直接调用这个方法就可以把unicode转换成中文了!
参考技术B 1、URLEncoder.encode("首","unicode");这个方法是把“首”字将按unicode进行编码得到:%FE%FF%99%96
2、URLDecoder.decode("%FE%FF%99%96","unicode")这个是方法是将%FE%FF%99%96按照unicode编码集进行解码。
3、不知道你是用什么方法将“首”字安unicode编译成“\\u9996”?!追问

不要仅仅局限于URLEncoder啊

\u9996是标准的unicode编码表现形式
打开你的Eclipse,然后查看Character这个类的注释,有下面的一段话:

The set of characters from U+0000 to U+FFFF is sometimes referred to as the
Basic Multilingual Plane (BMP)....

参考技术C unicode还分很多种 ~~~

String s="\\\\u"+String.valueOf((int)(char)'首'); 试试

String s1="9996"); //去掉\\u
System.out.println((char)(byte)Integer.parseInt(s1));本回答被提问者采纳

以上是关于如何判断一个字符串是不是是unicode编码?的主要内容,如果未能解决你的问题,请参考以下文章

如何判断字符是不是中文

Unicode与编码方式

JS - 字符编码 (ASCII,Unicode,UTF-8)

Unicode是啥???

Python—编码与解码(encode()和decode())

C#中如何判断一个字符是汉字