ASCII,Unicode和UTF-8

Posted 没离开过

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了ASCII,Unicode和UTF-8相关的知识,希望对你有一定的参考价值。

转自阮一峰老师的博文 http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html

1. ASCII码

我们知道,在计算机内部,所有的信息最终都表示为一个二进制的字符串。每一个二进制位(bit)有0和1两种状态,因此八个二进制位就可以组合出256种状态,这被称为一个字节(byte)。也就是说,一个字节一共可以用来表示256种不同的状态,每一个状态对应一个符号,就是256个符号,从0000000到11111111。

上个世纪60年代,美国制定了一套字符编码,对英语字符与二进制位之间的关系,做了统一规定。这被称为ASCII码,一直沿用至今。

ASCII码一共规定了128个字符的编码,比如空格"SPACE"是32(二进制00100000),大写的字母A是65(二进制01000001)。这128个符号(包括32个不能打印出来的控制符号),只占用了一个字节的后面7位,最前面的1位统一规定为0。

(至此就理解了 如果只表示英文字符,那么一个字节就够了,还多出了一位。ASCII码就是表达各个英文字符的)

 

2、非ASCII编码

英语用128个符号编码就够了,但是用来表示其他语言,128个符号是不够的。在法语中,字母上方有注音符号,它就无法用ASCII码表示,至于亚洲国家的文字,使用的符号就更多了,汉字就多达10万左右。

(ASCII 无法标识所有语言字符)

 

3.Unicode

可以想象,如果有一种编码,将世界上所有的符号都纳入其中。每一个符号都给予一个独一无二的编码,那么乱码问题就会消失。这就是Unicode,就像它的名字都表示的,这是一种所有符号的编码。

Unicode当然是一个很大的集合,现在的规模可以容纳100多万个符号。每个符号的编码都不一样,比如,U+0639表示阿拉伯字母Ain,U+0041表示英语的大写字母A,U+4E25表示汉字"严"。

4. Unicode的问题

需要注意的是,Unicode只是一个符号集,它只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储。

第一个问题是,如何才能区别Unicode和ASCII?计算机怎么知道三个字节表示一个符号,而不是分别表示三个符号呢?第二个问题是,我们已经知道,英文字母只用一个字节表示就够了,如果Unicode统一规定,每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,这对于存储来说是极大的浪费,文本文件的大小会因此大出二三倍,这是无法接受的。

 

5.UTF-8

UTF-8是Unicode的实现方式之一。

UTF-8最大的一个特点,就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。

6. Unicode与UTF-8之间的转换

通过上一节的例子,可以看到"严"的Unicode码是4E25,UTF-8编码是E4B8A5,两者是不一样的。它们之间的转换可以通过程序实现。

7. Little endian和Big endian

上一节已经提到,Unicode码可以采用UCS-2格式直接存储。以汉字"严"为例,Unicode码是4E25,需要用两个字节存储,一个字节是4E,另一个字节是25。存储的时候,4E在前,25在后,就是Big endian方式;25在前,4E在后,就是Little endian方式。

 

以上是关于ASCII,Unicode和UTF-8的主要内容,如果未能解决你的问题,请参考以下文章

js怎么将unicode编码转换成ascii码

Unicode和Ascii的区别

Unicode和其他编码兼容性

字符编码简介:ASCII,Unicode,UTF-8,GB2312及Unicode和UTF-8如何转化

创建文件夹并解决解决unicode和ASCII码转换的问题

字符编码笔记:ASCII,Unicode和UTF-8