Unicode 和 UTF-8 有何区别？

Posted 2020-08-09 万物为铜

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Unicode 和 UTF-8 有何区别？相关的知识，希望对你有一定的参考价值。

Unicode符号范围（一个字符两个字节）　| UTF-8编码方式

(十六进制)　　　　　　　　　　　　　　 | （二进制）
—————————————————————–

　　　　这儿有四个字节
从-----00 00 00 00---到----00 00 00 7F | 0xxxxxxx 一个字符需要一个字节
从-----00 00 00 80---到----00 00 07 FF | 110xxxxx 10xxxxxx　　　　　　　　　　　　　　一个字符需要两个字节
从-----00 00 08 00---到----00 00 FF FF | 1110xxxx 10xxxxxx 10xxxxxx　　　　　　　　一个字符需要三个字节
从-----00 01 00 00---到----00 10 FF FF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx　　　一个字符需要四个字节　

举一个例子：

It‘s 知乎日报
你看到的unicode（字符集）是这样的编码表：

I 0049
t 0074
‘ 0027
s 0073
  0020
知 77e5
乎 4e4e
日 65e5
报 62a5

每一个字符对应一个十六进制数字。

计算机只懂二进制，因此，严格按照unicode的方式(UCS-2)，应该这样存储：

I 00000000 01001001
t 00000000 01110100
‘ 00000000 00100111
s 00000000 01110011
  00000000 00100000
知 01110111 11100101
乎 01001110 01001110
日 01100101 11100101
报 01100010 10100101

这个字符串总共占用了18个字节，但是对比中英文的二进制码，可以发现，英文前9位都是0！浪费啊，浪费硬盘，浪费流量。

怎么办？

UTF。

UTF-8（编码方式）是这样做的：

1. 单字节的字符，字节的第一位设为0，对于英语文本，UTF-8码只占用一个字节，和ASCII码完全相同；

2. n个字节的字符(n>1)，第一个字节的前n位设为1，第n+1位设为0，后面字节的前两位都设为10，这n个字节的其余空位填充该字符unicode码，高位用0补足。

这样就形成了如下的UTF-8标记位：

0xxxxxxx
110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
... ...

于是，”It‘s 知乎日报“就变成了：

I 01001001
t 01110100
‘ 00100111
s 01110011
  00100000
知 11100111 10011111 10100101
乎 11100100 10111001 10001110
日 11100110 10010111 10100101
报 11100110 10001010 10100101

和上边的方案对比一下，英文短了，每个中文字符却多用了一个字节。但是整个字符串只用了17个字节，比上边的18个短了一点点。

下边是课后作业：

请将”It‘s 知乎日报“的GB2312和GBK码(自行google)转成二进制。不考虑历史因素，从技术角度解释为什么在unicode和UTF-8大行其道的同时，GB2312和GBK仍在广泛使用。

剧透：一切都是为了节省你的硬盘和流量。