BIG5

Big5是雙字節(jié)編碼，高字節(jié)編碼范圍是0x81-0xFE，低字節(jié)編碼范圍是0x40-0x7E和0xA1-0xFE。和GBK相比，少了低字節(jié)是0x80-0xA0的組合。0x8140-0xA0FE是保留區(qū)域，用于用戶造字區(qū)。

Big5收錄的漢字只包括繁體漢字，不包括簡體漢字，一些生僻的漢字也沒有收錄。GBK收錄的日文假名字符、俄文字符Big5也沒有收錄。因為Big5當中收錄的字符有限，因此有很多在Big5基礎上擴展的編碼，如倚天中文系統(tǒng)。Windows系統(tǒng)上使用的代碼頁CP950也可以理解為是對Big5的擴展，在Big5的基礎上增加了7個漢字和一些符號。Big5編碼對應的字符集是GBK字符集的子集，也就是說Big5收錄的字符是GBK收錄字符的一部分，但相同字符的編碼不同。

因為Big5也占用了ASCII的編碼空間（低字節(jié)所使用的0x40-0x7E），所以Big5編碼在一些環(huán)境下存在和GBK編碼相同的問題，即低字節(jié)范圍為0x40-0x7E的字符有可能會被誤處理，尤其是低字節(jié)是0x5C（"/"）和0x7C（"|"）的字符。可以參考GBK一節(jié)相應說明。

盡管有些區(qū)別，大多數(shù)情況下可以把CP950當作Big5的別名。

ISO-8859-1

ISO-8859-1編碼是單字節(jié)編碼，向下兼容ASCII，其編碼范圍是0x00-0xFF，0x00-0x7F之間完全和ASCII一致，0x80-0x9F之間是控制字符，0xA0-0xFF之間是文字符號。

ISO-8859-1收錄的字符除ASCII收錄的字符外，還包括西歐語言、希臘語、泰語、阿拉伯語、希伯來語對應的文字符號。歐元符號出現(xiàn)的比較晚，沒有被收錄在ISO-8859-1當中。

因為ISO-8859-1編碼范圍使用了單字節(jié)內(nèi)的所有空間，在支持ISO-8859-1的系統(tǒng)中傳輸和存儲其他任何編碼的字節(jié)流都不會被拋棄。換言之，把其他任何編碼的字節(jié)流當作ISO-8859-1編碼看待都沒有問題。這是個很重要的特性，MySQL數(shù)據(jù)庫默認編碼是Latin1就是利用了這個特性。ASCII編碼是一個7位的容器，ISO-8859-1編碼是一個8位的容器。

Latin1是ISO-8859-1的別名，有些環(huán)境下寫作Latin-1。

UCS-2和UTF-16

Unicode組織和ISO組織都試圖定義一個超大字符集，目的是要涵蓋所有語言使用的字符以及其他學科使用的一些特殊符號，這個字符集就是通用字符集（UCS，Universal Character Set）。這兩個組織經(jīng)過協(xié)調(diào)，雖然在各自發(fā)展，但定義的字符位置是完全一致的。ISO相應的標準是ISO 10646。Unicode和ISO 10646都在不斷的發(fā)展過程中，所以會有不同的版本號來標明不同的發(fā)展階段，每個Unicode版本號都能找到相對應的ISO 10646版本號。

ISO 10646標準定義了一個31位的字符集。前兩個字節(jié)的位置（0x0000-0xFFFD）被稱為基本多語言面（Basic Multilingual Plane, BMP） ，超出兩個字節(jié)的范圍稱作輔助語言面。BMP基本包括了所有語言中絕大多數(shù)字符，所以只要支持BMP就可以支持絕大多數(shù)場合下的應用。Unicode 3.0對應的字符集在BMP范圍內(nèi)。

UCS字符集為每個字符分配了一個位置，通常用“U”再加上某個字符在UCS中位置的16進制數(shù)作為這個字符的UCS表示，例如“U+0041”表示字符“A”。UCS字符U+0000到U+00FF與ISO-8859-1完全一致。

UCS-2、UTF-16是UCS字符集（或者說是Unicode字符集）實際應用中的具體編碼方式。UCS-2是兩個字節(jié)的等寬編碼，因為只是使用了兩個字節(jié)的編碼空間，所以只能對BMP中的字符做編碼。UTF-16是變長編碼，用兩個字節(jié)對BMP內(nèi)的字符編碼，用4個字節(jié)對超出BMP范圍的輔助平面內(nèi)的字符作編碼。

UCS-2不同于GBK和Big5，它是真正的等寬編碼，每個字符都使用兩個字節(jié)，這個特性在字符串截斷和字符數(shù)計算時非常方便。

UTF-16是UCS-2的超集，UTF-16編碼的兩字節(jié)編碼方式完全和UCS-2相同，也就是說在BMP的框架內(nèi)UCS-2完全等同與UTF-16。實際情況當中常常把UCS-16當作UCS-2的別名。

UCS-2和UTF-16在存儲和傳輸時會使用兩種不同的字節(jié)序，分別是big endian和little endian（大尾和小尾）。例如“啊”（U+554A）用big endian表示就是0x554A，用little endian表示就是0x4A55。UCS-2和UTF-16默認的字節(jié)序是big endian方式。在傳輸過程中為了說明字節(jié)序需要在字節(jié)流前加上BOM（Byte order Mark），0xFEFF表示是big endian，0xFFFE表示是little endian。UCS-2BE、UCS-2LE是實際應用中使用的編碼名稱，對應著big endian和little endian，UTF-16BE、UTF-16LE也是如此。因為默認是BE字節(jié)序，所以可以把UCS-2當做是UCS-2BE的別名。

在UCS編碼中有一個叫做“ZERO WIDTH NO-BREAK SPACE”的字符，它的編碼是U+FEFF，是個沒有實際意義的字符。UCS規(guī)范建議我們在傳輸字節(jié)流前，先傳輸字符“ZERO WIDTH NO-BREAK SPACE”，如果傳輸?shù)腪ERO WIDTH NO-BREAK SPACE是0xFEFF就說明是big endian，反之就是little endian。

UCS-2和UTF-16也可以理解為和ASCII以及ISO-8859-1兼容，在ASCII編碼或者ISO-8859-1編碼的每個字節(jié)前加上0x00，就得到相應字符的UCS-2編碼。

UCS-2和UTF-16中會使用0x00作為某個字符編碼的一部分，某些系統(tǒng)會把0x00當作字符串結(jié)束的標志，在處理UCS-2或UTF-16編碼時會出現(xiàn)問題。

UTF-8

UTF-8是UCS字符集的另一種編碼方式，UTF-16的每個單元是兩個字節(jié)（16位），而UTF-8的每個單元是一個字節(jié)（8位）。UTF-16中用一個或兩個雙字節(jié)表示一個字符，UTF-8中用一個或幾個單字節(jié)表示一個字符。

可以認為UTF-8編碼是根據(jù)一定規(guī)律從UCS-2轉(zhuǎn)換得到的，從UCS-2到UTF-8之間有以下轉(zhuǎn)換關系：

例如“啊”字的UCS-2編碼是0x554A，對應的二進制是0101 0101 0100 1010，轉(zhuǎn)成UTF-8編碼之后的二進制是1110 0101 10 010101 10 001010，對應的十六進制是0xE5958A。

UCS-4也是一種UCS字符集的編碼方式，是使用4個字節(jié)的等寬編碼，可以用UCS-4來表示BMP之外的輔助面字符。UCS-2中每兩個字節(jié)前再加上0x0000就得到了BMP字符的UCS-4編碼。從UCS-4到UTF-8也存在轉(zhuǎn)換關系，根據(jù)這種轉(zhuǎn)換關系，UTF-8最多可以使用六個字節(jié)來編碼UCS-4。

根據(jù)UTF-8的生成規(guī)律和UCS字符集的特性，可以看到UTF-8具有的特性：

1. UTF-8完全和ASCII兼容，也就是說ASCII對應的字符在UTF-8中和ASCII編碼完全一致。范圍在0x00-0x7F之內(nèi)的字符一定是ASCII字符，不可能是其他字符的一部分。GBK和Big5都存在的缺陷在UTF-8中是不存在的。
2. 大于U+007F的UCS字符，在UTF-8編碼中至少是兩個字節(jié)。
3. UTF-8中的每個字符編碼的首字節(jié)總在0x00-0xFD之間（不考慮UCS-4支持的情況，首字節(jié)在0x00-0xEF之間）。根據(jù)首字節(jié)就可以判斷之后連續(xù)幾個字節(jié)。
4. 非首字節(jié)的其他字節(jié)都在0x80-0xBF之間；0xFE和0xFF在UTF-8中沒有被用到。
5. GBK編碼中的漢字字符都在UCS-2中的范圍都在U+0800 - U+FFFF之間，所以每個GBK編碼中的漢字字符的UTF-8編碼都是3個字節(jié)。但GBK中包含的其他字符的UTF-8編碼就不一定是3個字節(jié)了，如GBK中的俄文字符。

在UTF-8的編碼的傳輸過程中即使丟掉一個字節(jié)，根據(jù)編碼規(guī)律也很容易定位丟掉的位置，不會影響到其他字符。在其他雙字節(jié)編碼中，一旦損失一個字節(jié)，就會影響到此字節(jié)之后的所有字符。從這點可以看出UTF-8編碼非常適合作為傳輸編碼。