最近在做一個反饋功能,把數據反饋到對方公司網站,我公司是GBK編碼,對方公司是UTF-8編碼。因此,我需要將GBK編碼數據轉換成UTF-8編碼數據,這樣對方網站才不會亂碼。最簡單的方法是將HttpClient的ContentCharset設置為utf-8;如果ContentCharset是gbk并且又不想設置為utf-8,那么就需要將數據轉換成UTF-8編碼再發到對方網站。
問題出現:GBK轉UTF-8時,奇數個中文會亂碼,偶數個中文不會亂碼。
三個中文
- public static void encodeError() throws UnsupportedEncodingException {
- String gbk = "我來了";
- String utf8 = new String(gbk.getBytes("UTF-8"));
-
- //模擬UTF-8編碼的網站顯示
- System.out.println(new String(utf8.getBytes(),"UTF-8"));
- }
- /*
- 我來??
- */
前面三個中文,后面一個中文,都是奇數
- public static void encodeError2() throws UnsupportedEncodingException {
- String gbk = "今年是2011年";
- String utf8 = new String(gbk.getBytes("UTF-8"));
-
- //模擬UTF-8編碼的網站顯示
- System.out.println(new String(utf8.getBytes(),"UTF-8"));
- }
- /*
- 今年??011??
- */
原因:為什么只有奇數個中文才亂碼,偶數個卻不亂碼?下面來分析原因
- public static void analyze() throws UnsupportedEncodingException {
- String gbk = "我來了";
- String utf8 = new String(gbk.getBytes("UTF-8"));
- for (byte b : gbk.getBytes("UTF-8")) {
- System.out.print(b + " ");
- }
- System.out.println();
- for (byte b : utf8.getBytes()) {
- System.out.print(b + " ");
- }
- }
- /*
- -26 -120 -111 -26 -99 -91 -28 -70 -122
- -26 -120 -111 -26 -99 -91 -28 -70 63
- */
注意最后一個字節不同,上面一行才是正確的UTF-8編碼。那么為什么下面一行最后一個字節是63,而不是-122呢?這就是導致亂碼的原因所在。
GBK編碼是一個中文2個字節,而UTF-8編碼是一個中文3個字節,當我們調用getBytes("UTF-8")方法時,會通過計算來增加字節,使得從GBK的2個字節變成UTF-8對應的3個字節。因此,上例3個中文輸出了9個字節。
這里講一下怎么通過計算增加字節,不深究的讀者可以跳過此段。為了醒目,直接用代碼講解
- public static void gbk2Utf() throws UnsupportedEncodingException {
- String gbk = "我來了";
- char[] c = gbk.toCharArray();
- byte[] fullByte = new byte[3*c.length];
- for (int i=0; i<c.length; i++) {
- String binary = Integer.toBinaryString(c[i]);
- StringBuffer sb = new StringBuffer();
- int len = 16 - binary.length();
- //前面補零
- for(int j=0; j<len; j++){
- sb.append("0");
- }
- sb.append(binary);
- //增加位,達到到24位3個字節
- sb.insert(0, "1110");
- sb.insert(8, "10");
- sb.insert(16, "10");
- fullByte[i*3] = Integer.valueOf(sb.substring(0, 8), 2).byteValue();//二進制字符串創建整型
- fullByte[i*3+1] = Integer.valueOf(sb.substring(8, 16), 2).byteValue();
- fullByte[i*3+2] = Integer.valueOf(sb.substring(16, 24), 2).byteValue();
- }
- //模擬UTF-8編碼的網站顯示
- System.out.println(new String(fullByte,"UTF-8"));
- }
現在我們來找出最后一個字節是63,而不是-122的原因。
- public static void analyze2() throws UnsupportedEncodingException {
- String gbk = "我來了";
- byte[] utfBytes = gbk.getBytes("UTF-8");//得到9個字節
- String utf8 = new String(utfBytes);//問題就出在這
- System.out.print(utf8);
- }
- /*
- 鎴戞潵浜?
- */
因為文件是GBK編碼,new String(utfBytes)默認就是new String(utfBytes,"GBK")。它會2個字節2個字節地轉換成字符,當字節是奇數時最后1個字節轉字符就會計算錯誤,然后直接賦予最后這個字符為?,對應ASCII代碼就是63。
解決問題
保證字節正確才是硬道理。當調用getBytes("UTF-8")轉換成字節數組后,創建ISO-8859-1編碼的字符串,ISO-8859-1編碼是一個字節對應一個字符,因此不會使最后一個字節錯誤。
- public static void correctEncode() throws UnsupportedEncodingException {
- String gbk = "我來了";
- String iso = new String(gbk.getBytes("UTF-8"),"ISO-8859-1");
- for (byte b : iso.getBytes("ISO-8859-1")) {
- System.out.print(b + " ");
- }
- System.out.println();
-
- //模擬UTF-8編碼的網站顯示
- System.out.println(new String(iso.getBytes("ISO-8859-1"),"UTF-8"));
- }
- /*
- -26 -120 -111 -26 -99 -91 -28 -70 -122
- 我來了
- */