<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    編碼字符集與Java -Java World亂碼問題根源之所在。

    本文介紹了編碼字符集的概念以及Java與編碼字符集之間的關系,文章的內容來自于本人工作過程中的經驗積累以及網絡中的相關文章介紹,如果文章中有任何紕漏歡迎讀者指正,讓我們共同討論學習J

    1.????? 字符

    字符是抽象的最小文本單位。它沒有固定的形狀(可能是一個字形),而且沒有值?!?/span>A”是一個字符,“€”(德國、法國和許多其他歐洲國家通用貨幣的標志)也是一個字符。“中”“國”這是兩個漢字字符。字符僅僅代表一個符號,沒有任何實際值的意義。

    2.????? 字符集

    字符集是字符的集合。例如,漢字字符是中國人最先發明的字符,在中文、日文、韓文和越南文的書寫中使用。這也說明了字符和字符集之間的關系,字符組成字符集。

    3.????? 編碼字符集

    編碼字符集是一個字符集(有時候也被簡稱位字符集),它為每一個字符分配一個唯一數字。最早的編碼是iso8859-1,和ascii編碼相似。但為了方便表示各種各樣的語言,逐漸出現了很多標準編碼。

    ?

    iso8859-1:屬于單字節編碼字符集,最多能表示的字符范圍是0-255,應用于英文系列,除了iso8859-1以外還有其他iso8859系列的編碼,這些編碼都是為了滿足歐洲國家語言字符的需要而設計的。

    ?

    GB2312/GBK/ GB18030:前面提到的iso8859-1最多只能表示256個字符,這對于漢字來說實在是有些抱歉,所以就有了現在要介紹的漢字國標碼,專門用來表示漢字,是雙字節編碼字符集,而英文字母和iso8859-1一致(兼容iso8859-1編碼)。其中GBK編碼能夠用來同時表示繁體字和簡體字,而GB2312只能表示簡體字,GBK是兼容GB2312編碼的。而GB18030-2000則是一個更復雜的字符集,采用變長字節的編碼方式,能夠支持更多的字符。需要注意的是中國政府要求所有在中國出售的軟件必須支持GB18030

    ?

    Unicode這是最統一的編碼字符集,可以用來表示所有語言的字符,不兼容任何前面提到的編碼字符集。Unicode 標準始終使用十六進制數字,而且在書寫時在前面加上前綴“U+”,所以“A”的編碼書寫為“U+0041。注意:在JAVA語言中書寫時應該使用轉義符‘\u’表示,如 char charA = ‘\u0041’; 這種表示方法等與 char charA = ‘A’; 。

    ?

    ASCII(英文) ==> 西歐文字 ==> 東歐字符集(俄文,希臘語等) ==> 東亞字符集(GB2312 BIG5 SJIS等)==> 擴展字符集GBK GB18030這個發展過程基本上也反映了字符集標準的發展過程,但這么隨著時間的推移,尤其是互聯網讓跨語言的信息的交互變得越來越多的時候,太多多針對本地語言的編碼標準的出現導致一個應用程序的國際化變得成本非常高。尤其是你要編寫一個同時包含法文和簡體中文的文檔,這時候一般都會想到要是用一個通用的字符集能夠顯示所有語言的所有文字就好了,而且這樣做應用也能夠比較方便的國際化,為了達到這個目標,即使應用犧牲一些空間和程序效率也是非常值得的。UNICODE就是這樣一個通用的解決方案。

    ?

    4.????? Unicode編碼字符集

    Unicode 因為必須將中、韓、日、英、法、阿拉伯……等許多國家所使用的文字都納入,目前已經包含了六萬多個字符,所以 Unicode 使用了16個位來為字符編碼。因為 Unicode 使用了 16 位編碼,所以每個字符都用 16 位來儲存或傳輸是很自然的事,這種儲存或傳輸的格式稱為UTF-16(一種Unicode的字符編碼方案,在這里所說的UTF-16并不涉及增補字符的表示,本文將會在稍后介紹)。但是如果你使用到的字符都是西方字符,那么你一定不會想用 UTF-16 的格式,因為體積比8位的iso8859-1多了一倍,如此一來就必須考慮程序運行時各種字符在內存中所占空間的性能問題,這便引入了字符編碼方案的概念:

    字符編碼方案是從一個或多個編碼字符集到一個或多個固定寬度代碼單元序列的映射。

    最常用的代碼單元是字節,所以可以簡單的認為字符編碼方案是為了告訴計算機如何將編碼字符集(如Unicode)映射到計算機可以識別的數據格式中,如字節。這種編碼方案往往能夠為他所對應的字符集在計算機處理時提供更為優化的空間以及性能上的解決方案。Unicode編碼字符集有三種字符編碼方案,下面將逐一介紹:

    ?

    l???????? UTF-32* 即將每一個Unicode編碼表示為相同值的32位整數。很明顯,它是內部處理最方便的表達方式,但是,如果作為一般字符串表達方式,則要消耗更多的內存。顯而易見,對于英文字母的表示將需要多個0字節,僅僅因為我們需要4個字節32位來表示一個Unicode字符。

    ?

    l???????? UTF-16 使用一個或兩個未分配的 16位代碼單元的序列對Unicode編碼進行編碼。值U+0000U+FFFF 編碼為一個相同值的16位單元。增補字符*編碼為兩個代碼單元,第一個單元來自于高代理范圍(U+D800 U+DBFF),第二個單元來自于低代理范圍(U+DC00 U+DFFF)。這在概念上可能看起來類似于多字節編碼,但是其中有一個重要區別:值 U+D800 U+DFFF 保留用于 UTF-16;沒有這些值分配字符作為代碼點。這意味著,對于一個字符串中的每個單獨的代碼單元,軟件可以識別是否該代碼單元表示某個單單元字符,或者是否該代碼單元是某個雙單元字符的第一個或第二單元。這相當于某些傳統的多字節字符編碼來說是一個顯著的改進,在傳統的多字節字符編碼中,字節值0x41 既可能表示字母“A”,也可能是一個雙字節字符的第二個字節。

    ?

    l???????? UTF-8 使用一至四個字節的序列對編碼Unicode進行編碼。U+0000U+007F使用一個字節編碼,U+0080U+07FF 使用兩個字節,U+0800 U+FFFF使用三個字節,而U+10000U+10FFFF使用四個字節。UTF-8設計原理為:字節值0x000x7F始終表示代碼點U+0000U+007FBasic Latin 字符子集,它對應 ASCII 字符集)。這些字節值永遠不會表示其他Unicode編碼字符,這一特性使 UTF-8 可以很方便地在軟件中將特殊的含義賦予某些 ASCII 字符。UTF-8 的格式在編碼英文時,只需要8位,但是中文則是24位,其他更加偏僻的字符才又可能是32位,這也是UTF-8最大的編碼特點,可以最高效率的利用計算機空間,因為在計算機處理的時候大多數情況下還是只使用英文進行運算和處理,這也是為什么還需要UTF-8的主要原因,因為畢竟互聯網70%以上的信息仍然是英文。如果連英文都用2個字節存取(UCS-2),空間浪費不就太多了?

    ?

    ?

    * ?UTF--32 表示Unicode Transformation Form 32-bit form,UTF-16,UTF-8依此類推。

    * ?Unicode 最初設計是作為一種固定寬度的 16 位字符編碼。在 Java 編程語言中,基本數據類型 char 初衷是通過提供一種簡單的、能夠包含任何字符的數據類型來充分利用這種設計的優點。不過,現在看來,16 位編碼的所有65,536個字符并不能完全表示全世界所有正在使用或曾經使用的字符。于是,Unicode 標準已擴展到包含多達 1,112,064個字符。那些超出原來的16位限制的字符被稱作增補字符。

    5.????? Java與編碼字符集

    從上面的介紹我們知道了Unicode編碼字符集可以用來表示世界上所有的語言文字。Java內部處理字符使用的字序方式是Unicode,這是一種通行全球的編碼方式,他使Java語言能夠描述世界上所有的文字。在Java程序中對各種字符在內存中處理是使用UnicodeUTF-8編碼方式,這也是因為UTF-8的特點所決定的,Class File(也就是bytecode)中有一欄位叫做常數區(Constant Pool),一律使用UTF-8為子元編碼。

    ?

    這看起來一切正常,Java可以處理世界上所有的字符,一切都是按照秩序在運行,但是,從前面的討論我們知道,世界上并不是僅僅只有Unicode編碼字符集,同時存在的還有iso8859-1、GBK等編碼字符集,就是在Unicode中也同樣存在著UTF-8UTF-16,UTF-32等多種編碼,如果傳入的字節編碼采用的是GB18030,而采用的解碼方式為UTF-8那會有什么后果呢,看看下面的代碼片段:

    ?

    public static final String TEST_RESOURCE = "你好";

    ?

    ??? public static void testEncoding() {

    ??????? try {

    ??????????? byte[] bytes = TEST_RESOURCE.getBytes("GB18030");

    ??????????? String result = new String(bytes, "UTF-8");

    ??????????? System.out.println("Receive value: [" + result + "].");

    ??????? } catch (UnsupportedEncodingException e) {

    ??????????? // TODO Auto-generated catch block

    ??????????? e.printStackTrace();

    ??????? }

    ??? }

    執行以上的代碼片段,在我的機器(Win XP中文版)上面得到的結果是:

    ?????? Receive value: [???].

    明白了吧,這就是久負盛名的亂碼問題的根源,目前在市面上存在有多種編碼字符集,以及編碼字符集的編碼方案,所以雖然在Java中內部是以UnicodeUTF-8來處理各種字符的表示以及運算,但是這僅僅是在Java內部而以,如果Java程序需要和外部應用系統進行交互,比如與操作系統,數據庫系統之間的交互,那么在這些交互過程中如何處理字符集的編碼解碼是解決好Java應用程序亂碼問題的根源。

    如果將上面的代碼塊修改成如下的代碼塊:

    ??? public static void testEncoding() {

    ??????? try {

    ??????????? byte[] bytes = TEST_RESOURCE.getBytes("GB18030");

    ??????????? String result = new String(bytes, "GB18030");

    ??????????? System.out.println("Receive value: [" + result + "].");

    ??????? } catch (UnsupportedEncodingException e) {

    ??????????? // TODO Auto-generated catch block

    ??????????? e.printStackTrace();

    ??????? }

    ??? }

    ???????????????????? 注意紅色標注的地方,執行以上的代碼塊將會受到預期的結果:

    ??????????????????????????? Receive value: [你好].

    統一字符的編碼類型和解碼類型,如此一來任何亂碼問題都不會再是問題了。在網上可以搜索到N多的關于如何解決J2EE亂碼問題的文章,我在這里也就不廢話了,我只是想說說Java亂碼問題的根源之所在。

    如果你仔細想想Java的開發過程,原文件編寫、javac編譯、java執行,這每一步驟都會涉及到編碼的轉換過程,這個過程總是存在的,只是有的時候用默認的參數進行。

    我們從javac這個命令來開始我們的分析,編譯的時候,如果你不說明源文件編碼方式的話,javac 編譯器在讀進此原始程序文件開始編譯之前,會先去詢問操作系統檔案預設的編碼方式為何。以我的操作系統WIN XP 中文版來說,javac 會先詢問WIN XP,得知當前的編碼是用GB18030的方式編碼。然后就可以將源文件由GB18030轉成Unicode編碼方式,開始進行編譯。在這里就會發生一下一些編碼問題:

    ?

    l???????? 如果操作系統的國籍資料設定錯誤,會造成javac編譯器取得的編碼信息是錯誤的,這里也有可能由于系統屬性file.encoding設置錯誤,在我的系統中該屬性為GB18030,可以通過代碼System.out.println(System.getProperties());輸出可能的系統屬性。

    ?

    l???????? 較差勁的編譯器可能沒有主動詢問操作系統的編碼方式,而是采用編譯器預設的編碼方式,當然這種情況對于目前先進的編譯器來說已經不存在了,但是這確實是一種可能的原因。

    ?

    l???????? 源代碼是在英文操作系統上書寫采用編碼iso8859-1,寫好以后再將源代碼傳遞給中文操作系統進行編譯,這樣由于兩個操作系統的編碼方式不同,也會造成javac執行錯誤。

    ?

    明白了吧,這些問題在我們日常的代碼編寫過程中,往往由于默認的屬性都正好能滿足我們的需要,即源代碼的書寫以及編譯都采用操作系統默認的編碼方式,所以可能很多人到目前為止都沒有遇見過諸如此類的問題,但是我們要知道,這些問題確實是存在的。

    Java編譯器在執行過程中給我們提供了可選的encoding參數來告訴編譯器該采用何種編碼方式將讀入的源文件轉換成Unicode編碼方式,然后再進行后續的編譯工作。

    javac –encoding GB18030 ….

    ?

    6.????? Inside

    OK,通過前面的介紹希望讀者能夠對Java以及各種字符編碼之間的關系有個簡單的了解,下面我在繼續總結一下:

    ?

    l???????? Javac是以系統默認編碼(file.encoding系統屬性)讀入源文件,然后按Unicode進行編碼的。

    ?

    l???????? JAVA運行的時候,JAVA也是采用Unicode編碼的,為了高度利用內存空間提高效率對Unicode字符編碼采用了UTF-8的方式編碼,并且默認輸入和輸出的都是操作系統的默認編碼。

    ?

    l???????? 也就是說在new String(bytes,encode)中,系統認為輸入的是編碼為encode的字節流,換句話說,如果按encode來翻譯bytes才能得到正確的結果;而在new String(bytes)中采用的就是根據file.encoding系統屬性讀入的編碼方式來進行編碼,同樣也必須根據系統默認的編碼才能得到正確的結果,這個結果最后要在JAVA中保存,它還是要從這個encode轉換成Unicode,因為在JAVA中各種字符均是以Unicode的形式來處理的。

    ?

    l???????? 也就是說有bytes-->encode字符-->Unicode字符的轉換;而在String.getBytes([encode])中,系統要做一個Unicode字符-->encode字符-->bytes的轉換。

    ?

    希望通過本文的介紹能夠使你對字符集編碼的概念以及Java與字符集編碼之間的關系有個清楚的認識,我相信,如果搞清楚了他們之間的關系,那個在Java world鼎鼎有名的亂碼問題將一去不再復返了J

    posted on 2006-09-24 00:08 Find it, try it, experience it 閱讀(9360) 評論(5)  編輯  收藏

    評論

    # re: 編碼字符集與Java -Java World亂碼問題根源之所在。 2006-09-25 15:02 123bingbing

    答問題,做項目,賺積分,換大獎.
    我出錢你學習,現在來www.mylinux.com.cn做趣味問答就能得到積分獎勵并可兌換大獎  回復  更多評論   

    # re: 編碼字符集與Java -Java World亂碼問題根源之所在。 2006-09-25 15:30 123bingbing


    mylinux將給你與全國程序員直接對話的機會!
    編程員兼職的唯一最佳選擇---專業、高效、可信
    輕松兼職輕松賺錢,輕松實現自身價值,親手編出自己的未來,盡在mylinux!  回復  更多評論   

    # re: 編碼字符集與Java -Java World亂碼問題根源之所在。 2006-09-27 10:03 warren

    謝謝作者 ,我一直對編碼沒徹底明白,出現問題時一頓亂改,雖然大部分時候能碰對。
    文章寫的很好,繼續努力!  回復  更多評論   

    # re: 編碼字符集與Java -Java World亂碼問題根源之所在。 2007-01-08 21:35 huang[匿名]

    謝謝作者  回復  更多評論   

    # re: 編碼字符集與Java -Java World亂碼問題根源之所在。 2007-10-31 12:58 中華信鴿

    good  回復  更多評論   


    只有注冊用戶登錄后才能發表評論。


    網站導航:
     
    <2006年9月>
    272829303112
    3456789
    10111213141516
    17181920212223
    24252627282930
    1234567

    導航

    統計

    公告

    If there is any question you have, please don't hesitate, let me know ASAP, you can find me at kenees@gmail.com or QQ: 9808873, hope to make friends with you ;)

    常用鏈接

    留言簿(1)

    隨筆檔案

    文章檔案

    搜索

    積分與排名

    最新評論

    閱讀排行榜

    評論排行榜

    主站蜘蛛池模板: 在线毛片片免费观看| 国产偷国产偷亚洲清高APP| 国产性生大片免费观看性 | 日韩亚洲国产高清免费视频| 99久久久国产精品免费牛牛| 亚洲一区综合在线播放| 热久久精品免费视频| 亚洲伊人久久大香线蕉结合| 青娱乐免费在线视频| 天天爽亚洲中文字幕| 午夜高清免费在线观看| 亚洲人成电影网站免费| 免费中文字幕在线| 99久久亚洲综合精品成人网| 88av免费观看入口在线| 亚洲an日韩专区在线| 好久久免费视频高清| 亚洲高清中文字幕| 99re热免费精品视频观看| 无码亚洲成a人在线观看| 亚洲国产一成久久精品国产成人综合| 一级毛片免费视频网站| 亚洲av无码av制服另类专区| 99爱视频99爱在线观看免费| 亚洲AV无码一区二区三区人 | 国产国拍亚洲精品mv在线观看| 日本免费中文字幕| 亚洲乱码一二三四区乱码| 国产色婷婷精品免费视频| 亚洲黄片手机免费观看| 91亚洲精品第一综合不卡播放| 国产精品免费观看久久| 羞羞漫画在线成人漫画阅读免费| 亚洲精品夜夜夜妓女网 | 三年在线观看免费观看完整版中文| 亚洲AV无码一区二区三区系列| 歪歪漫画在线观看官网免费阅读 | 亚洲乱码一二三四区麻豆| 免费永久看黄在线观看app| 国产无遮挡裸体免费视频在线观看 | 亚洲欧洲无码AV电影在线观看|