在程序中,文本文件經(jīng)常用來存儲標(biāo)準(zhǔn)的ASCII碼文本,比如英文、加減乘除等號這些運算符號。文本文件也可能用于存儲一些其他非ASCII字符,如基于GBK的簡體中文,基于GIG5的繁體中文等等。在存儲這些字符時需要正確指定文件的編碼格式;而在讀取這些文本文件時,有時候就需要自動判定文件的編碼格式。
按照給定的字符集存儲文本文件時,在文件的最開頭的三個字節(jié)中就有可能存儲著編碼信息,所以,基本的原理就是只要讀出文件前三個字節(jié),判定這些字節(jié)的值,就可以得知其編碼的格式。其實,如果項目運行的平臺就是中文操作系統(tǒng),如果這些文本文件在項目內(nèi)產(chǎn)生,即開發(fā)人員可以控制文本的編碼格式,只要判定兩種常見的編碼就可以了:GBK和UTF-8。由于中文Windows默認(rèn)的編碼是GBK,所以一般只要判定UTF-8編碼格式。
對于UTF-8編碼格式的文本文件,其前3個字節(jié)的值就是-17、-69、-65,所以,判定是否是UTF-8編碼格式的代碼片段如下:
- java.io.File f=new java.io.File("待判定的文本文件名");
- try{
- java.io.InputStream ios=new java.io.FileInputStream(f);
- byte[] b=new byte[3];
- ios.read(b);
- ios.close();
- if(b[0]==-17&&b[1]==-69&&b[2]==-65)
- System.out.println(f.getName()+"編碼為UTF-8");
- else System.out.println(f.getName()+"可能是GBK");
- }catch(Exception e){
- e.printStackTrace();
- }
java.io.File f=new java.io.File("待判定的文本文件名");
try{
java.io.InputStream ios=new java.io.FileInputStream(f);
byte[] b=new byte[3];
ios.read(b);
ios.close();
if(b[0]==-17&&b[1]==-69&&b[2]==-65)
System.out.println(f.getName()+"編碼為UTF-8");
else System.out.println(f.getName()+"可能是GBK");
}catch(Exception e){
e.printStackTrace();
}
上述代碼只是簡單判定了是否是UTF-8格式編碼的文本文件,如果項目對要判定的
文本文件編碼不可控(比如用戶上傳的一些HTML、XML等文本),可以采用一個現(xiàn)成的開源項目:cpdetector,它所在的網(wǎng)址是:
http://cpdetector.sourceforge.net/。它的類庫很小,只有500K左右,利用該類庫判定文本文件的代碼如下:
-
-
-
-
-
-
-
- cpdetector.io.CodepageDetectorProxy detector =
- cpdetector.io.CodepageDetectorProxy.getInstance();
-
-
-
-
- detector.add(new cpdetector.io.ParsingDetector(false));
-
-
-
-
-
- detector.add(cpdetector.io.JChardetFacade.getInstance());
-
- detector.add(cpdetector.io.ASCIIDetector.getInstance());
-
- detector.add(cpdetector.io.UnicodeDetector.getInstance());
- java.nio.charset.Charset charset = null;
- File f=new File("待測的文本文件名");
- try {
- charset = detector.detectCodepage(f.toURL());
- } catch (Exception ex) {ex.printStackTrace();}
- if(charset!=null){
- System.out.println(f.getName()+"編碼是:"+charset.name());
- }else
- System.out.println(f.getName()+"未知");
/*------------------------------------------------------------------------
detector是探測器,它把探測任務(wù)交給具體的探測實現(xiàn)類的實例完成。
cpDetector內(nèi)置了一些常用的探測實現(xiàn)類,這些探測實現(xiàn)類的實例可以通過add方法
加進(jìn)來,如ParsingDetector、 JChardetFacade、ASCIIDetector、UnicodeDetector。
detector按照“誰最先返回非空的探測結(jié)果,就以該結(jié)果為準(zhǔn)”的原則返回探測到的
字符集編碼。
--------------------------------------------------------------------------*/
cpdetector.io.CodepageDetectorProxy detector =
cpdetector.io.CodepageDetectorProxy.getInstance();
/*-------------------------------------------------------------------------
ParsingDetector可用于檢查HTML、XML等文件或字符流的編碼,構(gòu)造方法中的參數(shù)用于
指示是否顯示探測過程的詳細(xì)信息,為false不顯示。
---------------------------------------------------------------------------*/
detector.add(new cpdetector.io.ParsingDetector(false));
/*--------------------------------------------------------------------------
JChardetFacade封裝了由Mozilla組織提供的JChardet,它可以完成大多數(shù)文件的編碼
測定。所以,一般有了這個探測器就可滿足大多數(shù)項目的要求,如果你還不放心,可以
再多加幾個探測器,比如下面的ASCIIDetector、UnicodeDetector等。
---------------------------------------------------------------------------*/
detector.add(cpdetector.io.JChardetFacade.getInstance());
//ASCIIDetector用于ASCII編碼測定
detector.add(cpdetector.io.ASCIIDetector.getInstance());
//UnicodeDetector用于Unicode家族編碼的測定
detector.add(cpdetector.io.UnicodeDetector.getInstance());
java.nio.charset.Charset charset = null;
File f=new File("待測的文本文件名");
try {
charset = detector.detectCodepage(f.toURL());
} catch (Exception ex) {ex.printStackTrace();}
if(charset!=null){
System.out.println(f.getName()+"編碼是:"+charset.name());
}else
System.out.println(f.getName()+"未知");
上面代碼中的detector不僅可以用于探測文件的編碼,也可以探測任意輸入的文本流的編碼,方法是調(diào)用其重載形式:
- charset=detector.detectCodepage(待測的文本輸入流,測量該流所需的讀入字節(jié)數(shù));
charset=detector.detectCodepage(待測的文本輸入流,測量該流所需的讀入字節(jié)數(shù));
上面的字節(jié)數(shù)由程序員指定,字節(jié)數(shù)越多,判定越準(zhǔn)確,當(dāng)然時間也花得越長。要注意,字節(jié)數(shù)的指定不能超過文本流的最大長度。
判定文件編碼的具體應(yīng)用舉例:
屬性文件(.properties)是Java程序中的常用文本存儲方式,象STRUTS框架就是利用屬性文件存儲程序中的字符串資源。它的內(nèi)容如下所示:
#注釋語句
屬性名=屬性值
讀入屬性文件的一般方法是:
- FileInputStream ios=new FileInputStream("屬性文件名");
- Properties prop=new Properties();
- prop.load(ios);
- ios.close();
FileInputStream ios=new FileInputStream("屬性文件名");
Properties prop=new Properties();
prop.load(ios);
ios.close();
利用java.io.Properties的load方法讀入屬性文件雖然方便,但如果屬性文件中有中文,在讀入之后就會發(fā)現(xiàn)出現(xiàn)亂碼現(xiàn)象。發(fā)生這個原因是load方法使用字節(jié)流讀入文本,在讀入后需要將字節(jié)流編碼成為字符串,而它使用的編碼是“iso-8859-1”,這個字符集是ASCII碼字符集,不支持中文編碼,所以這時需要使用顯式的轉(zhuǎn)碼:
- String value=prop.getProperty("屬性名");
- String encValue=new String(value.getBytes("iso-8859-1"),"屬性文件的實際編碼");
String value=prop.getProperty("屬性名");
String encValue=new String(value.getBytes("iso-8859-1"),"屬性文件的實際編碼");
在上面的代碼中,屬性文件的實際編碼就可以利用上面的方法獲得。當(dāng)然,象這種屬性文件是項目內(nèi)部的,我們可以控制屬性文件的編碼格式,比如約定采用Windows內(nèi)定的GBK,就直接利用"gbk"來轉(zhuǎn)碼,如果約定采用UTF-8,也可以是使用"UTF-8"直接轉(zhuǎn)碼。如果想靈活一些,做到自動探測編碼,就可利用上面介紹的方法測定屬性文件的編碼,從而方便開發(fā)人員的工作。
posted on 2008-06-16 14:44
xzc 閱讀(851)
評論(1) 編輯 收藏 所屬分類:
Java