?應(yīng)用OSCache提升J2EE系統(tǒng)運行性能 Cache是一種用于提高系統(tǒng)響應(yīng)速度、改善系統(tǒng)運行性能的技術(shù)。尤其是在Web應(yīng)用中,通過緩存頁面的輸出結(jié)果,可以很顯著的改善系統(tǒng)運行性能。本文中作者給大家介紹一個實現(xiàn)J2EE框架中Web應(yīng)用層緩存功能的開放源代碼項目----OSCache。通過應(yīng)用OSCache,我們不但可以實現(xiàn)通常的Cache功能,還能夠改善系統(tǒng)的穩(wěn)定性。
關(guān)鍵詞: Cache 系統(tǒng)性能 1面臨的問題 1.1需要處理的特殊動態(tài)內(nèi)容 在信息系統(tǒng)建設(shè)過程中我們通常會遇到這樣的問題: 1.基礎(chǔ)數(shù)據(jù)的變更問題 信息系統(tǒng)中需要處理的基礎(chǔ)數(shù)據(jù)的內(nèi)容短時間內(nèi)是不會發(fā)生變化的,但是在一個相對長一些的時間里,它卻可能是動態(tài)增加或者減少的。 舉個例子:電子商務(wù)中關(guān)于送貨區(qū)域的定義,可能短時間內(nèi)不會發(fā)生變化,但是隨著電子商務(wù)企業(yè)業(yè)務(wù)的擴大,系統(tǒng)中需要處理的送貨區(qū)域就可能增加。所以我們的系統(tǒng)中不得不在每次向客戶展示送貨區(qū)域信息的時候都和數(shù)據(jù)庫(假設(shè)送貨區(qū)域信息保存在數(shù)據(jù)庫中,這也是通常采用的處理方法)進行交互。 2.統(tǒng)計報表(不僅限于統(tǒng)計報表)的問題 一般來說,統(tǒng)計報表是一個周期性的工作,可能是半個月、一個月或者更長的時間才會需要更新一次,然而統(tǒng)計報表通常是圖形顯示或者是生成pdf、word、excel等格式的文件,這些圖形內(nèi)容、文件的生成通常需要消耗很多的系統(tǒng)資源,給系統(tǒng)運行造成很大的負擔(dān)。 1.2問題的共同點 通過比較分析,不難發(fā)現(xiàn)這兩類問題有一些共同點: 1、被處理的內(nèi)容短時間不變,所以短時間內(nèi)可以作為靜態(tài)內(nèi)容進行處理 2、在一個不太長的時間內(nèi),被處理的內(nèi)容可能或者必定產(chǎn)生變化,所以必須將他們作為動態(tài)內(nèi)容進行處理 3、在合理的時間區(qū)段內(nèi)可以忽略被處理內(nèi)容變化后帶來的影響 4、對這些內(nèi)容的處理動作比較消耗系統(tǒng)性能,影響系統(tǒng)響應(yīng)時間 1.3 解決方法 緩存技術(shù)可以幫助我們很好的解決這個問題: 1、緩存信息 當(dāng)上述的基礎(chǔ)數(shù)據(jù)或者統(tǒng)計報表第一次被訪問時,被處理的內(nèi)容被當(dāng)作動態(tài)信息,基礎(chǔ)數(shù)庫從數(shù)據(jù)庫中獲得,統(tǒng)計報表也會被生成符合要求的圖形、文件,然后這些信息都會被放入緩存信息中。 2、響應(yīng)信息由緩存提供 當(dāng)上述的基礎(chǔ)數(shù)據(jù)或者統(tǒng)計報表繼續(xù)被訪問時,系統(tǒng)將會首先檢查緩存信息中是否有對應(yīng)的內(nèi)容和我們設(shè)定的緩存規(guī)則,如果符合緩存信息存在而且符合緩存規(guī)則,給出的響應(yīng)將來自于緩存信息,如果沒有或者緩存信息已經(jīng)不符合設(shè)定的要求,系統(tǒng)將重復(fù)上一步的動作。 很顯然,上面的步驟2中,多數(shù)情況下,當(dāng)用戶請求到達時,被處理的內(nèi)容將來自于緩存,所以大大的減少了與數(shù)據(jù)庫的交互,或者不再需要為每個請求都生成一次報表圖形或者文件,這部分工作的減少對于降低系統(tǒng)性能消耗、提高系統(tǒng)穩(wěn)定性和并發(fā)處理能力是非常有益的。 2 OSCache簡介 OSCache是OpenSymphony組織提供的一個J2EE架構(gòu)中Web應(yīng)用層的緩存技術(shù)實現(xiàn)組件,它的出現(xiàn)解決了我們面臨的問題。 OSCache目前最新的穩(wěn)定版本是2.0,本文中的例子都是基于這個版本的,如果大家運行例子的過程中發(fā)生問題,請首先確認是否采用了正確的軟件版本。 2.1主要特征 1.兼容多種支持JSP的web服務(wù)器 已經(jīng)通過兼容測試的web服務(wù)器包括OrionServer (1.4.0或者以上版本) 、Macromedia JRun (3.0或者以上版本) 、BEA Weblogic (7.x或者以上版本) 、IBM Websphere (5.0版本)、Silverstream (3.7.4版本)、Caucho Resin (1.2.3或者以上版本)、Tomcat (4.0或者以上版本) ,其他支持servlet2.3、jsp1.2的web服務(wù)器應(yīng)該都是完全兼容OSCache的。 2.可選的緩存區(qū) 你可以使用內(nèi)存、硬盤空間、同時使用內(nèi)存和硬盤或者提供自己的其他資源(需要自己提供適配器)作為緩存區(qū)。 1)使用內(nèi)存作為緩存區(qū)將可以提供更好的性能 2)使用硬盤作為緩存區(qū)可以在服務(wù)器重起后迅速恢復(fù)緩存內(nèi)容 3)同時使用內(nèi)存和硬盤作為緩存區(qū)則可以減少對內(nèi)存的占用 3.靈活的緩存系統(tǒng) OSCache支持對部分頁面內(nèi)容或者對頁面級的響應(yīng)內(nèi)容進行緩存,編程者可以根據(jù)不同的需求、不同的環(huán)境選擇不同的緩存級別。 4.容錯 在一般的web應(yīng)用中,如果某個頁面需要和數(shù)據(jù)庫打交道,而當(dāng)客戶請求到達時,web應(yīng)用和數(shù)據(jù)庫之間無法進行交互,那么將返回給用戶 “系統(tǒng)出錯”或者類似的提示信息,如果使用了OSCache的話,你可以使用緩存提供給用戶,給自己贏得維護系統(tǒng)或者采取其他補救的時間。 其它特性還包括對集群的支持、緩存主動刷新等特性,大家可以參考OpenSymphony網(wǎng)站上的其他資源獲取更多的信息。 3 OSCache組件的安裝 OSCache是一個基于web應(yīng)用的組件,他的安裝工作主要是對web應(yīng)用進行配置,大概的步驟如下: 1.下載、解壓縮OSCache 請到OSCache的主頁http://www.opensymphony.com/oscache/download.html下載Oscache的最新版本,作者下載的是OSCache的最新穩(wěn)定版本2.0。 將下載后的。Zip文件解壓縮到c:\oscache(后面的章節(jié)中將使用%OSCache_Home%來表示這個目錄)目錄下 2.新建立一個web應(yīng)用 3.將主要組件%OSCache_Home%\oscache.jar放入WEB-INF\lib目錄 4.commons-logging.jar、commons-collections.jar的處理 l、OSCache組件用Jakarta Commons Logging來處理日志信息,所以需要commons-logging.jar的支持,請將%OSCache_Home%\lib\core\commons-logging.jar放入classpath(通常意味著將這個文件放入WEB-INF\lib目錄) 2、如果使用JDK1.3,請將%OSCache_Home%\lib\core\commons-collections.jar放入classpath,如果使用JDK1.4或者以上版本,則不需要了 5.將oscache.properties、oscache.tld放入WEB-INF\class目錄 ?。薄?OSCache_Home%\oscache.properties包含了對OSCache運行特征值的設(shè)置信息 ?。?、%OSCache_Home%\oscache.tld包含了OSCache提供的標(biāo)簽庫的定義內(nèi)容 6.修改web.xml文件 在web.xml文件中增加下面的內(nèi)容,增加對OSCache提供的taglib的支持: <taglib> <taglib-uri>oscache</taglib-uri> <taglib-location>/WEB-INF/classes/ oscache.tld</taglib-location> </taglib> 4 開始使用OSCache中的緩存組件 OSCache中按照緩存范圍的不同分為兩種不同的方式:一種是緩存JSP頁面中部分或者全部內(nèi)容,一種是基于整個頁面文件的緩存。 4.1JSP部分內(nèi)容緩存 4.1.1Cache—OSCache提供的緩存標(biāo)簽 這是OSCache提供的標(biāo)簽庫中最重要的一個標(biāo)簽,包括在標(biāo)簽中的內(nèi)容將應(yīng)用緩存機制進行處理,處理的方式將取決于編程者對cache標(biāo)簽屬性的設(shè)置。 第一次請求到達時,標(biāo)簽中的內(nèi)容被處理并且緩存起來,當(dāng)下一個請求到達時,緩存系統(tǒng)會檢查這部分內(nèi)容的緩存是否已經(jīng)失效,主要是以下幾項: 1.緩存時間超過了cache標(biāo)簽設(shè)置的time或者duration屬性規(guī)定的超時時間 2.cron屬性規(guī)定的時間比緩存信息的開始時間更晚 3.標(biāo)簽中緩存的內(nèi)容在緩存后又被重新刷新過 4.其他緩存超期設(shè)定 如果符合上面四項中的任何一項,被緩存的內(nèi)容視為已經(jīng)失效,這時被緩存的內(nèi)容將被重新處理并且返回處理過后的信息,如果被緩存的內(nèi)容沒有失效,那么返回給用戶的將是緩存中的信息。 cache標(biāo)簽的屬性說明: key – 標(biāo)識緩存內(nèi)容的關(guān)鍵詞。在指定的作用范圍內(nèi)必須是唯一的。默認的key是被訪問頁面的URI和后面的請求字符串。 你可以在同一個頁面中使用很多cache標(biāo)簽而不指定他的key屬性,這種情況下系統(tǒng)使用該頁面的URI和后面的請求字符串,另外再自動給這些key增加一個索引值來區(qū)分這些緩存內(nèi)容。但是不推薦采用這樣的方式。 scope – 緩存發(fā)生作用的范圍,可以是application或者session time – 緩存內(nèi)容的時間段,單位是秒,默認是3600秒,也就是一個小時,如果設(shè)定一個負值,那么這部分被緩存的內(nèi)容將永遠不過期。 duration – 指定緩存內(nèi)容失效的時間,是相對time的另一個選擇,可以使用簡單日期格式或者符合USO-8601的日期格式。如:duration='PT5M' duration='5s'等 refresh – false 或者true。 如果refresh屬性設(shè)置為true,不管其他的屬性是否符合條件,這部分被緩存的內(nèi)容都將被更新,這給編程者一種選擇,決定什么時候必須刷新。 mode – 如果編程者不希望被緩存的內(nèi)容增加到給用戶的響應(yīng)中,可以設(shè)置mode屬性為“silent” 其它可用的屬性還包括:cron 、groups、language、refreshpolicyclass、refreshpolicyparam。 上面的這些屬性可以單獨使用,也可以根據(jù)需要組合使用,下面的例子將講解這些常用屬性的使用方式。 4.1.2Cache標(biāo)簽實例分析: 1.最簡單的cache標(biāo)簽用法 使用默認的關(guān)鍵字來標(biāo)識cache內(nèi)容,超時時間是默認的3600秒 <cache:cache> <% //自己的JSP代碼內(nèi)容 %> </cache:cache> 2.用自己指定的字符串標(biāo)識緩存內(nèi)容,并且設(shè)定作用范圍為session。 <cache:cache key="foobar" scope="session"> <% //自己的JSP代碼內(nèi)容 %> </cache:cache> 3.動態(tài)設(shè)定key值,使用自己指定的time屬性設(shè)定緩存內(nèi)容的超時時間,使用動態(tài)refresh值決定是否強制內(nèi)容刷新。 因為OSCache使用key值來標(biāo)識緩存內(nèi)容,使用相同的key值將會被認為使用相同的的緩存內(nèi)容,所以使用動態(tài)的key值可以自由的根據(jù)不同的角色、不同的要求決定使用不同的緩存內(nèi)容。 <cache:cache key="<%= product.getId() %>" time="1800" refresh="<%= needRefresh %>"> <% //自己的JSP代碼內(nèi)容 %> </cache:cache> 4.設(shè)置time屬性為負數(shù)使緩存內(nèi)容永不過期 <cache:cache time="-1"> <% //自己的JSP代碼內(nèi)容 %> 5.使用duration屬性設(shè)置超期時間 <cache:cacheduration='PT5M'> <% //自己的JSP代碼內(nèi)容 %> 6.使用mode屬性使被緩存的內(nèi)容不加入給客戶的響應(yīng)中 <cache:cachemode='silent'> <% //自己的JSP代碼內(nèi)容 %> 4.2用CashFilter實現(xiàn)頁面級緩存 在OSCache組件中提供了一個CacheFilter用于實現(xiàn)頁面級的緩存,主要用于對web應(yīng)用中的某些動態(tài)頁面進行緩存,尤其是那些需要生成pdf格式文件/報表、圖片文件等的頁面,不僅減少了數(shù)據(jù)庫的交互、減少數(shù)據(jù)庫服務(wù)器的壓力,而且對于減少web服務(wù)器的性能消耗有很顯著的效果。 這種功能的實現(xiàn)是通過在web.xml中進行配置來決定緩存哪一個或者一組頁面,而且還可以設(shè)置緩存的相關(guān)屬性,這種基于配置文件的實現(xiàn)方式對于J2EE來說應(yīng)該是一種標(biāo)準(zhǔn)的實現(xiàn)方式了。 [注] 只有客戶訪問時返回http頭信息中代碼為200(也就是訪問已經(jīng)成功)的頁面信息才能夠被緩存 1.緩存單個文件 修改web.xml,增加如下內(nèi)容,確定對/testContent.jsp頁面進行緩存。 <filter> <filter-name>CacheFilter</filter-name> <filter-class>com.opensymphony.oscache.web.filter.CacheFilter</filter-class> </filter> <filter-mapping> <filter-name>CacheFilter</filter-name> <!—對/testContent.jsp頁面內(nèi)容進行緩存--> <url-pattern>/testContent.jsp</url-pattern> </filter-mapping> 2.緩存URL pattern 修改web.xml,增加如下內(nèi)容,確定對*.jsp頁面進行緩存。 <filter> <filter-name>CacheFilter</filter-name> <filter-class>com.opensymphony.oscache.web.filter.CacheFilter</filter-class> </filter> <filter-mapping> <filter-name>CacheFilter</filter-name> <!—對所有jsp頁面內(nèi)容進行緩存--> <url-pattern>*.jsp</url-pattern> </filter-mapping> 3.自己設(shè)定緩存屬性 在頁面級緩存的情況下,可以通過設(shè)置CacheFilter的初始屬性來決定緩存的一些特性: time屬性設(shè)置緩存的時間段,默認為3600秒,可以根據(jù)自己的需要只有的設(shè)置 而scope屬性設(shè)置,默認為application,可選項包括application、session <filter> <filter-name>CacheFilter</filter-name> <filter-class>com.opensymphony.oscache.web.filter.CacheFilter</filter-class> <init-param> <param-name>time</param-name> <param-value>600</param-value> </init-param> <init-param> <param-name>scope</param-name> <param-value>session</param-value> </init-param> </filter> <filter-mapping> <filter-name>CacheFilter</filter-name> <!—對所有jsp頁面內(nèi)容進行緩存--> <url-pattern>*.jsp</url-pattern> </filter-mapping> 5性能測試結(jié)果 5.1測試環(huán)境 系統(tǒng)平臺:windows 2000 高級服務(wù)器/ P3 800 /512M內(nèi)存 web服務(wù)器:websphere 5.0 數(shù)據(jù)庫服務(wù)器:mysql 4.0.18-nt 性能測試用工具:apache Jmeter 5.2測試計劃 l這次性能測試對比方為使用緩存和不使用緩存兩種,他們的訪問代碼都是一樣的:通過數(shù)據(jù)源從本地mysql數(shù)據(jù)庫中獲取person表的所有記錄,然后顯示在頁面上。 l測試中將模仿10個用戶,每個用戶發(fā)起5次請求,然后統(tǒng)計所有訪問花費的時間。 5.3測試結(jié)果
使用緩存后的測試結(jié)果 不使用緩存時的測試結(jié)果 所有請求花費的總時間(毫秒) 20569 22870 性能測試的詳細結(jié)果請大家查看下載內(nèi)容中的《不使用cache時的系統(tǒng)性能測試結(jié)果.txt》和《使用cache后系統(tǒng)性能測試結(jié)果.txt》 6總結(jié) 在J2EE系統(tǒng)中,我們經(jīng)常需要處理一些特殊的動態(tài)內(nèi)容,這些內(nèi)容在一個時間段內(nèi)的變更非常有限,但是又不得不將他們確定為動態(tài)內(nèi)容進行輸出,而且非常消耗數(shù)據(jù)庫系統(tǒng)資源或者web服務(wù)器的資源,這時我們就可以采用Cache----一種用于提高系統(tǒng)響應(yīng)速度、改善系統(tǒng)運行性能的技術(shù)----來優(yōu)化我們的系統(tǒng)。尤其是在Web應(yīng)用中,這種處理可以很顯著的改善系統(tǒng)運行性能。 本文中作者給大家介紹一個實現(xiàn)J2EE框架中Web應(yīng)用層緩存功能的開放源代碼項目----OSCache。它提供了在J2EE系統(tǒng)中實現(xiàn)緩存需要的豐富的功能。通過應(yīng)用OSCache,我們不但可以實現(xiàn)通常的Cache功能、自由的設(shè)定cache的相關(guān)特性比如緩存時間段/緩存內(nèi)容等,提升系統(tǒng)性能,而且還能有效的改善系統(tǒng)的穩(wěn)定性。除此之外,OSCache組件還提供了更多的特性比如集群、容錯、靈活的緩存區(qū)選擇等。 作者根據(jù)自己的使用經(jīng)驗給大家提供了一些簡單的例子,他們部分演示了如何使用OSCache組件提供的豐富特性,OSCache提供的特性遠不止這些,需要大家在今后的時間里深入的研究,同時也希望大家通過E-mail和作者貢獻研究成果。 參考資料 1.OpenSymphony網(wǎng)站中關(guān)于OSCache的部分 http://www.opensymphony.com/oscache/ 下載內(nèi)容 1.OSCache下載地址 http://www.opensymphony.com/oscache/download.html 2.性能測試結(jié)果.rar 作者信息: 肖菁,軟件工程師,IBM developerWorks/Bea dev2dev/sun 技術(shù)開發(fā)者撰稿人,主要研究J2EE、web services以及他們在websphere、weblogic平臺上的實現(xiàn),擁有IBM的 Developing With Websphere Studio證書。您可以通過E_mail和作者取得聯(lián)系,或者查看作者的主頁獲取更多信息 |