<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    agapple

    BlogJava 首頁 新隨筆 聯(lián)系 聚合 管理
      13 Posts :: 1 Stories :: 1 Comments :: 0 Trackbacks

    2008年11月7日 #

         摘要: 背景     前段時間在工作中,包括一些代碼閱讀過程中,spring aop經(jīng)常性的會看到cglib中的相關(guān)內(nèi)容,包括BeanCopier,BulkBean,Enancher等內(nèi)容,以前雖大致知道一些內(nèi)容,原理是通過bytecode,但沒具體深入代碼研究,只知其所用不知其所以然,所以就特地花了半天多的工作時間研究了CGLIB的相關(guān)源碼,同時結(jié)合看了下 spring ...  閱讀全文
    posted @ 2010-11-01 22:24 agapple 閱讀(1317) | 評論 (0)編輯 收藏

       最近在做offerdetail優(yōu)化時,替換了數(shù)據(jù)庫驅(qū)動,從c3p0 0.9.1 -> dbcp 1.4順便研究了下dbcp的自動重連的一套機(jī)制,也做一下分享,大家周知一下。

     

    數(shù)據(jù)庫鏈接 常見的問題:

    1. 數(shù)據(jù)庫意外重啟后,原先的數(shù)據(jù)庫連接池能自動廢棄老的無用的鏈接,建立新的數(shù)據(jù)庫鏈接

    2. 網(wǎng)絡(luò)異常中斷后,原先的建立的tcp鏈接,應(yīng)該能進(jìn)行自動切換。比如網(wǎng)站演習(xí)中的交換機(jī)重啟會導(dǎo)致網(wǎng)絡(luò)瞬斷

    3. 分布式數(shù)據(jù)庫中間件,比如cobar會定時的將空閑鏈接異常關(guān)閉,客戶端會出現(xiàn)半開的空閑鏈接。

     

    大致思考解決思路:

    1.      sql心跳檢查(主動式)

    2.      拿鏈接嘗試一下,發(fā)現(xiàn)處理失敗丟棄鏈接,探雷的請求會失敗幾個 (犧牲小我,完成大我的精神)

    3.      設(shè)置合理的空閑鏈接的超時時間,避免半開鏈接(懶模式,解決半開鏈接)

     

     

    下面我們來看看,在dbcp中是如何實現(xiàn)。

    sql心跳檢查

    sql validate配置

    <property name="testWhileIdle"><value>true</value></property>

    <property name="testOnBorrow"><value>false</value></property>

    <property name="testOnReturn"><value>false</value></property>

    <property name="validationQuery"><value>select sysdate from dual</value></property>

    <property name="validationQueryTimeout"><value>1</value></property>

    <property name="timeBetweenEvictionRunsMillis"><value>30000</value></property>

    <property name="numTestsPerEvictionRun"><value>16</value></property>

    參數(shù)說明

      

       dbcp是采用了commons-pool做為其連接池管理,testOnBorrow,testOnReturn, testWhileIdlepool是提供的幾種校驗機(jī)制,通過外部鉤子的方式回調(diào)dbcp的相關(guān)數(shù)據(jù)庫鏈接(validationQuery)校驗, dbcp相關(guān)外部鉤子類:PoolableConnectionFactory,繼承于common-pool PoolableObjectFactory , dbcp通過GenericObjectPool這一入口,進(jìn)行連接池的borrow,return處理。

    具體參數(shù)描述:

       1. testOnBorrow : 顧明思義,就是在進(jìn)行borrowObject進(jìn)行處理時,對拿到的connection進(jìn)行validateObject校驗

       2. testOnReturn : 顧明思義,就是在進(jìn)行returnObject對返回的connection進(jìn)行validateObject校驗,個人覺得對數(shù)據(jù)庫連接池的管理意義不大

       3. testWhileIdle : 關(guān)注的重點,GenericObjectPool中針對pool管理,起了一個異步Evict的TimerTask定時線程進(jìn)行控制(可通過設(shè)置參數(shù) timeBetweenEvictionRunsMillis>0),定時對線程池中的鏈接進(jìn)行validateObject校驗,對無效的鏈接進(jìn)行關(guān)閉后,會調(diào)用ensureMinIdle,適當(dāng)建立鏈接保證最小的minIdle連接數(shù)。

       4. timeBetweenEvictionRunsMillis,設(shè)置的Evict線程的時間,單位ms,大于0才會開啟evict檢查線程

       5. validateQuery, 代表檢查的sql

       6. validateQueryTimeout, 代表在執(zhí)行檢查時,通過statement設(shè)置,statement.setQueryTimeout(validationQueryTimeout)

       7. numTestsPerEvictionRun,代表每次檢查鏈接的數(shù)量,建議設(shè)置和maxActive一樣大,這樣每次可以有效檢查所有的鏈接.

    Sql心跳檢查幾點思考:

    1.性能問題。

    目前網(wǎng)站的應(yīng)用大部分的瓶頸還是在I/O這一塊,大部分的I/O還是在數(shù)據(jù)庫的這一層面上,每一個請求可能會調(diào)用10來次SQL查詢,如果不走事務(wù),一個請求會重復(fù)獲取鏈接,如果每次獲取鏈接,比如在testOnBorrow都進(jìn)行validateObject,性能開銷不是很能接受,可以假定一次SQL操作消毫0.5~1ms(一般走了網(wǎng)絡(luò)請求基本就這數(shù))

    2.成本和收益

    網(wǎng)站異常數(shù)據(jù)庫重啟,網(wǎng)絡(luò)異常斷開的頻率是非常低的,一般也就在數(shù)據(jù)庫升級,演習(xí)維護(hù)時才會進(jìn)行,而且一般也是選在晚上,訪問量相對比較低的請求,而且一般會有人員值班關(guān)注,所以異步的validateObject是可以接受,但一個前提需要確保能保證在一個合理的時間段內(nèi),數(shù)據(jù)庫能完成自動重聯(lián)。

     

    請求探雷

    相關(guān)配置

    dbcp自身默認(rèn)支持,不需要配置

    原理描述

    common-pools通過borrowObject , returnObject完成連接的獲取和釋放,正常的情況是一次請求中borrow和return是一對的,有借就有還。

    但在準(zhǔn)備returnObject時,dbcp會做一件事,就是看看這個object是否已經(jīng)是壞了的,如果壞了就直接丟了,就直接給丟棄了。

     

    代碼層面:

    1. 在dbcp中PoolingDataSource(實現(xiàn)DataSource接口)調(diào)用 PoolableConnection(dbcp connnection相關(guān)的pool delegate操作)進(jìn)行相應(yīng)關(guān)閉時,會檢查_conn.isClosed(),針對DataSource如果isClosed返回為 true的則不調(diào)用returnObject,直接丟棄了鏈接。

    2. _conn.isClosed()是否保險,從jdk的api描述中: A connection is closed if the method close has been called on it or if certain fatal errors have occurred. 里面提供兩種情況,一種就是被調(diào)用了closed方法,另一種就是出現(xiàn)一些異常,說的比較含糊。

     

    空閑鏈接檢查

    相關(guān)配置

    <property name="minEvictableIdleTimeMillis"><value>18000000</value></property>

    <property name="removeAbandoned"><value>true</value></property> 

    <property name="removeAbandonedTimeout"><value>180</value></property>

    參數(shù)說明

    1.minEvictableIdleTimeMillis dbcp默認(rèn)是30分,需要開啟異步線程Evict,否則不生效。原理很簡單,就是通過一個異步線程,每次檢查connnection上一次使用的時間戳,看看是否已經(jīng)超過這個timeout時間設(shè)置。

    2. removeAbandoned , removeAbandonedTimeout,主要是用于在出現(xiàn)鏈接緊張時候,會掃描一些鏈接未超過removeAbandonedTimeout時間還未被釋放,會主動的關(guān)閉該鏈接。

    適用情況

    1. 我們使用的cobar后端會有定時關(guān)閉空閑鏈接的操作,默認(rèn)的空閑鏈接timeout時間為1小時,和其他oracle , mysql各不相同,所以設(shè)置好這個空閑鏈接的timeout時間還是挺重要.

     

    2. 一般會是幾種情況出現(xiàn)需要removeAbandoned: 

    * 代碼未在finally釋放connection , 不過我們都用sqlmapClientTemplate,底層都有鏈接釋放的過程

    * 遇到數(shù)據(jù)庫死鎖。以前遇到過后端存儲過程做了鎖表操作,導(dǎo)致前臺集群中連接池全都被block住,后續(xù)的業(yè)務(wù)處理因為拿不到鏈接所有都處理失敗了。

     

     

    聊聊c3p0配置

    還有我們配置的c3p0所謂的自動重連的3個參數(shù),

    <prop key="acquireRetryAttempts">30</prop>

        <prop key="acquireRetryDelay">1000</prop>

        <prop key="breakAfterAcquireFailure">false</prop>

     

    個人覺得就是一個誤導(dǎo),這幾個配置只是在從連接池獲取鏈接時,獲取失敗多嘗試幾次,因為我們從pool從獲取鏈接最多只會等待固定timeout時間。

    如果要達(dá)到自動重連的效果,必須要c3p0支持請求探雷或者是sql心跳檢查功能,能自動的剔除無效的鏈接。 

    可見c3p0官方文檔描述:http://www.mchange.com/projects/c3p0/index.html#configuring_recovery

     

    最后:

    Dbcp將是我們以后數(shù)據(jù)庫驅(qū)動選擇的趨勢,最后我們?nèi)绾芜x擇如何自動重連,這個也得根據(jù)我們的應(yīng)用場景而定。比如只讀的web系統(tǒng),后臺業(yè)務(wù)系統(tǒng),任務(wù)系統(tǒng)可能處理方式就不同。

    只讀Web系統(tǒng):可采取請求探雷的策略,也就失敗連接池個數(shù)的請求,失敗了頁面刷新一次就好。

    后臺業(yè)務(wù)系統(tǒng):一般業(yè)務(wù)都涉及數(shù)據(jù)庫的寫操作,很多數(shù)據(jù)不可重入,一次處理失敗后就只能靠手工干預(yù)處理。這時候得考慮是否需要使用sql心跳檢查,比如testOnBorrow或者testWhileIdle.

    posted @ 2010-10-23 01:01 agapple 閱讀(960) | 評論 (0)編輯 收藏

         摘要:   閱讀全文
    posted @ 2009-02-15 21:47 agapple 閱讀(6398) | 評論 (1)編輯 收藏

    1. 下載rsync  (http://rsync.samba.org/)

    安裝:
    ./configure
    make
    make install

    2. 開啟rsync服務(wù),修改/etc/xinetd.d/rsync
    disable = no # replace <yes>
    重啟xinetd 服務(wù)
    service xinetd restart


    3. 配置server端,/etc/rsyncd.conf
    # touch rsyncd.conf
    # vi rsyncd.conf
    uid = ljh  #表示以什么用戶運(yùn)行,注意必須確保該用戶有對模塊的讀寫權(quán)限
    gid = ljh
    use chroot = false
    max connectionts = 6
    read only = no
    pid file = /home/ljh/server/rsync/rsynnd.pid
    lock file = /home/ljh/server/rsync/rsyncd.lock
    log file = /home/ljh/server/rsync/rsyncd.log
    [test]
    comment = test
    path = /home/ljh/server/rsync/data/test
    ignore error
    list = true
    #auth users = ljh
    #secrets file = /home/ljh/server/rsync/passwd/rsyncd.passwd

     

    配置參數(shù)介紹
    comment
    給模塊指定一個描述,該描述連同模塊名在客戶連接得到模塊列表時顯示給客戶。默認(rèn)沒有描述定義。
    path
    指定該模塊的供備份的目錄樹路徑,該參數(shù)是必須指定的。
    use chroot
    如 果"use chroot"指定為true,那么rsync在傳輸文件以前首先chroot到path參數(shù)所指定的目錄下。這樣做的原因是實現(xiàn)額外的安全防護(hù),但是缺點是需要以roots權(quán)限,并且不能備份指向外部的符號連接所指向的目錄文件。默認(rèn)情況下chroot值為true。
    uid
    該選項指定當(dāng)該模塊傳輸文件時守護(hù)進(jìn)程應(yīng)該具有的uid,配合gid選項使用可以確定哪些可以訪問怎么樣的文件權(quán)限,默認(rèn)值是"nobody"。
    gid
    該選項指定當(dāng)該模塊傳輸文件時守護(hù)進(jìn)程應(yīng)該具有的gid。默認(rèn)值為"nobody"。
    max connections
    指定該模塊的最大并發(fā)連接數(shù)量以保護(hù)服務(wù)器,超過限制的連接請求將被告知隨后再試。默認(rèn)值是0,也就是沒有限制。
    list
    該選項設(shè)定當(dāng)客戶請求可以使用的模塊列表時,該模塊是否應(yīng)該被列出。如果設(shè)置該選項為false,可以創(chuàng)建隱藏的模塊。默認(rèn)值是true。
    read only
    該選項設(shè)定是否允許客戶上載文件。如果為true那么任何上載請求都會失敗,如果為false并且服務(wù)器目錄讀寫權(quán)限允許那么上載是允許的。默認(rèn)值為true。
    exclude
    用 來指定多個由空格隔開的多個文件或目錄(相對路徑),并將其添加到exclude列表中。這等同于在客戶端命令中使用--exclude來指定模式,一個 模塊只能指定一個exclude選項。但是需要注意的一點是該選項有一定的安全性問題,客戶很有可能繞過exclude列表,如果希望確保特定的文件不能 被訪問,那就最好結(jié)合uid/gid選項一起使用。
    exclude from [file]
    指定一個包含exclude模式的定義的文件名,服務(wù)器從該文件中讀取exclude列表定義。
    include
    用來指定不排除符合要求的文件或目錄。這等同于在客戶端命令中使用--include來指定模式,結(jié)合include和exclude可以定義復(fù)雜的exclude/include規(guī)則。
    include from [file]
    指定一個包含include模式的定義的文件名,服務(wù)器從該文件中讀取include列表定義。
    auth users
    該選項指定由空格或逗號分隔的用戶名列表,只有這些用戶才允許連接該模塊。這里的用戶和系統(tǒng)用戶沒有任何關(guān)系。如果"auth users"被設(shè)置,那么客戶端發(fā)出對該模塊的連接請求以后會被rsync請求challenged進(jìn)行驗證身份這里使用的 challenge/response認(rèn)證協(xié)議。用戶的名和密碼以明文方式存放在"secrets file"選項指定的文件中。默認(rèn)情況下無需密碼就可以連接模塊(也就是匿名方式)。
    secrets file
    該選項指定一個包含定義用戶名:密碼對的文件。只有在"auth users"被定義時,該文件才有作用。文件每行包含一個username:passwd對。一般來說密碼最好不要超過8個字符。沒有默認(rèn)的 secures file名,需要限式指定一個(例如:/etc/rsyncd.passwd)。注意:該文件的權(quán)限一定要是600,否則客戶端將不能連接服務(wù)器
    strict modes
    該選項指定是否監(jiān)測密碼文件的權(quán)限,如果該選項值為true那么密碼文件只能被rsync服務(wù)器運(yùn)行身份的用戶訪問,其他任何用戶不可以訪問該文件。默認(rèn)值為true。
    hosts allow
    該選項指定哪些IP的客戶允許連接該模塊。客戶模式定義可以是以下形式:單個IP地址,例如:192.167.0.1
    hosts deny
    指定不允許連接rsync服務(wù)器的機(jī)器,可以使用hosts allow的定義方式來進(jìn)行定義。默認(rèn)是沒有hosts deny定義。
    ignore errors
    指定rsyncd在判斷是否運(yùn)行傳輸時的刪除操作時忽略server上的IO錯誤,一般來說rsync在出現(xiàn)IO錯誤時將將跳過--delete操作,以防止因為暫時的資源不足或其它IO錯誤導(dǎo)致的嚴(yán)重問題。
    lock file
    指定支持max connections參數(shù)的鎖文件,默認(rèn)值是/var/run/rsyncd.lock。
    timeout
    通過該選項可以覆蓋客戶指定的IP超時時間。通過該選項可以確保rsync服務(wù)器不會永遠(yuǎn)等待一個崩潰的客戶端。超時單位為秒鐘,0表示沒有超時定義,這也是默認(rèn)值。對于匿名rsync服務(wù)器來說,一個理想的數(shù)字是600。
    dont compress
    用來指定那些不進(jìn)行壓縮處理再傳輸?shù)奈募J(rèn)值是*.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

     

    4. 客戶端配置
    訪問remote rsync列表
    rsync rsync://10.0.64.162/test
    簡單的執(zhí)行同步命令
    sync -auv --delete --password-file=/home/admin2/soft/rsync/passwd/rsyncd.passwd ~/rysnc/* ljh@10.0.64.162::test

    比較實際的例子:
    echo "hello" > /tmp/password.txt ;chmod 600 /tmp/password.txt
    cp /home/ewalletbops/fatrix/crm/* /home/ewalletbops/fatrix/putxml/search
    rsync -azv /home/ewalletbops/bops-daemon/bin/adxml/search/ /home/ewalletbops/fatrix/putxml/search
    rsync -auv --delete --password-file=/tmp/password.txt /home/ewalletbops/fatrix/putxml/search yangzhen@127.0.0.1::everest/adxml
    rm /tmp/password.txt


     

    選項說明
    -v, --verbose 詳細(xì)模式輸出
    -q, --quiet 精簡輸出模式
    -c, --checksum 打開校驗開關(guān),強(qiáng)制對文件傳輸進(jìn)行校驗
    -a, --archive 歸檔模式,表示以遞歸方式傳輸文件,并保持所有文件屬性,等于-rlptgoD
    -r, --recursive 對子目錄以遞歸模式處理
    -R, --relative 使用相對路徑信息
    -b, --backup 創(chuàng)建備份,也就是對于目的已經(jīng)存在有同樣的文件名時,將老的文件重新命名為~filename。可以使用--suffix選項來指定不同的備份文件前綴。
    --backup-dir 將備份文件(如~filename)存放在在目錄下。
    -suffix=SUFFIX 定義備份文件前綴
    -u, --update 僅僅進(jìn)行更新,也就是跳過所有已經(jīng)存在于DST,并且文件時間晚于要備份的文件。(不覆蓋更新的文件)
    -l, --links 保留軟鏈結(jié)
    -L, --copy-links 想對待常規(guī)文件一樣處理軟鏈結(jié)
    --copy-unsafe-links 僅僅拷貝指向SRC路徑目錄樹以外的鏈結(jié)
    --safe-links 忽略指向SRC路徑目錄樹以外的鏈結(jié)
    -H, --hard-links 保留硬鏈結(jié)
    -p, --perms 保持文件權(quán)限
    -o, --owner 保持文件屬主信息
    -g, --group 保持文件屬組信息
    -D, --devices 保持設(shè)備文件信息
    -t, --times 保持文件時間信息
    -S, --sparse 對稀疏文件進(jìn)行特殊處理以節(jié)省DST的空間
    -n, --dry-run現(xiàn)實哪些文件將被傳輸
    -W, --whole-file 拷貝文件,不進(jìn)行增量檢測
    -x, --one-file-system 不要跨越文件系統(tǒng)邊界
    -B, --block-size=SIZE 檢驗算法使用的塊尺寸,默認(rèn)是700字節(jié)
    -e, --rsh=COMMAND 指定替代rsh的shell程序
    --rsync-path=PATH 指定遠(yuǎn)程服務(wù)器上的rsync命令所在路徑信息
    -C, --cvs-exclude 使用和CVS一樣的方法自動忽略文件,用來排除那些不希望傳輸?shù)奈募?br /> --existing 僅僅更新那些已經(jīng)存在于DST的文件,而不備份那些新創(chuàng)建的文件
    --delete 刪除那些DST中SRC沒有的文件
    --delete-excluded 同樣刪除接收端那些被該選項指定排除的文件
    --delete-after 傳輸結(jié)束以后再刪除
    --ignore-errors 及時出現(xiàn)IO錯誤也進(jìn)行刪除
    --max-delete=NUM 最多刪除NUM個文件
    --partial 保留那些因故沒有完全傳輸?shù)奈募允羌涌祀S后的再次傳輸
    --force 強(qiáng)制刪除目錄,即使不為空
    --numeric-ids 不將數(shù)字的用戶和組ID匹配為用戶名和組名
    --timeout=TIME IP超時時間,單位為秒
    -I, --ignore-times 不跳過那些有同樣的時間和長度的文件
    --size-only 當(dāng)決定是否要備份文件時,僅僅察看文件大小而不考慮文件時間
    --modify-window=NUM 決定文件是否時間相同時使用的時間戳窗口,默認(rèn)為0
    -T --temp-dir=DIR 在DIR中創(chuàng)建臨時文件
    --compare-dest=DIR 同樣比較DIR中的文件來決定是否需要備份
    -P 等同于 --partial
    --progress 顯示備份過程
    -z, --compress 對備份的文件在傳輸時進(jìn)行壓縮處理
    --exclude=PATTERN 指定排除不需要傳輸?shù)奈募J?br /> --include=PATTERN 指定不排除而需要傳輸?shù)奈募J?br /> --exclude-from=FILE 排除FILE中指定模式的文件
    --include-from=FILE 不排除FILE指定模式匹配的文件
    --version 打印版本信息
    --address 綁定到特定的地址
    --config=FILE 指定其他的配置文件,不使用默認(rèn)的rsyncd.conf文件
    --port=PORT 指定其他的rsync服務(wù)端口
    --blocking-io 對遠(yuǎn)程shell使用阻塞IO
    --stats 給出某些文件的傳輸狀態(tài)
    --progress 在傳輸時現(xiàn)實傳輸過程
    --log-format=formAT 指定日志文件格式
    --password-file=FILE 從FILE中得到密碼
    --bwlimit=KBPS 限制I/O帶寬,KBytes per second
    -h, --help 顯示幫助信息

     

     

     

     

     

     

     

     

     

    posted @ 2009-01-14 14:12 agapple 閱讀(740) | 評論 (0)編輯 收藏

         摘要:   閱讀全文
    posted @ 2008-11-07 20:48 agapple 閱讀(2601) | 評論 (0)編輯 收藏

    主站蜘蛛池模板: 毛片a级毛片免费观看品善网| 国产免费无遮挡精品视频 | 亚洲男人第一av网站| AA免费观看的1000部电影| 羞羞视频在线免费观看| 亚洲成av人在线视| 黑人粗长大战亚洲女2021国产精品成人免费视频| 风间由美在线亚洲一区| 亚洲自偷自偷精品| 四虎影视在线永久免费观看| 免费污视频在线观看| 亚洲av无码专区在线电影| 久久久久久久久亚洲| 国产一区二区三区免费视频| 久久久免费精品re6| 免费夜色污私人影院网站| 亚洲精品在线网站| 亚洲自偷自偷偷色无码中文| 成人无遮挡裸免费视频在线观看| 两个人看的www免费高清| 亚洲AV无码专区国产乱码不卡| 亚洲αv在线精品糸列| 国产免费131美女视频| 99久久99久久精品免费看蜜桃| 亚洲第一视频在线观看免费| 亚洲熟妇无码AV不卡在线播放| 久久久久无码精品亚洲日韩| 免费成人av电影| 成人au免费视频影院| 69视频在线观看免费| 久久高潮一级毛片免费| 亚洲精品色在线网站| 亚洲大成色www永久网址| 亚洲国产精品热久久| 亚洲区小说区图片区QVOD| 日本一道本高清免费| 青青草a免费线观a| 99久久99这里只有免费费精品| 人妻丰满熟妇无码区免费| a在线免费观看视频| 中国一级特黄高清免费的大片中国一级黄色片 |