LoadRunner 的運(yùn)行場景中,有一個(gè)不大起眼的設(shè)置,可能經(jīng)常會被很多人忽略,它就是 Pacing 。具體設(shè)置方式為: Run-Time settings à General à Pacing ,這個(gè)設(shè)置的功能從字面上就很容易理解,即在場景的兩次迭代 (iteration) 之間,加入一個(gè)時(shí)間間隔(步進(jìn))。設(shè)置方法也很簡單,這里就不贅述了,我在這里想說明的是,這個(gè)設(shè)置到底有什么作用?為什么要進(jìn)行這個(gè)設(shè)置?說實(shí)話,雖然我在以前做過的一些性能測試中,偶爾會對這個(gè)步進(jìn)值進(jìn)行一些設(shè)置,但其實(shí)對它的真正含義和作用,我還并不十分清楚。

前段時(shí)間,我在對X銀行招聘信息系統(tǒng)進(jìn)行性能測試的時(shí)候,發(fā)現(xiàn)這個(gè)值的設(shè)置對于測試的結(jié)果有著很大的影響,很遺憾當(dāng)時(shí)沒有深入研究這個(gè)問題,而只是簡單地認(rèn)為它同腳本中的 thinktime 一樣只是為了更真實(shí)地模擬實(shí)際情況而已。最近在網(wǎng)絡(luò)上看到一篇題為《調(diào)整壓力測試工具》的文章,讀完之后,再用之前我的測試經(jīng)歷加以印證,真有種豁然開朗的感覺。以下就將我的一些體會與大家分享:

通常我們在談到一個(gè)軟件的“性能”的時(shí)候,首先想到的就是“響應(yīng)時(shí)間”和“并發(fā)用戶數(shù)”這兩個(gè)概念。我們看到的性能需求經(jīng)常都是這樣定義的:

“要求系統(tǒng)支持 100 個(gè)并發(fā)用戶”

看到這樣的性能需求,我們往往會不假思索地就在測試場景中設(shè)置 100 個(gè)用戶,讓它們同時(shí)執(zhí)行某一個(gè)測試腳本,然后觀察其操作的響應(yīng)時(shí)間,我們都是這樣做的,不是嗎?我在實(shí)際實(shí)施性能測試的過程中,也往往都是這樣做的。可惜的是,我們中的大多數(shù)人很少去更深入地思考一下其中的奧妙,包括我自己。

事實(shí)上,評價(jià)一個(gè)軟件系統(tǒng)的性能,可以從兩個(gè)不同的視角去看待:客戶端視角和服務(wù)器視角(也有人把它叫做用戶視角和系統(tǒng)視角),與此相對應(yīng)的,又可以引出兩個(gè)讓初學(xué)者很容易混淆的兩個(gè)概念:“并發(fā)用戶數(shù)”和“每秒請求數(shù)”。“并發(fā)用戶數(shù)”是從客戶端視角去定義的,而“每秒請求數(shù)”則是從服務(wù)器視角去定義的。

因此,上面所描述的做法的局限性就是,它反映的僅僅是客戶端的視角。

對于這個(gè)世界上的很多事情,變換不同的角度去看它,往往可以有助于我們得到更正確的結(jié)論。現(xiàn)在,我們就轉(zhuǎn)換一下角度,以服務(wù)器的視角來看看性能需求應(yīng)該怎么樣定義:

“要求系統(tǒng)的事務(wù)處理能力達(dá)到 100 個(gè) / 秒” ( 這里為了理解的方便,假定在測試腳本中的一個(gè)事務(wù)僅僅包含一次請求 )

面對以這樣方式提出的性能需求,在 LoadRunner 中,我們又該如何去設(shè)置它的并發(fā)用戶數(shù)呢?千萬不要想當(dāng)然地以為設(shè)置了 100 個(gè)并發(fā)用戶數(shù),它就會每秒向服務(wù)器提交 100 個(gè)請求,這是兩個(gè)不同的概念,因?yàn)?/span> LoadRunner 模擬客戶端向服務(wù)器發(fā)出請求,必須等待服務(wù)器對這個(gè)請求做出響應(yīng),并且客戶端收到這個(gè)響應(yīng)之后,才會重新發(fā)出新的請求,而服務(wù)器對請求的處理是需要一個(gè)時(shí)間的。我們換個(gè)說法,對于每個(gè)虛擬用戶來說,它對服務(wù)器發(fā)出請求的頻率將依賴于服務(wù)器對這個(gè)請求的處理時(shí)間。而服務(wù)器對請求的處理時(shí)間是不可控的,如果我們想要在測試過程中維持一個(gè)穩(wěn)定的每秒請求數(shù)( RPS ),只有一個(gè)方法,那就是通過增加并發(fā)用戶數(shù)的數(shù)量來達(dá)到這個(gè)目的。這個(gè)方法看起來似乎沒有什么問題,如果我們在測試場景中只執(zhí)行一次迭代的話。然而有經(jīng)驗(yàn)的朋友都會知道,實(shí)際情況并不是這樣,我們通常會對場景設(shè)置一個(gè)持續(xù)運(yùn)行時(shí)間(即多次迭代),通過多個(gè)事務(wù) (transaction) 的取樣平均值來保證測試結(jié)果的準(zhǔn)確性。測試場景以迭代的方式進(jìn)行,如果不設(shè)置步進(jìn)值的話,那么對于每個(gè)虛擬用戶來說,每一個(gè)發(fā)到服務(wù)器的請求得到響應(yīng)之后,會馬上發(fā)送下一次請求。同時(shí),我們知道, LoadRunner 是以客戶端的角度來定義“響應(yīng)時(shí)間”的 ,當(dāng)客戶端請求發(fā)出去后, LoadRunner 就開始計(jì)算響應(yīng)時(shí)間,一直到它收到服務(wù)器端的響應(yīng)。這個(gè)時(shí)候問題就產(chǎn)生了:如果此時(shí)的服務(wù)器端的排隊(duì)隊(duì)列已滿,服務(wù)器資源正處于忙碌的狀態(tài),那么該請求會駐留在服務(wù)器的線程中,換句話說,這個(gè)新產(chǎn)生的請求并不會對服務(wù)器端產(chǎn)生真正的負(fù)載,但很遺憾的是,該請求的計(jì)時(shí)器已經(jīng)啟動了,因此我們很容易就可以預(yù)見到,這個(gè)請求的響應(yīng)時(shí)間會變得很長,甚至可能長到使得該請求由于超時(shí)而失敗。等到測試結(jié)束后,我們查看一下結(jié)果,就會發(fā)現(xiàn)這樣一個(gè)很不幸的現(xiàn)象:事務(wù)平均響應(yīng)時(shí)間很長,最小響應(yīng)時(shí)間與最大響應(yīng)時(shí)間的差距很大,而這個(gè)時(shí)候的平均響應(yīng)時(shí)間,其實(shí)也就失去了它應(yīng)有的意義。也就是說,由于客戶端發(fā)送的請求太快而導(dǎo)致影響了實(shí)際的測量結(jié)果。

因此,為了解決這個(gè)問題,我們可以在每兩個(gè)請求之間插入一個(gè)間隔時(shí)間,這將會降低單個(gè)用戶啟動請求的速度。間歇會減少請求在線程中駐留的時(shí)間,從而提供更符合現(xiàn)實(shí)的響應(yīng)時(shí)間。這就是我在文章開頭所提到的 Pacing 這個(gè)值的作用。

最后再補(bǔ)充一句話:雖然性能測試通常都是從客戶端活動的角度定義的,但是它們應(yīng)該以服務(wù)器為中心的視角來看待。請注意這句話,理解它很重要,只有真正理解了這句話,你才會明白為什么我們一直強(qiáng)調(diào)做性能測試的時(shí)候要保證一個(gè)獨(dú)立、干凈的測試環(huán)境,以及一個(gè)穩(wěn)定的網(wǎng)絡(luò),因?yàn)槲覀兿Mu價(jià)的是軟件系統(tǒng)真正的性能,所以必須排除其它一切因素對系統(tǒng)性能造成的影響。

花了幾天的時(shí)間才完成這篇文章,如果它能夠幫助大家對性能測試多一些理解或者多一些思考,那就是我的榮幸了。 ^_^

?

?

?

?


參考資料:

Kirk Pepperdine Tuning your stress test harness

http://www.theserverside.com/tt/articles/article.tss?l=StressTest