<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    Chan Chen Coding...

    一致性hash算法 - consistent hashing

    Refer to: http://blog.csdn.net/sparkliang/article/details/5279393

    consistent hashing 算法早在 1997 年就在論文 Consistent hashing and random trees 中被提出,目前在 cache 系統中應用越來越廣泛;

    1 基本場景

    比如你有 N  cache 服務器(后面簡稱 cache ),那么如何將一個對象 object 映射到 N  cache 上呢,你很可能會采用類似下面的通用方法計算 object  hash 值,然后均勻的映射到到 N  cache 

    hash(object)%N

    一切都運行正常,再考慮如下的兩種情況;

    一個 cache 服務器 m down 掉了(在實際應用中必須要考慮這種情況),這樣所有映射到 cache m 的對象都會失效,怎么辦,需要把 cache m  cache 中移除,這時候 cache  N-1 臺,映射公式變成了 hash(object)%(N-1) 

    由于訪問加重,需要添加 cache ,這時候 cache  N+1 臺,映射公式變成了 hash(object)%(N+1) 

     2 意味著什么?這意味著突然之間幾乎所有的 cache 都失效了。對于服務器而言,這是一場災難,洪水般的訪問都會直接沖向后臺服務器;

    再來考慮第三個問題,由于硬件能力越來越強,你可能想讓后面添加的節點多做點活,顯然上面的 hash 算法也做不到。

      有什么方法可以改變這個狀況呢,這就是 consistent hashing...

    2 hash 算法和單調性

       Hash 算法的一個衡量指標是單調性( Monotonicity ),定義如下:

      單調性是指如果已經有一些內容通過哈希分派到了相應的緩沖中,又有新的緩沖加入到系統中。哈希的結果應能夠保證原有已分配的內容可以被映射到新的緩沖中去,而不會被映射到舊的緩沖集合中的其他緩沖區。

    容易看到,上面的簡單 hash 算法 hash(object)%N 難以滿足單調性要求。

    3 consistent hashing 算法的原理

    consistent hashing 是一種 hash 算法,簡單的說,在移除 / 添加一個 cache 時,它能夠盡可能小的改變已存在 key 映射關系,盡可能的滿足單調性的要求。

    下面就來按照 5 個步驟簡單講講 consistent hashing 算法的基本原理。

    3.1 環形hash 空間

    考慮通常的 hash 算法都是將 value 映射到一個 32 為的 key 值,也即是 0~2^32-1 次方的數值空間;我們可以將這個空間想象成一個首( 0 )尾( 2^32-1 )相接的圓環,如下面圖 1 所示的那樣。

    circle space

     1 環形 hash 空間

    3.2 把對象映射到hash 空間

    接下來考慮 4 個對象 object1~object4 ,通過 hash 函數計算出的 hash  key 在環上的分布如圖 2 所示。

    hash(object1) = key1;

    … …

    hash(object4) = key4;

    object

     2 4 個對象的 key 值分布

    3.3 把cache 映射到hash 空間

    Consistent hashing 的基本思想就是將對象和 cache 都映射到同一個 hash 數值空間中,并且使用相同的hash 算法。

    假設當前有 A,B  C  3  cache ,那么其映射結果將如圖 3 所示,他們在 hash 空間中,以對應的 hash值排列。

    hash(cache A) = key A;

    … …

    hash(cache C) = key C;

    cache

     3 cache 和對象的 key 值分布

     

    說到這里,順便提一下 cache  hash 計算,一般的方法可以使用 cache 機器的 IP 地址或者機器名作為hash 輸入。

    3.4 把對象映射到cache

    現在 cache 和對象都已經通過同一個 hash 算法映射到 hash 數值空間中了,接下來要考慮的就是如何將對象映射到 cache 上面了。

    在這個環形空間中,如果沿著順時針方向從對象的 key 值出發,直到遇見一個 cache ,那么就將該對象存儲在這個 cache 上,因為對象和 cache  hash 值是固定的,因此這個 cache 必然是唯一和確定的。這樣不就找到了對象和 cache 的映射方法了嗎?!

    依然繼續上面的例子(參見圖 3 ),那么根據上面的方法,對象 object1 將被存儲到 cache A 上; object2 object3 對應到 cache C  object4 對應到 cache B 

    3.5 考察cache 的變動

    前面講過,通過 hash 然后求余的方法帶來的最大問題就在于不能滿足單調性,當 cache 有所變動時,cache 會失效,進而對后臺服務器造成巨大的沖擊,現在就來分析分析 consistent hashing 算法。

    3.5.1 移除 cache

    考慮假設 cache B 掛掉了,根據上面講到的映射方法,這時受影響的將僅是那些沿 cache B 逆時針遍歷直到下一個 cache  cache C )之間的對象,也即是本來映射到 cache B 上的那些對象。

    因此這里僅需要變動對象 object4 ,將其重新映射到 cache C 上即可;參見圖 4 

    remove

     4 Cache B 被移除后的 cache 映射

    3.5.2 添加 cache

    再考慮添加一臺新的 cache D 的情況,假設在這個環形 hash 空間中, cache D 被映射在對象 object2 object3 之間。這時受影響的將僅是那些沿 cache D 逆時針遍歷直到下一個 cache  cache B )之間的對象(它們是也本來映射到 cache C 上對象的一部分),將這些對象重新映射到 cache D 上即可。

     

    因此這里僅需要變動對象 object2 ,將其重新映射到 cache D 上;參見圖 5 

    add

     5 添加 cache D 后的映射關系

    4 虛擬節點

    考量 Hash 算法的另一個指標是平衡性 (Balance) ,定義如下:

    平衡性

      平衡性是指哈希的結果能夠盡可能分布到所有的緩沖中去,這樣可以使得所有的緩沖空間都得到利用。

    hash 算法并不是保證絕對的平衡,如果 cache 較少的話,對象并不能被均勻的映射到 cache 上,比如在上面的例子中,僅部署 cache A  cache C 的情況下,在 4 個對象中, cache A 僅存儲了 object1 ,而 cache C 則存儲了 object2  object3  object4 ;分布是很不均衡的。

    為了解決這種情況, consistent hashing 引入了“虛擬節點”的概念,它可以如下定義:

    “虛擬節點”( virtual node )是實際節點在 hash 空間的復制品( replica ),一實際個節點對應了若干個“虛擬節點”,這個對應個數也成為“復制個數”,“虛擬節點”在 hash 空間中以 hash 值排列。

    仍以僅部署 cache A  cache C 的情況為例,在圖 4 中我們已經看到, cache 分布并不均勻。現在我們引入虛擬節點,并設置“復制個數”為 2 ,這就意味著一共會存在 4 個“虛擬節點”, cache A1, cache A2 代表了 cache A  cache C1, cache C2 代表了 cache C ;假設一種比較理想的情況,參見圖 6 

    virtual nodes

     6 引入“虛擬節點”后的映射關系

     

    此時,對象到“虛擬節點”的映射關系為:

    objec1->cache A2  objec2->cache A1  objec3->cache C1  objec4->cache C2 

    因此對象 object1  object2 都被映射到了 cache A 上,而 object3  object4 映射到了 cache C 上;平衡性有了很大提高。

    引入“虛擬節點”后,映射關系就從 { 對象 -> 節點 } 轉換到了 { 對象 -> 虛擬節點 } 。查詢物體所在 cache時的映射關系如圖 7 所示。

    map

     7 查詢對象所在 cache

     

    “虛擬節點”的 hash 計算可以采用對應節點的 IP 地址加數字后綴的方式。例如假設 cache A  IP 地址為202.168.14.241 

    引入“虛擬節點”前,計算 cache A  hash 值:

    Hash(“202.168.14.241”);

    引入“虛擬節點”后,計算“虛擬節”點 cache A1  cache A2  hash 值:

    Hash(“202.168.14.241#1”);  // cache A1

    Hash(“202.168.14.241#2”);  // cache A2

    5 小結

    Consistent hashing 的基本原理就是這些,具體的分布性等理論分析應該是很復雜的,不過一般也用不到。

    http://weblogs.java.net/blog/2007/11/27/consistent-hashing 上面有一個 java 版本的例子,可以參考。

    http://blog.csdn.net/mayongzhan/archive/2009/06/25/4298834.aspx 轉載了一個 PHP 版的實現代碼。

    http://www.codeproject.com/KB/recipes/lib-conhash.aspx C語言版本


     

    一些參考資料地址:

    http://portal.acm.org/citation.cfm?id=258660

    http://en.wikipedia.org/wiki/Consistent_hashing

    http://www.spiteful.com/2008/03/17/programmers-toolbox-part-3-consistent-hashing/

     http://weblogs.java.net/blog/2007/11/27/consistent-hashing

    http://tech.idv2.com/2008/07/24/memcached-004/

    http://blog.csdn.net/mayongzhan/archive/2009/06/25/4298834.aspx



    -----------------------------------------------------
    Silence, the way to avoid many problems;
    Smile, the way to solve many problems;

    posted on 2013-04-19 11:16 Chan Chen 閱讀(282) 評論(0)  編輯  收藏 所屬分類: Algorithm

    主站蜘蛛池模板: 日产乱码一卡二卡三免费| 无码少妇一区二区浪潮免费| 亚洲va中文字幕无码| 精品亚洲视频在线| 麻豆成人精品国产免费| 久久亚洲精品11p| 国产精品另类激情久久久免费| 亚洲美国产亚洲AV| 免费v片在线观看品善网| 免费看一级毛片在线观看精品视频 | 美女视频黄a视频全免费| 亚洲免费观看网站| 亚洲日本在线观看视频| 一级毛片免费播放视频| 久久久无码精品亚洲日韩软件| 久久一区二区免费播放| 亚洲动漫精品无码av天堂| 久久免费视频99| 亚洲国产成人久久99精品| 性xxxx视频播放免费| 免费国产黄网站在线观看动图| 久久亚洲国产精品123区| 久久久精品免费视频| 亚洲成a人片77777群色| 亚洲免费在线观看| 亚洲AV成人一区二区三区AV| 日韩免费一区二区三区在线| 久久亚洲精品无码gv| 怡红院亚洲怡红院首页| 国产h肉在线视频免费观看| 亚洲国产成人久久综合| 国产亚洲精午夜久久久久久| 99视频在线看观免费| 亚洲AV日韩综合一区| 亚洲成AV人片在线播放无码| 三年片在线观看免费观看高清电影 | 亚洲第一网站免费视频| 日本免费福利视频| A级毛片高清免费视频在线播放| 亚洲国产av美女网站| 国产av无码专区亚洲国产精品|