<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    隨筆-23  評論-58  文章-0  trackbacks-0

    http://code.google.com/p/nutla/

    1、概述
     不管程序性能有多高,機器處理能力有多強,都會有其極限。能夠快速方便的橫向與縱向擴展是Nut設計最重要的原則。
     Nut是一個Lucene+Hadoop分布式搜索框架,能對千G以上索引提供7*24小時搜索服務。在服務器資源足夠的情況下能達到每秒處理100萬次的搜索請求。
     Nut開發環境:jdk1.6.0.21+lucene3.0.2+eclipse3.6.1+hadoop0.20.2+zookeeper3.3.1+hbase0.20.6+memcached+linux

    2、特新
     a、熱插拔
     b、可擴展
     c、高負載
     d、易使用,與現有項目無縫集成
    e、支持排序
    f、7*24服務
    g、失敗轉移

    3、搜索流程
    Nut由Index、Search、Client、Cache和DB五部分構成。(Cache默認使用memcached,DB默認使用hbase)
    Client處理用戶請求和對搜索結果排序。Search對請求進行搜索,Search上只放索引,數據存儲在DB中,Nut將索引和存儲分離。Cache緩存的是搜索條件和結果文檔id。DB存儲著數據,Client根據搜索排序結果,取出當前頁中的文檔id從DB上讀取數據。

    用戶發起搜索請求給由Nut Client構成的集群,由某個Nut Client根據搜索條件查詢Cache服務器是否有該緩存,如果有緩存根據緩存的文檔id直接從DB讀取數據,如果沒有緩存將隨機選擇一組搜索服務器組(Search Group i),將查詢條件同時發給該組搜索服務器組里的n臺搜索服務器,搜索服務器將搜索結果返回給Nut Client由其排序,取出當前頁文檔id,將搜索條件和當前文檔id緩存,同時從DB讀取數據。


    4、索引流程
    Hadoop Mapper/Reducer 建立索引。再將索引從HDFS分發到各個索引服務器。
    對索引的更新分為兩種:刪除和添加(更新分解為刪除和添加)。
    a、刪除
    在HDFS上刪除索引,將生成的*.del文件分發到所有的索引服務器上去或者對HDFS索引目錄刪除索引再分發到對應的索引服務器上去。
    b、添加
    新添加的數據用另一臺服務器來生成。
    刪除和添加步驟可按不同定時策略來實現。

    5、Zookeeper服務器狀態管理策略

    在架構設計上通過使用多組搜索服務器可以支持每秒處理100萬個搜索請求。
    每組搜索服務器能處理的搜索請求數在1萬—1萬5千之間。如果使用100組搜索服務器,理論上每秒可處理100萬個搜索請求。


    假如每組搜索服務器有100份索引放在100臺正在運行中搜索服務器(run)上,那么將索引按照如下的方式放在備用中搜索服務器(bak)上:index 1,index 2,index 3,index 4,index 5,index 6,index 7,index 8,index 9,index 10放在B 1 上,index 6,index 7,index 8,index 9,index 10,index 11,index 12,index 13,index 14,index 15放在B 2上。。。。。。index 96,index 97,index 98,index 99,index 100,index 5,index 4,index 3,index 2,index 1放在最后一臺備用搜索服務器上。那么每份索引會存在3臺機器中(1份正在運行中,2份備份中)。
    盡管這樣設計每份索引會存在3臺機器中,仍然不是絕對安全的。假如運行中的index 1,index 2,index 3同時宕機的話,那么就會有一份索引搜索服務無法正確啟用。這樣設計,作者認為是在安全性和機器資源兩者之間一個比較適合的方案。

    備用中的搜索服務器會定時檢查運行中搜索服務器的狀態。一旦發現與自己索引對應的服務器宕機就會向lock申請分布式鎖,得到分布式鎖的服務器就將自己加入到運行中搜索服務器組,同時從備用搜索服務器組中刪除自己,并停止運行中搜索服務器檢查服務。

    為能夠更快速的得到搜索結果,設計上將搜索服務器分優先等級。通常是將最新的數據放在一臺或幾臺內存搜索服務器上。通常情況下前幾頁數據能在這幾臺搜索服務器里搜索到。如果在這幾臺搜索服務器上沒有數據時再向其他舊數據搜索服務器上搜索。
    優先搜索等級的邏輯是這樣的:9最大為搜索全部服務器并且9不能作為level標識。當搜索等級level為1,搜索優先級為1的服務器,當level為2時搜索優先級為1和2的服務器,依此類推。

    posted on 2010-10-27 10:38 nianzai 閱讀(6667) 評論(11)  編輯  收藏 所屬分類: Nut(lucene + hadoop 分布式并行計算框架)

    評論:
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2010-10-28 09:15 | qiu768
    博主這套框架是否在實際項目中用過?  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2010-10-28 09:42 | nianzai
    Nut目前還是alpha版,因需要有大量的機器所以目前還沒有這樣的條件來實際使用該框架  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8[未登錄] 2010-10-29 10:04 | JL
    問兩個問題:
    1. 同步到一組中的每個nut搜索服務器上的索引是相同的嗎,就是說是一份大索引?還是說整個系統的索引是這組服務器上索引的并集?
    2. 如果直接用搜索服務器去搜索放在hdfs上的索引時,如何解決hdfs上索引更新時的同步問題?  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2010-10-29 10:29 | nianzai
    同一組服務器里服務器上的索引是不相同的,同一組服務器共同構成一個完整的大索引

    搜索的時候并不搜索hdfs上的索引,那樣性能非常差,是要分發到搜索服務器上的進行本地搜索  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8[未登錄] 2010-10-29 12:24 | YY
    那這樣豈不違背了hadoop的設計理念?@nianzai
      回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2010-10-29 13:23 | nianzai
    違背了hadoop的設計理念?

    不知道為什么這么說?  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8[未登錄] 2010-11-25 23:32 | keren
    請問在搜索的時候,是根據什么來把從M/R里面的結果組裝起來的?因為搜索結果是有排序和相似度的。謝謝!  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8[未登錄] 2010-11-26 13:06 | nianzai
    nut并不用M/R來排序,用M/R來排序的話并發是上不來的

    nut是通過各個搜索服務器來實現本地搜索再在nut client端進行合并排序  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2010-12-03 08:58 | zhuweimin
    版主的設計的系統和katta有點象,不過katta沒有使用Hbase來保存數據和是索引放在一起  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2010-12-03 14:53 | nianzai
    katta發布的時候應該是還沒有hbase的
    nut 和 katta 是有點像,但是 是兩個完全不一樣的東西  回復  更多評論
      
    # re: lucene + hadoop 分布式搜索運行框架 Nut 1.0a8 2011-01-29 12:02 | zzxsky
    我就問一個問題,如果對全局索引進行評分,并按照評分結果排序?  回復  更多評論
      
    主站蜘蛛池模板: 久久WWW免费人成—看片| 久久亚洲AV成人无码国产最大| 成人妇女免费播放久久久| 国产亚洲精品免费| 国产成人高清亚洲一区91| 免费a级黄色毛片| 日日躁狠狠躁狠狠爱免费视频| 免费一级特黄特色大片在线观看| 亚洲av日韩av永久在线观看| 国产v片免费播放| 成人免费视频一区二区| 国产亚洲成人久久| 久久久久免费看黄a级试看| 亚洲国产天堂久久综合网站| 很黄很黄的网站免费的| 最新亚洲精品国偷自产在线| 成年女人免费v片| 老司机福利在线免费观看| 亚洲国产天堂久久综合| 三年片免费高清版| 亚洲激情黄色小说| 野花高清在线观看免费完整版中文 | 曰韩无码AV片免费播放不卡| 国产亚洲自拍一区| **俄罗斯毛片免费| 亚洲自偷自偷在线成人网站传媒| 免费乱理伦在线播放| 成人片黄网站色大片免费观看cn | 久久er国产精品免费观看2| 久久精品国产亚洲AV无码偷窥 | 一级做a爰全过程免费视频毛片| 亚洲精品美女久久777777| 亚洲人成在线免费观看| 日韩国产欧美亚洲v片| 亚洲精品中文字幕乱码三区| 国内精自视频品线六区免费| 成人国产网站v片免费观看| 亚洲一区二区三区四区在线观看| 女人18毛片水真多免费播放| 日韩免费一区二区三区在线播放| 亚洲第一街区偷拍街拍|