<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    一江春水向東流

    做一個有思想的人,期待與每一位熱愛思考的人交流,您的關(guān)注是對我最大的支持。

      BlogJava :: 首頁 :: 新隨筆 :: 聯(lián)系 :: 聚合  :: 管理 ::
      44 隨筆 :: 139 文章 :: 81 評論 :: 0 Trackbacks
    Lucene是一個高性能的java全文檢索工具包,它使用的是倒排文件索引結(jié)構(gòu)。該結(jié)構(gòu)及相應的生成算法如下:

    0)設有兩篇文章1和2
    文章1的內(nèi)容為:Tom lives in Guangzhou,I live in Guangzhou too.
    文章2的內(nèi)容為:He once lived in Shanghai.

    1)由于lucene是基于關(guān)鍵詞索引和查詢的,首先我們要取得這兩篇文章的關(guān)鍵詞,通常我們需要如下處理措施
    a.我們現(xiàn)在有的是文章內(nèi)容,即一個字符串,我們先要找出字符串中的所有單詞,即分詞。英文單詞由于用空格分隔,比較好處理。中文單詞間是連在一起的需要特殊的分詞處理。
    b.文章中的”in”, “once” “too”等詞沒有什么實際意義,中文中的“的”“是”等字通常也無具體含義,這些不代表概念的詞可以過濾掉
    c.用戶通常希望查“He”時能把含“he”,“HE”的文章也找出來,所以所有單詞需要統(tǒng)一大小寫。
    d.用戶通常希望查“l(fā)ive”時能把含“l(fā)ives”,“l(fā)ived”的文章也找出來,所以需要把“l(fā)ives”,“l(fā)ived”還原成“l(fā)ive”
    e.文章中的標點符號通常不表示某種概念,也可以過濾掉
    在lucene中以上措施由Analyzer類完成

    經(jīng)過上面處理后
    文章1的所有關(guān)鍵詞為:[tom] [live] [guangzhou] [i] [live] [guangzhou]
    文章2的所有關(guān)鍵詞為:[he] [live] [shanghai]

    2) 有了關(guān)鍵詞后,我們就可以建立倒排索引了。上面的對應關(guān)系是:“文章號”對“文章中所有關(guān)鍵詞”。倒排索引把這個關(guān)系倒過來,變成:“關(guān)鍵詞”對“擁有該關(guān)鍵詞的所有文章號”。文章1,2經(jīng)過倒排后變成
    關(guān)鍵詞 文章號
    guangzhou 1
    he 2
    i 1
    live 1,2
    shanghai 2
    tom 1

    通常僅知道關(guān)鍵詞在哪些文章中出現(xiàn)還不夠,我們還需要知道關(guān)鍵詞在文章中出現(xiàn)次數(shù)和出現(xiàn)的位置,通常有兩種位置:a)字符位置,即記錄該詞是文章中第幾個字符(優(yōu)點是關(guān)鍵詞亮顯時定位快);b)關(guān)鍵詞位置,即記錄該詞是文章中第幾個關(guān)鍵詞(優(yōu)點是節(jié)約索引空間、詞組(phase)查詢快),lucene中記錄的就是這種位置。

    加上“出現(xiàn)頻率”和“出現(xiàn)位置”信息后,我們的索引結(jié)構(gòu)變?yōu)椋?
    關(guān)鍵詞 文章號[出現(xiàn)頻率] 出現(xiàn)位置
    guangzhou 1[2] 3,6
    he 2[1] 1
    i 1[1] 4
    live 1[2],2[1] 2,5,2
    shanghai 2[1] 3
    tom 1[1] 1

    以live 這行為例我們說明一下該結(jié)構(gòu):live在文章1中出現(xiàn)了2次,文章2中出現(xiàn)了一次,它的出現(xiàn)位置為“2,5,2”這表示什么呢?我們需要結(jié)合文章號和出現(xiàn)頻率來分析,文章1中出現(xiàn)了2次,那么“2,5”就表示live在文章1中出現(xiàn)的兩個位置,文章2中出現(xiàn)了一次,剩下的“2”就表示live是文章2中第 2個關(guān)鍵字。

    以上就是lucene索引結(jié)構(gòu)中最核心的部分。我們注意到關(guān)鍵字是按字符順序排列的(lucene沒有使用B樹結(jié)構(gòu)),因此lucene可以用二元搜索算法快速定位關(guān)鍵詞。

    實現(xiàn)時 lucene將上面三列分別作為詞典文件(Term Dictionary)、頻率文件(frequencies)、位置文件 (positions)保存。其中詞典文件不僅保存有每個關(guān)鍵詞,還保留了指向頻率文件和位置文件的指針,通過指針可以找到該關(guān)鍵字的頻率信息和位置信息。

    Lucene中使用了field的概念,用于表達信息所在位置(如標題中,文章中,url中),在建索引中,該field信息也記錄在詞典文件中,每個關(guān)鍵詞都有一個field信息(因為每個關(guān)鍵字一定屬于一個或多個field)。

    為了減小索引文件的大小,Lucene對索引還使用了壓縮技術(shù)。首先,對詞典文件中的關(guān)鍵詞進行了壓縮,關(guān)鍵詞壓縮為<前綴長度,后綴>,例如:當前詞為“阿拉伯語”,上一個詞為“阿拉伯”,那么“阿拉伯語”壓縮為<3,語>。其次大量用到的是對數(shù)字的壓縮,數(shù)字只保存與上一個值的差值(這樣可以減小數(shù)字的長度,進而減少保存該數(shù)字需要的字節(jié)數(shù))。例如當前文章號是16389(不壓縮要用3個字節(jié)保存),上一文章號是16382,壓縮后保存7(只用一個字節(jié))。

    下面我們可以通過對該索引的查詢來解釋一下為什么要建立索引。
    假設要查詢單詞 “l(fā)ive”,lucene先對詞典二元查找、找到該詞,通過指向頻率文件的指針讀出所有文章號,然后返回結(jié)果。詞典通常非常小,因而,整個過程的時間是毫秒級的。
    而用普通的順序匹配算法,不建索引,而是對所有文章的內(nèi)容進行字符串匹配,這個過程將會相當緩慢,當文章數(shù)目很大時,時間往往是無法忍受的。
    posted on 2008-05-10 09:51 allic 閱讀(290) 評論(0)  編輯  收藏 所屬分類: 文章收藏
    主站蜘蛛池模板: 国产V亚洲V天堂无码久久久| 最近中文字幕无吗免费高清 | 好湿好大好紧好爽免费视频| 日本大片在线看黄a∨免费| 亚洲沟沟美女亚洲沟沟| 久9热免费精品视频在线观看| 亚洲精品无码不卡在线播放HE| 久久性生大片免费观看性| 亚洲精品视频在线观看你懂的| 日日躁狠狠躁狠狠爱免费视频| 免费一级毛片在播放视频| 美女黄色免费网站| 亚洲午夜国产片在线观看| 一区二区三区在线免费| 国产国拍精品亚洲AV片| 国产一区二区三区免费| 亚洲第一页在线观看| 无码乱肉视频免费大全合集| 亚洲一线产区二线产区区| 日本媚薬痉挛在线观看免费| 一级做a毛片免费视频| 国产成人亚洲综合无码精品| 久久99国产综合精品免费| 国产成人亚洲综合网站不卡| 四虎影视永久免费视频观看| 国产精品免费αv视频| 亚洲成A∨人片在线观看无码| 大地资源免费更新在线播放| 爱情岛论坛免费视频| 欧洲亚洲国产清在高| 国产麻豆视频免费观看| 免费人成在线观看播放a| 亚洲精品国产成人片| 中国在线观看免费高清完整版| 日本亚洲中午字幕乱码| 国产亚洲一区二区精品| 67194成是人免费无码| 久久精品无码专区免费| 亚洲午夜电影一区二区三区| 亚洲午夜激情视频| 久久精品国产免费观看|