<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    paulwong

    大規模數據查重的多種方法,及Bloom Filter的應用

    挺有意思的題目。


    1. 給你A,B兩個文件,各存放50億條URL,每條URL占用64字節,內存限制是4G,讓你找出:A,B文件共同的URL。
    解法一:Hash成內存大小的小塊文件,然后分塊內存內查交集。
    解法二:Bloom Filter(廣泛應用于URL過濾、查重。參考http://en.wikipedia.org/wiki/Bloom_filter、http://blog.csdn.net/jiaomeng/archive/2007/01/28/1496329.aspx)


    2. 有10個文件,每個文件1G, 每個文件的每一行都存放的是用戶的query,每個文件的query都可能重復。要你按照query的頻度排序。
    解法一:根據數據稀疏程度算法會有不同,通用方法是用Hash把文件重排,讓相同query一定會在同一個文件,同時進行計數,然后歸并,用最小堆來統計頻度最大的。
    解法二:類似1,但是用的是與簡單Bloom Filter稍有不同的CBF(Counting Bloom Filter)或者更進一步的SBF(Spectral Bloom Filter,參考http://blog.csdn.net/jiaomeng/archive/2007/03/19/1534238.aspx)
    解法三:MapReduce,幾分鐘可以在hadoop集群上搞定。參考http://en.wikipedia.org/wiki/MapReduce


    3. 有一個1G大小的一個文件,里面每一行是一個詞,詞的大小不超過16個字節,內存限制大小是1M。返回頻數最高的100個詞。
    解法一:跟2類似,只是不需要排序,各個文件分別統計前100,然后一起找前100。

    posted on 2013-01-31 13:55 paulwong 閱讀(1148) 評論(0)  編輯  收藏 所屬分類: 分布式HADOOP云計算

    主站蜘蛛池模板: 国产成人综合亚洲一区| 国产一区二区三区免费视频 | 国产白丝无码免费视频| 亚洲熟女精品中文字幕| 亚洲大片在线观看| 亚洲色婷婷综合开心网| 免费看又爽又黄禁片视频1000| 97精品免费视频| 最近免费字幕中文大全| 四虎一区二区成人免费影院网址 | 久久精品乱子伦免费| 人禽伦免费交视频播放| 18禁亚洲深夜福利人口| 亚洲最大无码中文字幕| 亚洲字幕在线观看| 亚洲综合一区二区精品导航| 国产亚洲精品精华液| 中文国产成人精品久久亚洲精品AⅤ无码精品| 免费无码又黄又爽又刺激| 永久在线免费观看| 四虎影视在线影院在线观看免费视频 | 亚洲成人福利在线| 99久久精品国产亚洲| 亚洲Av无码专区国产乱码DVD | 日本高清免费中文在线看 | 日韩成人免费在线| 成年私人影院免费视频网站| 2021免费日韩视频网| 最近2022中文字幕免费视频| 无码人妻精品中文字幕免费 | 久久精品国产亚洲av四虎| 亚洲大尺度无码专区尤物| 亚洲日韩激情无码一区| 黑人大战亚洲人精品一区| 国产午夜亚洲不卡| 国产日产亚洲系列最新| 在线A亚洲老鸭窝天堂| 亚洲中文字幕无码久久综合网| 久久伊人亚洲AV无码网站| 国产成人毛片亚洲精品| 国产亚洲精品a在线观看|