<rt id="bn8ez"></rt>
<label id="bn8ez"></label>

  • <span id="bn8ez"></span>

    <label id="bn8ez"><meter id="bn8ez"></meter></label>

    paulwong

    一個PIG腳本例子分析

    執行腳本:
    PIGGYBANK_PATH=$PIG_HOME/contrib/piggybank/java/piggybank.jar
    INPUT=pig/input/test-pig-full.txt
    OUTPUT=pig/output/test-pig-output-$(date  +%Y%m%d%H%M%S)
    PIGSCRIPT=analyst_status_logs.pig

    #analyst_500_404_month.pig
    #
    analyst_500_404_day.pig
    #
    analyst_404_percentage.pig
    #
    analyst_500_percentage.pig
    #
    analyst_unique_path.pig
    #
    analyst_user_logs.pig
    #
    analyst_status_logs.pig


    pig -p PIGGYBANK_PATH=$PIGGYBANK_PATH -p INPUT=$INPUT -p OUTPUT=$OUTPUT $PIGSCRIPT


    要分析的數據源,LOG 文件
    46.20.45.18 - - [25/Dec/2012:23:00:25 +0100] "GET / HTTP/1.0" 302 - "-" "Pingdom.com_bot_version_1.4_(http://www.pingdom.com/)" "-" "-" 46.20.45.18 "" 11011AEC9542DB0983093A100E8733F8 0
    46.20.45.18 - - [25/Dec/2012:23:00:25 +0100] "GET /sign-in.jspx HTTP/1.0" 200 3926 "-" "Pingdom.com_bot_version_1.4_(http://www.pingdom.com/)" "-" "-" 46.20.45.18 "" 11011AEC9542DB0983093A100E8733F8 0
    69.59.28.19 - - [25/Dec/2012:23:01:25 +0100] "GET / HTTP/1.0" 302 - "-" "Pingdom.com_bot_version_1.4_(http://www.pingdom.com/)" "-" "-" 69.59.28.19 "" 36D80DE7FE52A2D89A8F53A012307B0A 15


    PIG腳本:
    --注冊JAR包,因為要用到DateExtractor
    register '$PIGGYBANK_PATH';

    --聲明一個短函數名
    DEFINE DATE_EXTRACT_MM 
    org.apache.pig.piggybank.evaluation.util.apachelogparser.DateExtractor('yyyy-MM');

    DEFINE DATE_EXTRACT_DD 
    org.apache.pig.piggybank.evaluation.util.apachelogparser.DateExtractor('yyyy-MM-dd');

    -- pig/input/test-pig-full.txt
    --把數據從變量所指的文件加載到PIG中,并定義數據列名,此時的數據集為數組(a,b,c)
    raw_logs = load '$INPUT' USING org.apache.pig.piggybank.storage.MyRegExLoader('^(\\S+) (\\S+) (\\S+) \\[([\\w:/]+\\s[+\\-]\\d{4})\\] "(\\S+) (\\S+) (HTTP[^"]+)" (\\S+) (\\S+) "([^"]*)" "([^"]*)" "(\\S+)" "(\\S+)" (\\S+) "(.*)" (\\S+) (\\S+)')
    as (remoteAddr: chararray, 
    n2: chararray, 
    n3: chararray, 
    time: chararray, 
    method: chararray,
    path:chararray,
    protocol:chararray,
    status: int, 
    bytes_string: chararray, 
    referrer: chararray, 
    browser: chararray, 
    n10:chararray,
    remoteLogname: chararray, 
    remoteAddr12: chararray, 
    path2: chararray, 
    sessionid: chararray, 
    n15: chararray
    );

    --過濾數據
    filter_logs = FILTER raw_logs BY not (browser matches '.*pingdom.*');
    --item_logs = FOREACH raw_logs GENERATE browser;

    --percent 500 logs
    --重定義數據項,數據集只取2項status,month
    reitem_percent_500_logs = FOREACH filter_logs GENERATE status,DATE_EXTRACT_MM(time) as month;
    --分組數據集,此時的數據結構為MAP(a{(aa,bb,cc),(dd,ee,ff)},b{(bb,cc,dd),(ff,gg,hh)})
    group_month_percent_500_logs = GROUP reitem_percent_500_logs BY (month);
    --重定義分組數據集數據項,進行分組統計,此時要聯合分組數據集和原數據集統計
    final_month_500_logs = FOREACH group_month_percent_500_logs 
    {
        --對原數據集做count,因為是在foreachj里做count的,即使是對原數據集,也會自動會加month==group的條件
        --從這里可以看出對于group里的數據集,完全沒用到
        --這時是以每一行為單位的,統計MAP中的KEY-a對應的數組在原數據集中的個數
        total = COUNT(reitem_percent_500_logs);
        --對原數據集做filter,因為是在foreachj里做count的,即使是對原數據集,也會自動會加month==group的條件
        --重新過濾一下原數據集,得到status==500,month==group的數據集
        t = filter reitem_percent_500_logs by status== 500; --create a bag which contains only T values
        --重定義數據項,取group,統計結果
        generate flatten(group) as col1, 100*(double)COUNT(t)/(double)total;
    }
    STORE final_month_500_logs into '$OUTPUT' using PigStorage(',');

    posted on 2013-04-13 15:21 paulwong 閱讀(2309) 評論(0)  編輯  收藏 所屬分類: 分布式HADOOP云計算PIG

    主站蜘蛛池模板: 亚洲成av人片一区二区三区| 国产又粗又长又硬免费视频| 精品国产综合成人亚洲区| 美女视频黄a视频全免费网站色 | 黄色视频在线免费观看| 四虎亚洲国产成人久久精品| 亚洲国产精品ⅴa在线观看| 最近中文字幕mv手机免费高清| 国产色在线|亚洲| 最近免费中文字幕大全视频| 亚洲中文无码永久免| 美女黄网站人色视频免费国产 | 久久亚洲AV成人无码软件| 国产精品区免费视频| 精品日韩亚洲AV无码一区二区三区| 无码国产精品一区二区免费16| 久久久国产精品亚洲一区| 免费观看激色视频网站(性色)| 亚洲伊人久久大香线蕉结合| 成人免费无遮挡无码黄漫视频| 亚洲Aⅴ在线无码播放毛片一线天| 四虎永久在线精品免费观看地址 | 亚洲日本中文字幕| 国产精品免费观看| 亚洲欧美日本韩国| 亚洲精品一级无码鲁丝片| 中文字字幕在线高清免费电影| 久久精品视频亚洲| 免费电视剧在线观看| 一级视频在线免费观看| 亚洲成av人影院| 黄瓜视频高清在线看免费下载| 国产成人亚洲精品电影| 中文字幕不卡亚洲| 日韩在线播放全免费| 亚洲hairy多毛pics大全| 亚洲人成影院在线无码按摩店| 中文字幕乱码免费视频| 亚洲精品无码国产片| 亚洲精品高清国产一线久久| 亚洲国产精品免费观看|