本文由騰訊技術(shù)kernel分享，原題“TCP經(jīng)典異常問題探討與解決”，下文進行了排版和內(nèi)容優(yōu)化等。
1、引言
TCP的經(jīng)典異常問題無非就是丟包和連接中斷，在這里我打算與各位聊一聊TCP的RST到底是什么？現(xiàn)網(wǎng)中的RST問題有哪些模樣？我們?nèi)绾稳?yīng)對和解決？
本文將從TCP的RST技術(shù)原理、排查手段、現(xiàn)網(wǎng)痛難點案例三個方面，自上而下、循序漸進地給讀者帶來一套完整的分析方法和解決思路。
技術(shù)交流：
2、系列文章
本文是系列文章中的第15篇，本系列文章的大綱如下：
《不為人知的網(wǎng)絡(luò)編程(一)：淺析TCP協(xié)議中的疑難雜癥(上篇)》
《不為人知的網(wǎng)絡(luò)編程(二)：淺析TCP協(xié)議中的疑難雜癥(下篇)》
《不為人知的網(wǎng)絡(luò)編程(三)：關(guān)閉TCP連接時為什么會TIME_WAIT、CLOSE_WAIT》
《不為人知的網(wǎng)絡(luò)編程(四)：深入研究分析TCP的異常關(guān)閉》
《不為人知的網(wǎng)絡(luò)編程(五)：UDP的連接性和負載均衡》
《不為人知的網(wǎng)絡(luò)編程(六)：深入地理解UDP協(xié)議并用好它》
《不為人知的網(wǎng)絡(luò)編程(七)：如何讓不可靠的UDP變的可靠？》
《不為人知的網(wǎng)絡(luò)編程(八)：從數(shù)據(jù)傳輸層深度解密HTTP》
《不為人知的網(wǎng)絡(luò)編程(九)：理論聯(lián)系實際，全方位深入理解DNS》
《不為人知的網(wǎng)絡(luò)編程(十)：深入操作系統(tǒng)，從內(nèi)核理解網(wǎng)絡(luò)包的接收過程(Linux篇)》
《不為人知的網(wǎng)絡(luò)編程(十一)：從底層入手，深度分析TCP連接耗時的秘密》
《不為人知的網(wǎng)絡(luò)編程(十二)：徹底搞懂TCP協(xié)議層的KeepAlive?；顧C制》
《不為人知的網(wǎng)絡(luò)編程(十三)：深入操作系統(tǒng)，徹底搞懂127.0.0.1本機網(wǎng)絡(luò)通信》
《不為人知的網(wǎng)絡(luò)編程(十四)：拔掉網(wǎng)線再插上，TCP連接還在嗎？一文即懂！》
《不為人知的網(wǎng)絡(luò)編程(十五)：深入操作系統(tǒng)，一文搞懂Socket到底是什么》
《不為人知的網(wǎng)絡(luò)編程(十六)：深入分析與解決TCP的RST經(jīng)典異常問題》（* 本文）
3、問題背景
最近一年的時間里，現(xiàn)網(wǎng)碰到RST問題屢屢出現(xiàn)，一旦TCP連接中收到了RST包，大概率會導(dǎo)致連接中止或用戶異常。
如何正確解決RST異常是較為棘手的問題。
本文關(guān)注的不是細節(jié)，而是方法論，也確實方法更為重要。筆者始終相信，一百個人眼中的哈姆雷特最終還是一個具體的人物形象，一百個RST異常最終也會是一個簡短的小問題。
4、技術(shù)原理
4.1概述
首先：我們需要確定的RST問題一定就是問題嗎？如果RST發(fā)生了你會如何去解決？
讀者可以嘗試問下自己并解答這個問題，這里“停頓、停頓、停頓”來給大家一點時間思考。。。
好了，時間到，我們繼續(xù)往下看。
RST分為兩種：
- 1）一種是active rst；
- 2）一種是passive rst。
前者：多半是指的符合預(yù)期的reset行為，此種情況多半是屬于機器自己主動觸發(fā)，更具有先前意識，且和協(xié)議棧本身的細節(jié)關(guān)聯(lián)性不強；后者：多半是指的機器也不清楚后面會發(fā)生什么，走一步看一步，如果不符合協(xié)議棧的if-else實現(xiàn)的RFC中條條杠杠的規(guī)則的情況下，那就只能reset重置了。
這里貼上RFC 793最經(jīng)典的最初對RST包的解釋：
4.2active rst
那具體什么是active rst？
如果從tcpdump抓包上來看表現(xiàn)就是（如下圖）RST的報文中含有了一串Ack標識。
這個對應(yīng)的內(nèi)核代碼為（如果感興趣）：
tcp_send_active_reset()
-> skb = alloc_skb(MAX_TCP_HEADER, priority);
-> tcp_init_nondata_skb(skb, tcp_acceptable_seq(sk), TCPHDR_ACK | TCPHDR_RST);
-> tcp_transmit_skb()
通常發(fā)生active rst的有幾種情況：
- 1）主動方調(diào)用close()的時候：上層卻沒有取走完數(shù)據(jù)（這個屬于上層user自己犯下的錯）。
- 2）主動方調(diào)用close()的時候：setsockopt設(shè)置了linger（這個標識代表我既然設(shè)置了這個，那close就趕快結(jié)束吧）。
- 3）主動方調(diào)用close()的時候：發(fā)現(xiàn)全局的tcp可用的內(nèi)存不夠了（這個可以sysctl調(diào)整tcp mem第三個參數(shù)），或，發(fā)現(xiàn)已經(jīng)有太多的orphans了，這時候系統(tǒng)就是擺爛的意思：我也沒轍了”，那就只能干脆點長痛不如短痛，結(jié)束吧。這個案例可以搜索(dmesg日志）“too many orphaned sockets”或“out of memory -- consider tuning tcp_mem”，匹配其中一個就容易中rst。
注：這里省略其他使用diag相關(guān)（如ss命令）的RST問題。上述三類是主要的active rst問題的情況。
4.3passive rst
現(xiàn)在繼續(xù)說說另一種passive rst吧。
如果從抓包上來看表現(xiàn)就是（如下圖）rst的報文中無ack標識，而且RST的seq等于它否定的報文的ack號（紅色框的rst否定的黃色框的ack），當然還有另一種極小概率出現(xiàn)的特殊情況的表現(xiàn)我這里不貼出來了，它的表現(xiàn)形式就是RST的Ack號為1。
這個對應(yīng)的內(nèi)核代碼為（如果感興趣）：
tcp_v4_send_reset()
if (th->ack) {
// 這里對應(yīng)的就是上圖中為何出現(xiàn)Seq==Ack
rep.th.seq = th->ack_seq;
} else {
// 極小概率，如果出現(xiàn)，那么RST包的就沒有Seq序列號
rep.th.ack = 1;
rep.th.ack_seq = htonl(ntohl(th->seq) + th->syn + th->fin +
skb->len - (th->doff << 2));
}
通常發(fā)生passive rst的有哪些情況呢？這個遠比active rst更復(fù)雜，場景更多。具體的需要看TCP的收、發(fā)的協(xié)議，文字的描述可以參考rfc 793即可。
5、輔助工具
5.1概述
我們針對線上這么多的rst如何去分析呢？
首先tcpdump的抓捕是一定需要的，這個可以在整體流程上給我們縮小排查范圍。其次是，必須要手寫抓捕異常調(diào)用rst的點，文末我會分享一些源碼出來供參考。
那如何抓調(diào)用RST的點？這里只提供下思路。
5.2active rst
使用bpf*相關(guān)的工具抓捕tcp_send_active_reset()函數(shù)并打印堆棧即可，通過crash現(xiàn)場機器并輸入“dis -l [addr]”可以得到具體的函數(shù)位置，比對源碼就可以得知了。
可以使用bpftrace進行快速抓捕：
sudo bpftrace -e 'k:tcp_send_active_reset { @[kstack()] = count(); }'
堆棧結(jié)果如圖：
我們可以根據(jù)堆棧信息推算上下文。
5.3passive rst
使用bpf*相關(guān)的工具抓捕抓捕tcp_v4_send_reset()和其他若干小的地方即可，原理同上。
sudo bpftrace -e 'k:tcp_v4_send_reset { @[kstack()] = count(); }'
效果如圖：
當然：無論哪種，我們抓到了堆棧后依然需要輸出很多的關(guān)于skb和sk的信息，這個讀者自行考慮即可。再補充一些抓捕小技巧，如果現(xiàn)網(wǎng)機器的rst數(shù)量較多時候，盡量使用匹配固定的ip+port方式或其它關(guān)鍵字來減少打印輸出，否則會消耗資源過多！
注：切記不能去抓捕reset tracepoint（具體函數(shù)：trace_tcp_send_reset()），這個tracepoint實現(xiàn)是有問題的，這個問題已經(jīng)在社區(qū)內(nèi)核中存在了7年之久！目前我正在修復(fù)中。
6、案例分析
本章節(jié)我將用現(xiàn)網(wǎng)實際碰到的三個”離譜“而且讓我非常”咬牙切齒“的case作為案例分析，當時在查這些問題的時候我提前告知業(yè)務(wù)“不保證有能力解決
”，不過最終還是用時間磨贏了bug。
對內(nèi)核不感興趣的同學(xué)可以不用糾結(jié)具體的細節(jié)，只需要知道一個過程即可。
對內(nèi)核感興趣的同學(xué)不妨可以一起構(gòu)造RST然后自己再抓取的試試。
7、 案例1：小試牛刀—— close階段RST
背景：這是線上出現(xiàn)概率/次數(shù)較多的一種類型的RST，業(yè)務(wù)總是抱怨為何我的連接莫名其妙的又沒了。
我們先使用網(wǎng)絡(luò)異常檢測中最常用的工具：tcpdump。如下抓包的圖片再結(jié)合前文對RST的兩種分類（active && passive）可知，這是active rst。
好，既然知道了是active rst，我們就針對性的在線上對關(guān)鍵函數(shù)抓捕，如下圖所示。
通過crash命令找到了對應(yīng)的源碼，如下：
這時候便知是用戶設(shè)置了linger，主動預(yù)期內(nèi)的行為觸發(fā)的rst，所以本例就解決了。不過插曲是，用戶并不認為他設(shè)置了linger，這個怎么辦？那就再抓一次sk->sk_lingertime值就好咯。
如下圖所示：
計算：socket的flag是784，第5位（從右往左）是1，這個是SO_LINGER位置位成功，但是同時linger_time為0。這個條件默認（符合預(yù)期）觸發(fā)：上層用戶退出時候，不走四次揮手，直接RST結(jié)束。
結(jié)論：linger的默認機制觸發(fā)了加速結(jié)束TCP連接從而RST報文發(fā)出。
8、 案例2：TCP 兩個bug —— 握手與揮手的RS
8.1概述
背景：某重點業(yè)務(wù)報告他們的某重點用戶出現(xiàn)了莫名其妙的RST問題，而且每一次都是出現(xiàn)在三次握手階段，復(fù)現(xiàn)概率約為——“按請求數(shù)來算的話差不多百萬級別分之1的概率，概率極”（這是來自業(yè)務(wù)的原話）。
這里需要劇透一點的是，后文提到的兩個場景下的rst的bug，都是由于相同的race condition導(dǎo)致的。rcu保護關(guān)注的是reader&writer的安全性（不會踩錯地址），而不保護數(shù)據(jù)的實時性，這個很重要。所以當rcu與hashtable結(jié)合的時候，對整個表的增刪和讀如何保證數(shù)據(jù)的絕對的同步顯得很重要！
8.2握手階段的TCP bug
問題的表象是：三次握手完畢后client端給server端發(fā)送了數(shù)據(jù)，結(jié)果server端卻發(fā)送了rst拒絕了。
分析：注意看上圖最左邊的第4和5這兩行的時間間隔非常短，只有11微妙，11微妙是什么概念？查一次tcp socket的hash表可能都是幾十微妙，這點時間完全可能會停頓在一個函數(shù)上。
當server端看到第三行的ack的時候幾乎同時也看到了第四行的數(shù)據(jù)。
詳細來說：這時候server端在握手最后一個環(huán)節(jié)，會在socket的hash表中刪除一個老的socket（我們叫req sk），再插入一個新的socket（我們叫full sk），在刪除和插入之間的這短暫的幾微妙發(fā)生的時候，server收第行的數(shù)據(jù)的時候需要去到這個hash表中尋找（根據(jù)五元組）對應(yīng)的socket來接受這個報文，結(jié)果在這個空檔期間沒有匹配到應(yīng)該找到的socket，這時候沒辦法只能把當時上層最初監(jiān)聽的listener拿出來接收，這樣就出現(xiàn)了錯誤，違背了協(xié)議棧的基本的設(shè)計：對于listener socket接收到了數(shù)據(jù)包，那么這個數(shù)據(jù)包是非預(yù)期的，應(yīng)該發(fā)送RST！
CPU 0 CPU 1
----- -----
tcp_v4_rcv() syn_recv_sock()
inet_ehash_insert()
-> sk_nulls_del_node_init_rcu(osk)
__inet_lookup_established()
-> __sk_nulls_add_node_rcu(sk, list)
對應(yīng)上圖的cpu0就是server的第四行的讀者，cpu1就是寫者，對于cpu0而言，讀到的數(shù)據(jù)可能是三種情況：
- 1）讀到老的sk；
- 2）讀到新的sk；
- 3）誰也讀不到。
前兩個都是可以接收，但是最后一個就是bug了——我們必須要找到兩者之一！如下就是一種場景，無法正確找到new或者old。
那如何修復(fù)這個問題？在排查完整個握手規(guī)則后，發(fā)現(xiàn)只需要先插入新的sk到hash桶的尾部，再刪除老的sk即可。
這樣就會有幾種情況：
- 1）兩個同時都在，一定能匹配到其中一個；
- 2）匹配到新的。
如下圖：無論reader在哪里都能保證可以讀到一個。
如下是正確的：
結(jié)論：第3行（client給server發(fā)生了握手最后一次ack）和第4行（client端給server發(fā)送了第一組數(shù)據(jù)）出現(xiàn)的并發(fā)問題。
8.3揮手階段的bug
這個問題根因同上：rcu+hash表的使用問題，在揮手階段發(fā)起close()的一方競爭的亂序的收到了一個ack和一個fin ack觸發(fā)，導(dǎo)致socket在最后接收fin ack時候沒有匹配到任何一個socket，又只能拿出最初監(jiān)聽的listener來收包的時候，這時候出現(xiàn)了錯誤。但是這個原始代碼中，是先插入新的sk再刪除了老的sk，乍一聽沒有任何問題，但是實際上插入新的sk出現(xiàn)了問題，源碼中插入到頭部，這里需要插入到尾部才行！
出現(xiàn)問題的情景如下圖：
結(jié)論：這個是原生內(nèi)核長達十多年的一個實現(xiàn)上的BUG，即為了性能考慮使用的RCU機制，由此必然引入的不準確性導(dǎo)致并發(fā)的問題，我定位并分析出這個問題的并發(fā)的根因，由此提交了一份bugfix patch到社區(qū)被接收（點此鏈接查看）。
9、 案例3：netfilter兩個bug —— 數(shù)據(jù)傳輸RST
9.1概述
背景：用戶報告有以下兩個痛點問題。
偶發(fā)性出現(xiàn)：
- 1）根本無法完成三次握手連接；
- 2）在傳輸數(shù)據(jù)的階段突然被RST異常中止。
分析：我們很容易的通過TCP的設(shè)計推測到這種情況一定不是正常的、符合預(yù)期的行為。我抓取了passive rst后發(fā)現(xiàn)原因是TCP層無法通過收到的skb包尋找到對應(yīng)的socket，要知道socket是最核心的TCP連接通信的基站，它保存了TCP應(yīng)有的信息（wscale、seq、buf等等），如果skb無法找到socket，那么就像小時候的故事小蝌蚪找媽媽但是找不到回家的路一樣。
那為什么會出現(xiàn)找不到socket？
經(jīng)過排查發(fā)現(xiàn)線上配置了DNAT規(guī)則，如下例子，凡是到達server端的1111端口或1112端口的都被轉(zhuǎn)發(fā)到80端口接收。
// iptables A port -> B port
iptables ... -p tcp --port 1111 -j REDIRECT --to-ports 80
iptables ... -p tcp --port 1112 -j REDIRECT --to-ports 80
DNAT+netfilter的流程是什么樣？
那么：有了DNAT之后，凡是進入到server端的A port會被直接轉(zhuǎn)發(fā)到B port，最后TCP完成接收。
完整的邏輯是這樣：DNAT的端口映射在ip層收包時候先進入prerouting流程，修改skb的dst_ip:dst_port為真正的最后映射的信息，而后由ip early demux機制針對skb中的原始信息src_ip:src_port（也就是A port）修改為dst_ip:dst_port（也就是使用B port），由此4元組hash選擇一個sk，繼而成功由TCP接收才對。
9.2兩條流沖突觸發(fā)的bug
如下：如果這時候有兩條流量想要TCP建連，二者都是由同一個client端相同的ip和port發(fā)起連接，這時候第1條連接首先發(fā)起握手那么肯定可以順利進行，而當?shù)?條連接發(fā)起的時候抵達到server端的1112端口最終被轉(zhuǎn)化為80端口，但是根據(jù)80端口可以發(fā)現(xiàn)我們已經(jīng)建立了連接，所以第2條流三次握手直接失敗。
1. saddr:12345 -> daddr:80 // 正常連接
2. saddr:12345 -> daddr:1112 -> daddr:80 // NAT參與轉(zhuǎn)化
（對內(nèi)核細節(jié)不感興趣的同學(xué)可以跳過此段）
我需要補充的信息是：NAT轉(zhuǎn)化port分為兩次，對于上述第二條流，第一次轉(zhuǎn)化1112為80，第二次轉(zhuǎn)化12345為1112，最終此流變?yōu)閇saddr:1112 -> daddr:80]。
1）第一條流：skb對應(yīng)的sk是[saddr:12345 -> daddr:80]，這個沒有NAT參與。
2）第二條流：skb在ip層這時候NAT剛完成第一次port（修改dport 1112為dport 80），然后進入了early demux機制，此時的4元組是[saddr:12345 -> daddr:80]，所以這時候匹配上了第一條流的sk，但是系統(tǒng)并不知情有問題了，緊接著NAT第二次改變skb的port，變?yōu)閇saddr:1112 -> daddr:80]，這個也是后續(xù)TCP層延續(xù)使用的，雖然這個4元組信息是對的，但是已經(jīng)沒有用了，因為early demux階段已經(jīng)獲取、保存socket了。
注：內(nèi)核修復(fù)后，對于第二條流就是放棄early demux階段選擇的4元組，而是安心等待NAT完成兩輪port的轉(zhuǎn)化之后，使用[saddr:1112 -> daddr:80]來匹配socket，這時候發(fā)現(xiàn)沒有對應(yīng)的socket，就找到了listener socket，從而完成三次連接。
結(jié)論：這個是early demux+DNAT的bug，它未能解決沖突問題，導(dǎo)致了異常RST的發(fā)生。
9.3特殊skb觸發(fā)的bug
注：在這個場景里面多了一個中間的gateway。
在本例中：我發(fā)現(xiàn)依然是熟知的一幕，skb無法lookup尋找到對應(yīng)的socket，此時我們要相信一定不會lookup算法出錯，因為此算法僅僅是做簡單的4元組的hash計算與匹配。所以追溯異常的skb和socket的四元組信息是頭等事情，經(jīng)過對比果然發(fā)現(xiàn)skb的端口信息未能成功被iptables轉(zhuǎn)化為B port，所以使用了含有A port的四元組信息去找socket，而socket當初的建立是使用了B port，所以skb與sk的相遇就這么擦身而過了。
（對內(nèi)核細節(jié)不感興趣的同學(xué)可以跳過后面大段）
那么為什么會DNAT無法轉(zhuǎn)化？
我們先看下，異常未被轉(zhuǎn)化的skb和應(yīng)當能接收的socket的4元組信息：
// 2.2.2.2是去敏后的server端ip地址，另外兩個是client的ip
sk info: 1.1.1.1:1111 <-> 2.2.2.2:80 // 我們可以知道真實的socket的建立是使用了80端口
skb info: 1.1.1.2:2222 <-> 2.2.2.2:1112 // 異常的skb未成功將1112端口轉(zhuǎn)化為80端口
client->gw->server的流程中，由于gw側(cè)發(fā)送了一些unknown skb再加上client端發(fā)送了一些out-of-window的包，導(dǎo)致進入到server的netfilter階段會被識別出來INVALID異常，這個異常被識別后直接清除netfilter保持的該有的流信息，繼而異常的skb抵達DNAT階段后無法轉(zhuǎn)化端口（因為判斷轉(zhuǎn)化的流信息沒有了），最終skb無法成功轉(zhuǎn)化port端口號。
這個是netfilter+DNAT的設(shè)計上的bug。
我認為：無論是否有netfilter，都不應(yīng)當是TCP的行為被改變，所以如果netfilter識別到了問題所在：
- 1）要么忽視，直接傳給TCP，交給TCP處理；
- 2）要么丟棄，這樣也能避免RST的發(fā)生。
但是：就這么一個小小的細節(jié)上，我和社區(qū)的幾個維護者拉鋸戰(zhàn)的battle了三百回合（點此查看），可惜雖然有一個維護者ACK了我的補丁，但是另外的維護者考慮netfilter不適合用于丟包功能，所以讓用戶去使用iptables --log功能、檢測出invalid異常包、繼而用iptables配置主動丟棄。就憑這點，我認為嚴重違背了user friendly的初衷，這些應(yīng)該是default默認功能才對。此時的我雖然表面打不過，但是在內(nèi)心世界里很顯然我battle贏了...
結(jié)論：netfilter識別異常的skb未能成功保留DNAT信息，導(dǎo)致最后port端口不能成功被轉(zhuǎn)化，從而觸發(fā)了TCP的RST行為。
10、 本文小結(jié)
RST問題并不可怕，只要思路理清楚，先判斷類型，再抓取對應(yīng)代碼，繼而翻出RFC協(xié)議，最后分析源碼就能搞定，僅僅四步就可以了 ：）。
希望這篇文章對大家有用。
11、 附錄：bcc的工具源碼
這里列一下bcc的工具源碼，感興趣的同學(xué)可以自行查閱。
如下是針對4.14內(nèi)核寫的，如果是更高版本需要調(diào)整一些python與c對照的格式問題。
#!/usr/bin/env python
from __future__ import print_function
from bcc import BPF
import argparse
from time import strftime
from socket import inet_ntop, AF_INET, AF_INET6
from struct import pack
import ctypes as ct
from time import sleep
from bcc import tcp
# arguments
examples = """examples:
./tcpdrop # trace kernel TCP drops
"""
parser = argparse.ArgumentParser(
description="Trace TCP drops by the kernel",
formatter_class=argparse.RawDescriptionHelpFormatter,
epilog=examples)
parser.add_argument("--ebpf", action="store_true",
help=argparse.SUPPRESS)
args = parser.parse_args()
debug = 0
# define BPF program
bpf_text = """
#include <uapi/linux/ptrace.h>
#include <uapi/linux/tcp.h>
#include <uapi/linux/ip.h>
#include <net/sock.h>
#include <bcc/proto.h>
BPF_STACK_TRACE(stack_traces, 1024);
struct ipv4_data_t {
u32 pid;
u64 is_sknull;
u32 saddr;
u32 daddr;
u16 sport;
u16 dport;
u8 state;
u8 tcpflags;
u32 stack_id;
};
BPF_PERF_OUTPUT(ipv4_events);
struct active_data_t {
u32 pid;
u32 saddr;
u32 daddr;
u16 sport;
u16 dport;
u32 stack_id;
};
BPF_PERF_OUTPUT(active_events);
static struct tcphdr *skb_to_tcphdr(const struct sk_buff *skb)
{
// unstable API. verify logic in tcp_hdr() -> skb_transport_header().
return (struct tcphdr *)(skb->head + skb->transport_header);
}
static inline struct iphdr *skb_to_iphdr(const struct sk_buff *skb)
{
// unstable API. verify logic in ip_hdr() -> skb_network_header().
return (struct iphdr *)(skb->head + skb->network_header);
}
// from include/net/tcp.h:
#ifndef tcp_flag_byte
#define tcp_flag_byte(th) (((u_int8_t *)th)[13])
#endif
int trace_tcp_v4_send_reset(struct pt_regs *ctx, struct sock *sk, struct sk_buff *skb)
{
u8 is_sk_null = sk ? 0 : 1;
u8 state = sk ? (u8)sk->__sk_common.skc_state : 1;
u32 pid = bpf_get_current_pid_tgid();
struct iphdr *ip = skb_to_iphdr(skb);
u32 daddr = ip->daddr;
u32 saddr = ip->saddr;
// pull in details from the packet headers and the sock struct
u16 family = sk->__sk_common.skc_family;
u16 sport = 0, dport = 0;
struct tcphdr *tcp = skb_to_tcphdr(skb);
u8 tcpflags = ((u_int8_t *)tcp)[13];
sport = tcp->source;
dport = tcp->dest;
sport = ntohs(sport);
dport = ntohs(dport);
if (family == AF_INET &&
(saddr == 16777343 && daddr == 16777343) &&
(sport == 8004 || dport == 8004)) {
struct ipv4_data_t data4 = {};
data4.pid = pid;
data4.saddr = saddr;
data4.daddr = daddr;
data4.dport = dport;
data4.sport = sport;
data4.state = state;
data4.tcpflags = tcpflags;
data4.stack_id = stack_traces.get_stackid(ctx, 0);
ipv4_events.perf_submit(ctx, &data4, sizeof(data4));
}
return 0;
}
int trace_tcp_send_active_reset(struct pt_regs *ctx, struct sock *sk, unsigned int priority)
{
u32 pid = bpf_get_current_pid_tgid() >> 32;
u32 saddr = 0, daddr = 0;
u16 family = AF_INET;
u16 sport = 0, dport = 0;
// sport is not right
sport = sk->__sk_common.skc_num;
dport = sk->__sk_common.skc_dport;
dport = ntohs(dport);
saddr = sk->__sk_common.skc_rcv_saddr;
daddr = sk->__sk_common.skc_daddr;
if (family == AF_INET && (saddr == 16777343 && daddr == 16777343)) {
struct active_data_t data4 = {};
data4.pid = pid;
data4.saddr = saddr;
data4.daddr = daddr;
data4.dport = dport;
data4.sport = sport;
data4.stack_id = stack_traces.get_stackid(ctx, 0);
active_events.perf_submit(ctx, &data4, sizeof(data4));
}
return 0;
}
"""
if debug or args.ebpf:
print(bpf_text)
if args.ebpf:
exit()
# event data
class Data_ipv4(ct.Structure):
_fields_ = [
("pid", ct.c_uint),
("is_sknull", ct.c_ulonglong),
("saddr", ct.c_uint),
("daddr", ct.c_uint),
("sport", ct.c_ushort),
("dport", ct.c_ushort),
("state", ct.c_ubyte),
("tcpflags", ct.c_ubyte),
("stack_id", ct.c_ulong)
]
class Data_active(ct.Structure):
_fields_ = [
("pid", ct.c_uint),
("saddr", ct.c_uint),
("daddr", ct.c_uint),
("sport", ct.c_ushort),
("dport", ct.c_ushort),
("stack_id", ct.c_ulong)
]
# process event
def print_ipv4_event(cpu, data, size):
event = ct.cast(data, ct.POINTER(Data_ipv4)).contents
if event.is_sknull is 1:
print("%-8s %-7d %-20s > %-20s %s (%s)" % (
strftime("%H:%M:%S"), event.pid,
"%s:%d" % (inet_ntop(AF_INET, pack('I', event.saddr)), event.sport),
"%s:%s" % (inet_ntop(AF_INET, pack('I', event.daddr)), event.dport),
"sk-is-null", tcp.flags2str(event.tcpflags)))
else:
print("%-8s %-7d %-20s > %-20s %s (%s)" % (
strftime("%H:%M:%S"), event.pid,
"%s:%d" % (inet_ntop(AF_INET, pack('I', event.saddr)), event.sport),
"%s:%s" % (inet_ntop(AF_INET, pack('I', event.daddr)), event.dport),
tcp.tcpstate[event.state], tcp.flags2str(event.tcpflags)))
for addr in stack_traces.walk(event.stack_id):
sym = b.ksym(addr, show_offset=True)
print("\t%s" % sym)
print("")
def print_active_event(cpu, data, size):
event = ct.cast(data, ct.POINTER(Data_active)).contents
print("%-8s %-7d %-20s > %-20s" % (
strftime("%H:%M:%S"), event.pid,
"%s:%d" % (inet_ntop(AF_INET, pack('I', event.saddr)), event.sport),
"%s:%d" % (inet_ntop(AF_INET, pack('I', event.daddr)), event.dport)))
for addr in stack_traces.walk(event.stack_id):
sym = b.ksym(addr, show_offset=True)
print("\t%s" % sym)
print("")
# initialize BPF
b = BPF(text=bpf_text)
if b.get_kprobe_functions(b"tcp_v4_send_reset"):
b.attach_kprobe(event="tcp_v4_send_reset", fn_name="trace_tcp_v4_send_reset")
else:
print("ERROR: tcp_drop() kernel function not found or traceable. "
"Older kernel versions not supported.")
exit()
if b.get_kprobe_functions(b"tcp_send_active_reset"):
b.attach_kprobe(event="tcp_send_active_reset", fn_name="trace_tcp_send_active_reset")
else:
print("ERROR: tcp_v4_send_reset() kernel function")
exit()
stack_traces = b.get_table("stack_traces")
# header
print("%-8s %-6s %-2s %-20s > %-20s %s (%s)" % ("TIME", "PID", "IP",
"SADDR:SPORT", "DADDR:DPORT", "STATE", "FLAGS"))
# read events
b["ipv4_events"].open_perf_buffer(print_ipv4_event)
#b["active_events"].open_perf_buffer(print_active_event)
while 1:
try:
b.perf_buffer_poll()
except KeyboardInterrupt:
exit()
12、參考資料
[1] RFC 793
[2] TCP/IP詳解 - 第17章·TCP：傳輸控制協(xié)議
[3] 網(wǎng)絡(luò)編程入門從未如此簡單(二)：假如你來設(shè)計TCP協(xié)議，會怎么做？
[4] 通俗易懂-深入理解TCP協(xié)議（上）：理論基礎(chǔ)
[5] 理論經(jīng)典：TCP協(xié)議的3次握手與4次揮手過程詳解
[6] 腦殘式網(wǎng)絡(luò)編程入門(一)：跟著動畫來學(xué)TCP三次握手和四次揮手
[7] 網(wǎng)絡(luò)編程懶人入門(一)：快速理解網(wǎng)絡(luò)通信協(xié)議（上篇）
[8] 網(wǎng)絡(luò)編程懶人入門(二)：快速理解網(wǎng)絡(luò)通信協(xié)議（下篇）
[9] 不為人知的網(wǎng)絡(luò)編程(一)：淺析TCP協(xié)議中的疑難雜癥(上篇)
[10] 不為人知的網(wǎng)絡(luò)編程(二)：淺析TCP協(xié)議中的疑難雜癥(下篇)
（本文已同步發(fā)布于：http://www.52im.net/thread-4668-1-1.html）