第四個(gè)遇到的問(wèn)題：tcp_mem
在服務(wù)端，連接達(dá)到一定數(shù)量，諸如50W時(shí)，有些隱藏很深的問(wèn)題，就不斷的拋出來(lái)。
通過(guò)查看dmesg命令查看，發(fā)現(xiàn)大量TCP: too many of orphaned sockets錯(cuò)誤，也很正常，下面到了需要調(diào)整tcp socket參數(shù)的時(shí)候了。
第一個(gè)需要調(diào)整的是tcp_rmem，即TCP讀取緩沖區(qū)，單位為字節(jié)，查看默認(rèn)值
cat /proc/sys/net/ipv4/tcp_rmem
4096 87380 4161536
默認(rèn)值為87380 byte ≈ 86K，最小為4096 byte=4K，最大值為4064K。
第二個(gè)需要調(diào)整的是tcp_wmem，發(fā)送緩沖區(qū)，單位是字節(jié)，默認(rèn)值
cat /proc/sys/net/ipv4/tcp_wmem
4096 16384 4161536
解釋同上
第三個(gè)需要調(diào)整的tcp_mem，調(diào)整TCP的內(nèi)存大小，其單位是頁(yè)，1頁(yè)等于4096字節(jié)。系統(tǒng)默認(rèn)值：
cat /proc/sys/net/ipv4/tcp_mem
932448 1243264 1864896
tcp_mem(3個(gè)INTEGER變量)：low, pressure, high
- low：當(dāng)TCP使用了低于該值的內(nèi)存頁(yè)面數(shù)時(shí)，TCP不會(huì)考慮釋放內(nèi)存。
- pressure：當(dāng)TCP使用了超過(guò)該值的內(nèi)存頁(yè)面數(shù)量時(shí)，TCP試圖穩(wěn)定其內(nèi)存使用，進(jìn)入pressure模式，當(dāng)內(nèi)存消耗低于low值時(shí)則退出pressure狀態(tài)。
- high：允許所有tcp sockets用于排隊(duì)緩沖數(shù)據(jù)報(bào)的頁(yè)面量，當(dāng)內(nèi)存占用超過(guò)此值，系統(tǒng)拒絕分配socket，后臺(tái)日志輸出“TCP: too many of orphaned sockets”。
一般情況下這些值是在系統(tǒng)啟動(dòng)時(shí)根據(jù)系統(tǒng)內(nèi)存數(shù)量計(jì)算得到的。
根據(jù)當(dāng)前tcp_mem最大內(nèi)存頁(yè)面數(shù)是1864896，當(dāng)內(nèi)存為(1864896*4)/1024K=7284.75M時(shí)，系統(tǒng)將無(wú)法為新的socket連接分配內(nèi)存，即TCP連接將被拒絕。
實(shí)際測(cè)試環(huán)境中，據(jù)觀察大概在99萬(wàn)個(gè)連接左右的時(shí)候(零頭不算)，進(jìn)程被殺死，觸發(fā)out of socket memory錯(cuò)誤（dmesg命令查看獲得）。每一個(gè)連接大致占用7.5K內(nèi)存（下面給出計(jì)算方式），大致可算的此時(shí)內(nèi)存占用情況（990000 * 7.5 / 1024K = 7251M)。
這樣和tcp_mem最大頁(yè)面值數(shù)量比較吻合，因此此值也需要修改。
三個(gè)TCP調(diào)整語(yǔ)句為:
echo "net.ipv4.tcp_mem = 786432 2097152 3145728">> /etc/sysctl.conf
echo "net.ipv4.tcp_rmem = 4096 4096 16777216">> /etc/sysctl.conf
echo "net.ipv4.tcp_wmem = 4096 4096 16777216">> /etc/sysctl.conf
備注： 為了節(jié)省內(nèi)存，設(shè)置tcp讀、寫(xiě)緩沖區(qū)都為4K大小，tcp_mem三個(gè)值分別為3G 8G 16G，tcp_rmem和tcp_wmem最大值也是16G。
目標(biāo)達(dá)成
經(jīng)過(guò)若干次的嘗試，最終達(dá)到目標(biāo)，1024000個(gè)持久連接。1024000數(shù)字是怎么得來(lái)的呢，兩臺(tái)物理機(jī)器各自發(fā)出64000個(gè)請(qǐng)求，兩個(gè)配置為6G左右的centos測(cè)試端機(jī)器(綁定7個(gè)橋接或NAT連接)各自發(fā)出640007 = 448000。也就是
1024000 = (64000) + (64000) + (640007) + (64000*7), 共使用了16個(gè)網(wǎng)卡（物理網(wǎng)卡+虛擬網(wǎng)卡）。
終端輸出
......
online user 1023990
online user 1023991
online user 1023992
online user 1023993
online user 1023994
online user 1023995
online user 1023996
online user 1023997
online user 1023998
online user 1023999
online user 1024000
在線用戶目標(biāo)達(dá)到1024000個(gè)！
服務(wù)器狀態(tài)信息
服務(wù)啟動(dòng)時(shí)內(nèi)存占用：
total used free shared buffers cached
Mem: 10442 271 10171 0 22 78
-/+ buffers/cache: 171 10271
Swap: 8127 0 8127
系統(tǒng)達(dá)到1024000個(gè)連接后的內(nèi)存情況（執(zhí)行三次 free -m 命令，獲取三次結(jié)果）：
total used free shared buffers cached
Mem: 10442 7781 2661 0 22 78
-/+ buffers/cache: 7680 2762
Swap: 8127 0 8127
total used free shared buffers cached
Mem: 10442 7793 2649 0 22 78
-/+ buffers/cache: 7692 2750
Swap: 8127 0 8127
total used free shared buffers cached
Mem: 10442 7804 2638 0 22 79
-/+ buffers/cache: 7702 2740
Swap: 8127 0 8127
這三次內(nèi)存使用分別是7680,7692,7702，這次不取平均值，取一個(gè)中等偏上的值，定為7701M。那么程序接收1024000個(gè)連接，共消耗了 7701M-171M = 7530M內(nèi)存， 7530M*1024K / 1024000 = 7.53K， 每一個(gè)連接消耗內(nèi)存在為7.5K左右，這和在連接達(dá)到512000時(shí)所計(jì)算較為吻合。
虛擬機(jī)運(yùn)行Centos內(nèi)存占用，不太穩(wěn)定，但一般相差不大，以上數(shù)值，僅供參考。
執(zhí)行top -p 某刻輸出信息：
top - 17:23:17 up 18 min, 4 users, load average: 0.33, 0.12, 0.11
Tasks: 1 total, 1 running, 0 sleeping, 0 stopped, 0 zombie
Cpu(s): 0.2%us, 6.3%sy, 0.0%ni, 80.2%id, 0.0%wa, 4.5%hi, 8.8%si, 0.0%st
Mem: 10693580k total, 6479980k used, 4213600k free, 22916k buffers
Swap: 8323056k total, 0k used, 8323056k free, 80360k cached
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
2924 yongboy 20 0 82776 74m 508 R 51.3 0.7 3:53.95 server
執(zhí)行vmstate：
vmstat
procs -----------memory---------- ---swap-- -----io---- --system-- -----cpu-----
r b swpd free buff cache si so bi bo in cs us sy id wa st
0 0 0 2725572 23008 80360 0 0 21 2 1012 894 0 9 89 2 0
獲取當(dāng)前socket連接狀態(tài)統(tǒng)計(jì)信息：
cat /proc/net/sockstat
sockets: used 1024380
TCP: inuse 1024009 orphan 0 tw 0 alloc 1024014 mem 2
UDP: inuse 11 mem 1
UDPLITE: inuse 0
RAW: inuse 0
FRAG: inuse 0 memory 0
獲取當(dāng)前系統(tǒng)打開(kāi)的文件句柄：
sysctl -a | grep file
fs.file-nr = 1025216 0 1048576
fs.file-max = 1048576
此時(shí)任何類似于下面查詢操作都是一個(gè)慢，等待若干時(shí)間還不見(jiàn)得執(zhí)行完畢。
netstat -nat|grep -i "8000"|grep ESTABLISHED|wc -l
netstat -n | grep -i "8000" | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
以上兩個(gè)命令在二三十分鐘過(guò)去了，還未執(zhí)行完畢，只好停止。
小結(jié)
本次從頭到尾的測(cè)試，所需要有的linux系統(tǒng)需要調(diào)整的參數(shù)也就是那么幾個(gè)，匯總一下：
echo "* - nofile 1048576" >> /etc/security/limits.conf
echo "fs.file-max = 1048576" >> /etc/sysctl.conf
echo "net.ipv4.ip_local_port_range = 1024 65535" >> /etc/sysctl.conf
echo "net.ipv4.tcp_mem = 786432 2097152 3145728" >> /etc/sysctl.conf
echo "net.ipv4.tcp_rmem = 4096 4096 16777216" >> /etc/sysctl.conf
echo "net.ipv4.tcp_wmem = 4096 4096 16777216" >> /etc/sysctl.conf
其它沒(méi)有調(diào)整的參數(shù)，僅僅因?yàn)樗鼈儠簳r(shí)對(duì)本次測(cè)試沒(méi)有帶來(lái)什么影響，實(shí)際環(huán)境中需要結(jié)合需要調(diào)整類似于SO_KEEPALIVE、tcpmax_orphans等大量參數(shù)。
本文代表一次實(shí)踐，不足之處，歡迎批評(píng)指正。