生產(chǎn)環(huán)境中負(fù)載均衡產(chǎn)品DPDK問題的解決是怎樣的，相信很多沒有經(jīng)驗的人對此束手無策，為此本文總結(jié)了問題出現(xiàn)的原因和解決方法，通過這篇文章希望你能解決這個問題。

成都創(chuàng)新互聯(lián)主要為客戶提供服務(wù)項目涵蓋了網(wǎng)頁視覺設(shè)計、VI標(biāo)志設(shè)計、營銷型網(wǎng)站建設(shè)、網(wǎng)站程序開發(fā)、HTML5響應(yīng)式成都網(wǎng)站建設(shè)、手機(jī)網(wǎng)站開發(fā)、微商城、網(wǎng)站托管及成都企業(yè)網(wǎng)站維護(hù)、WEB系統(tǒng)開發(fā)、域名注冊、國內(nèi)外服務(wù)器租用、視頻、平面設(shè)計、SEO優(yōu)化排名。設(shè)計、前端、后端三個建站步驟的完善服務(wù)體系。一人跟蹤測試的建站服務(wù)標(biāo)準(zhǔn)。已經(jīng)為成都花箱行業(yè)客戶提供了網(wǎng)站推廣服務(wù)。

ULB4是UCloud自主研發(fā)的基于DPDK的高可用四層負(fù)載均衡產(chǎn)品，轉(zhuǎn)發(fā)能力接近線速；DPDK則是一個高性能的開源數(shù)據(jù)面開發(fā)套件。ULB4作為用戶應(yīng)用的全局入口，在大流量多元化場景下保證用戶業(yè)務(wù)的持續(xù)穩(wěn)定至關(guān)重要，這也是UCloud網(wǎng)絡(luò)產(chǎn)品團(tuán)隊的技術(shù)使命。尤其現(xiàn)網(wǎng)單個ULB集群承載帶寬已達(dá)10G，包量83萬PPS，運行環(huán)境復(fù)雜，即使面臨突發(fā)因素(比如觸發(fā)未知BUG)，我們也要設(shè)法保證產(chǎn)品正常工作，避免產(chǎn)生嚴(yán)重影響。

近期，我們在ULB4的線上環(huán)境中，發(fā)現(xiàn)了一個DPDK的發(fā)包異常現(xiàn)象，由于整個ULB產(chǎn)品為集群架構(gòu)，該異常并未導(dǎo)致用戶服務(wù)不可用。但為了任何時刻都能保證用戶服務(wù)的足夠穩(wěn)定，團(tuán)隊通過GDB、報文導(dǎo)出工具、生產(chǎn)環(huán)境流量鏡像等手段，從現(xiàn)網(wǎng)GB級流量中捕獲異常報文，再結(jié)合DPDK源碼分析，定位到原因出自DPDK本身的BUG并修復(fù)解決。期間未對用戶業(yè)務(wù)造成影響，進(jìn)一步保證了UCloud數(shù)萬ULB實例的穩(wěn)定運行。

本文將從問題現(xiàn)象著手，抽絲剝繭，詳述問題定位、分析與解決全過程，希望能為ULB用戶和DPDK開發(fā)者提供參考與啟迪。

問題背景

在12月初一向穩(wěn)定的ULB4集群中突然出現(xiàn)了容災(zāi)，某臺ULB4服務(wù)器工作異常被自動移出了集群。當(dāng)時的現(xiàn)象是：

轉(zhuǎn)發(fā)面服務(wù)監(jiān)控到網(wǎng)卡接收方向流量正常，但是發(fā)送方向流量為0，重啟轉(zhuǎn)發(fā)面服務(wù)后又可以正常收發(fā)，同時集群其他機(jī)器也會不定期出現(xiàn)異常情況。對用戶業(yè)務(wù)而言，會出現(xiàn)少量連接輕微抖動，隨后迅速恢復(fù)。

下面是整個問題的處理過程，我們在此過程中做出種種嘗試，最終結(jié)合DPDK源碼完成分析和解決，后續(xù)也準(zhǔn)備將自研的報文導(dǎo)出工具開源共享。

問題定位與分析

ULB4集群一直很穩(wěn)定地工作，突然陸續(xù)在集群的不同機(jī)器上出現(xiàn)同樣的問題，并且機(jī)器恢復(fù)加入集群后，過了一段時間又再次出現(xiàn)同樣的問題。根據(jù)我們的運營經(jīng)驗，初步猜測是某種異常報文觸發(fā)了程序BUG。但是，面對GB級流量如何捕獲到異常報文？又如何在不影響業(yè)務(wù)情況下找出問題呢？

一、GDB調(diào)試報文，發(fā)現(xiàn)疑點

想要知道整個程序為什么不發(fā)包，最好的辦法就是能夠進(jìn)入到程序中去看看具體的執(zhí)行過程。對于DPDK用戶態(tài)程序來說，GDB顯然是一個好用的工具。我們在發(fā)包程序邏輯中設(shè)置斷點，并通過disassemble命令查看該函數(shù)的執(zhí)行邏輯，反匯編之后足足有七百多行。（該函數(shù)中調(diào)用的很多函數(shù)都使用了inline修飾，導(dǎo)致該函數(shù)在匯編之后指令特別多）

結(jié)合對應(yīng)DPDK版本的源碼，單條指令一步步執(zhí)行。在多次嘗試之后，發(fā)現(xiàn)每次都會在下圖所示的地方直接返回。

大致流程是i40e_xmit_pkts()在發(fā)送的時候，發(fā)現(xiàn)發(fā)送隊列滿了就會去調(diào)用i40e_xmit_cleanup()清理隊列。DPDK中網(wǎng)卡在發(fā)送完數(shù)據(jù)包后會去回寫特定字段，表明該報文已經(jīng)發(fā)送，而驅(qū)動程序去查看該字段就可以知道這個報文是否已經(jīng)被發(fā)過。此處的問題就是驅(qū)動程序認(rèn)為該隊列中的報文始終未被網(wǎng)卡發(fā)送出去，后續(xù)來的報文將無法加入到隊列而被直接丟棄。

至此，直接原因已經(jīng)找到，就是網(wǎng)卡因為某種原因不發(fā)包或者沒能正確回寫特定字段，導(dǎo)致驅(qū)動程序認(rèn)為發(fā)送隊列始終處于隊列滿的狀態(tài)，而無法將后續(xù)的報文加入發(fā)送隊列。

那么為什么出現(xiàn)隊列滿？異常包是否相關(guān)呢？帶著這個疑問，我們做了第二個嘗試。

二、一鍵還原網(wǎng)卡報文

隊列滿，而且后面的報文一直加不進(jìn)去，說明此時隊列里面的報文一直卡在那。既然我們猜測可能是存在異常報文，那么有沒有可能異常報文還在隊列里面呢？如果可以把當(dāng)前隊列里面的報文全部導(dǎo)出來，那就可以進(jìn)一步驗證我們的猜測了。

基于對DPDK的深入研究，我們根據(jù)以下步驟導(dǎo)出報文。

我們看i40e_xmit_pkts()函數(shù)，會發(fā)現(xiàn)第一個參數(shù)就是發(fā)送隊列，所以我們可以獲取到隊列的信息。

如下圖所示，在剛進(jìn)入斷點的時候，查看寄存器信息，以此來獲得該函數(shù)對應(yīng)的參數(shù)。

當(dāng)我們打印該隊列的消息時，卻發(fā)現(xiàn)沒有符號信息，此時我們可以如下圖所示去加載編譯時候生成的 i40e_rxtx.o 來獲取對應(yīng)符號信息。

在得到隊列信息后，我們使用GDB的dump命令將整個隊列中所有的報文全部按隊列中的順序?qū)С觯瑢γ總€報文按序號命名。

此時導(dǎo)出的報文還是原始的報文，我們無法使用wireshark方便地查看報文信息。為此如下圖所示，我們使用libpcap庫寫了個簡單的小工具轉(zhuǎn)換成wireshark可以解析的pcap文件。

果然，如下圖所示，在導(dǎo)出的所有報文中包含了一個長度為26字節(jié)，但內(nèi)容為全0的報文。這個報文看上去十分異常，似乎初步驗證了我們的猜測：

為了提高在排查問題時導(dǎo)出報文的速度，我們寫了一個報文一鍵導(dǎo)出工具，可以在異常時一鍵導(dǎo)出所有的報文并轉(zhuǎn)成pcap格式。

在多次導(dǎo)出報文后，我們發(fā)現(xiàn)一個規(guī)律：每次都會有一個長度為26字節(jié)但是全0的報文，而且在其前面都會有一個同樣長度的報文，且每次源IP地址網(wǎng)段都來自于同一個地區(qū)。

三、流量鏡像，確認(rèn)異常包

第二步結(jié)論讓整個排查前進(jìn)了一大步，但是隊列包是經(jīng)過一系列程序處理的，并不是真正的原始業(yè)務(wù)報文。不達(dá)目的不罷休，關(guān)鍵時刻還是要上鏡像抓包，于是當(dāng)晚緊急聯(lián)系網(wǎng)絡(luò)運維同事在交換機(jī)上配置port-mirroring（端口鏡像），將發(fā)往ULB4集群的流量鏡像到一個空閑服務(wù)器上進(jìn)行鏡像抓包。當(dāng)然，鏡像服務(wù)器還需要做特殊配置，如下：

設(shè)置網(wǎng)卡混雜模式，用于收取鏡像流量（ifconfig net2 promisc）。 關(guān)閉GRO功能（ethtool -K net2 gro off），用于收取最原始的報文，防止Linux的GRO功能提前將報文進(jìn)行組裝。 根據(jù)異常IP的地域特性，我們針對性抓取了部分源IP段的流量。

參考命令：nohup tcpdump -i net2 -s0 -w %Y%m%d_%H-%M-%S.pcap -G 1800 “proto gre and (((ip[54:4]&0x11223000)==0x11223000) or ((ip[58:4]&0x11223000)==0x11223000))” &

經(jīng)過多次嘗試后，功夫不負(fù)有心人，故障出現(xiàn)了，經(jīng)過層層剝離篩選，找到了如下報文：

這是IP分片報文，但是奇怪的是IP分片的第二片只有IP頭。經(jīng)過仔細(xì)比對，這兩個報文合在一起就是導(dǎo)出隊列報文中的那兩個連在一起的報文。后26字節(jié)和全0報文完全吻合。

我們知道在TCP/IP協(xié)議中，如果發(fā)送時一個IP報文長度超過了MTU，將會觸發(fā)IP分片，會被拆成多個小的分片報文進(jìn)行發(fā)送。正常情況下，所有的分片肯定都是攜帶有數(shù)據(jù)的。但是這一個分片報文就很異常，報文的總長度是20，也就是說只有一個IP頭，后面不再攜帶任何信息，這樣的報文是沒有任何意義的。這個報文還因為長度太短在經(jīng)過交換機(jī)后被填充了26字節(jié)的0。

至此，我們最終找到了這個異常報文，也基本驗證了我們的猜測。但是還需要去實際驗證是否為這種異常報文導(dǎo)致。（從整個報文的交互來看，這一片報文本來是設(shè)置了不可分片的TCP報文，但是在經(jīng)過某個公網(wǎng)網(wǎng)關(guān)后被強制設(shè)定了允許分片，并且分片出了這種異常的形式。）

四、解決方案

如果確實是這個異常報文導(dǎo)致的，那么只要在收包時對這種異常報文進(jìn)行檢查然后丟棄就可以了。于是，我們修改DPDK程序，丟棄這類報文。作為驗證，先發(fā)布了一臺線上服務(wù)器，經(jīng)過1天運行再也沒有出現(xiàn)異常容災(zāi)情況。既然問題根因已經(jīng)找到，正是這種異常報文導(dǎo)致了DPDK工作異常，后續(xù)就可以按灰度全網(wǎng)發(fā)布了。

五、DPDK社區(qū)反饋

本著對開源社區(qū)負(fù)責(zé)任的態(tài)度，我們準(zhǔn)備將BUG向DPDK社區(qū)同步。對比最新的commit后，找到11月6日提交的一個commit，情況如出一轍，如下：

ip_frag: check fragment length of incoming packet

DPDK 18.11最新發(fā)布的版本中，已對此進(jìn)行了修復(fù)，和我們處理邏輯一致，也是丟棄該異常報文。

復(fù)盤和總結(jié)

處理完所有問題后，我們開始做整體復(fù)盤。

一、ULB無法發(fā)包的成因總結(jié)

ULB4無法發(fā)包的整個產(chǎn)生過程如下：

DPDK收到分片報文中的第一片，將其緩存下來等待后續(xù)分片； 第二片只有IP頭的異常分片到來，DPDK按照正常的報文處理邏輯進(jìn)行處理，并沒有進(jìn)行檢查丟棄，于是兩片報文的rte_mbuf結(jié)構(gòu)被鏈在一起，組成了一個鏈?zhǔn)綀笪姆祷亟oULB4； 這樣的報文被ULB4接收后，因為整個報文的總長度并沒有達(dá)到需要分片的長度，所以ULB4直接調(diào)用DPDK的發(fā)送接口發(fā)送出去； DPDK沒有對這種異常報文進(jìn)行檢查，而是直接調(diào)用相應(yīng)的用戶態(tài)網(wǎng)卡驅(qū)動直接將報文發(fā)送出去； 用戶態(tài)網(wǎng)卡驅(qū)動在發(fā)送這樣的異常報文時觸發(fā)了網(wǎng)卡tx hang； 觸發(fā)tx hang后，網(wǎng)卡不再工作，驅(qū)動隊列中報文對應(yīng)的發(fā)送描述符不再被網(wǎng)卡正確設(shè)置發(fā)送完成標(biāo)記； 后續(xù)的報文持續(xù)到來，開始在發(fā)送隊列中積壓，最終將整個隊列占滿，再有報文到來時將被直接丟棄。

二、為什么異常報文會觸發(fā)網(wǎng)卡tx hang

首先我們看下DPDK中跟網(wǎng)卡發(fā)送報文相關(guān)的代碼。

從以上的圖中我們可以看到，根據(jù)網(wǎng)卡的Datasheet對相關(guān)字段進(jìn)行正確設(shè)置非常重要，如果某種原因設(shè)置錯誤，將可能會導(dǎo)致不可預(yù)知的后果（具體還是要參考網(wǎng)卡的Datasheet）。

如下圖所示，通常網(wǎng)卡對應(yīng)的Datasheet中會對相應(yīng)字段進(jìn)行相關(guān)描述，網(wǎng)卡驅(qū)動中一般都會有相應(yīng)的數(shù)據(jù)結(jié)構(gòu)與其對應(yīng)。

在有了基本了解后，我們猜想如果直接在程序中手動構(gòu)造這種類似的異常報文，是否也會導(dǎo)致網(wǎng)卡異常不發(fā)包？

答案是肯定的。

如下圖所示，我們使用這樣的代碼片段構(gòu)成異常報文，然后調(diào)用DPDK接口直接發(fā)送，很快網(wǎng)卡就會tx hang。

三、對直接操作硬件的思考

直接操作硬件是一件需要非常謹(jǐn)慎的事情，在傳統(tǒng)的Linux系統(tǒng)中，驅(qū)動程序一般處于內(nèi)核態(tài)由內(nèi)核去管理，而且驅(qū)動程序代碼中可能進(jìn)行了各種異常處理，因此很少會發(fā)生用戶程序操作導(dǎo)致硬件不工作的情況。而DPDK因為其自身使用用戶態(tài)驅(qū)動的特點，使得可以在用戶態(tài)直接操作硬件，同時為了提升性能可能進(jìn)行了非常多的優(yōu)化，如果用戶自身程序處理出問題就有可能會導(dǎo)致網(wǎng)卡tx hang這樣的異常情況發(fā)生。

四、工具的價值

我們編寫了一鍵導(dǎo)出DPDK驅(qū)動隊列報文的工具，這樣就可以在每次出現(xiàn)問題時，快速導(dǎo)出網(wǎng)卡驅(qū)動發(fā)送隊列中的所有報文，大大提高了排查效率。這個工具再優(yōu)化下后，準(zhǔn)備在UCloud GitHub上開源，希望對DPDK開發(fā)者有所幫助。

DPDK作為開源套件，通常情況下穩(wěn)定性和可靠性不存在什么問題，但是實際的應(yīng)用場景千變?nèi)f化，一些特殊情況可能導(dǎo)致DPDK工作異常。雖然發(fā)生概率很小，但是DPDK通常在關(guān)鍵的網(wǎng)關(guān)位置，一旦出現(xiàn)了問題，哪怕是很少見的問題也將會產(chǎn)生嚴(yán)重影響。

因此技術(shù)團(tuán)隊理解其工作原理并對其源碼進(jìn)行分析，同時能夠結(jié)合具體現(xiàn)象一步步定位出DPDK存在的問題，對提高整個DPDK程序的服務(wù)可靠性具有重要意義。值得一提的是，ULB4的高可用集群架構(gòu)在本次問題的處理過程中發(fā)揮了重要作用，在一臺不可用的時候，集群中其他機(jī)器也可以繼續(xù)為用戶提供可靠服務(wù)，有效提升了用戶業(yè)務(wù)的可靠性。

看完上述內(nèi)容，你們掌握生產(chǎn)環(huán)境中負(fù)載均衡產(chǎn)品DPDK問題的解決是怎樣的的方法了嗎？如果還想學(xué)到更多技能或想了解更多相關(guān)內(nèi)容，歡迎關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道，感謝各位的閱讀！

網(wǎng)站題目：生產(chǎn)環(huán)境中負(fù)載均衡產(chǎn)品DPDK問題的解決是怎樣的
網(wǎng)站URL：http://aaarwkj.com/article30/gjccpo.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站導(dǎo)航、網(wǎng)站改版、建站公司、域名注冊、全網(wǎng)營銷推廣、品牌網(wǎng)站建設(shè)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)