在互聯(lián)網(wǎng)大行其道的今天，隨著業(yè)務的迅猛增長，技術上我們常常要面對高并發(fā)，大流量。

接入層，代理層，應服務器示意圖

我們知道了負載均衡分為“硬件負載均衡”和“軟件負載均衡”，那么來逐一看看他們是如何工作的吧。

硬件負載均衡

既然前面提到了負載均衡器的分類，那么我們就來聊聊他們的特點。硬件負載均衡技術只專注網(wǎng)絡判斷，不考慮業(yè)務系統(tǒng)與應用使用的情況。

看上去它對處理網(wǎng)絡請求是非常專業(yè)的，但有趣的是，如果應用服務出現(xiàn)了流量瓶頸，而“接入層”的硬件負載均衡沒有發(fā)現(xiàn)異常，還是讓流量繼續(xù)進入到應用服務器，并沒有阻止，就會造成應用服務器流量過大。

所以，為了保證高可用，可以在“接入層”和“代理層”同時考慮限流的問題。

作為硬件負載均衡器，常在大企業(yè)使用。下面我們以 F5 公司的“F5 BIG-IP”產(chǎn)品為藍本給大家介紹(下面簡稱 F5)。

實際上它是一個集成的解決方案，對于研發(fā)的同學來說，主要理解其原理。

硬件負載均衡器三大功能

上面談到硬件負載均衡器的作用和特點，它具備哪三大功能?實現(xiàn)原理又是怎樣的?

①多鏈路負載均衡

關鍵業(yè)務都需要安排和配置多條 ISP(網(wǎng)絡服務供應商)接入鏈路來保證網(wǎng)絡服務的可靠性。

如果某個 ISP 停止服務或者服務異常了，那么可以利用另一個 ISP 替代服務，提高了網(wǎng)絡的可用性。

不同的 ISP 有不同自治域，因此需要考慮兩種情況：

• INBOUND
• OUTBOUND

INBOUND，來自網(wǎng)絡的請求信息。F5 分別綁定兩個 ISP 服務商的公網(wǎng)地址，解析來自兩個 ISP 服務商的 DNS 解析請求。

F5 可以根據(jù)服務器狀況和響應情況對 DNS 進行發(fā)送，也可以通過多條鏈路分別建立 DNS 連接。

OUTBOUND，返回給請求者的應答信息。F5 可以將流量分配到不同的網(wǎng)絡接口，并做源地址的 NAT(網(wǎng)絡地址轉換)，即通過 IP 地址轉換為源請求地址。

也可以用接口地址自動映射，保證數(shù)據(jù)包返回時能夠被源頭正確接收。

多路負載的方式增強了網(wǎng)絡接入層的可靠性

②防火墻負載均衡

針對大量網(wǎng)絡請求的情況，單一防火墻的能力就有限了，而且防火墻本身要求數(shù)據(jù)同進同出，為了解決多防火墻負載均衡的問題，F(xiàn)5 提出了防火墻負載均衡的“防火墻三明治"方案。

防火墻會對用戶會話的雙向數(shù)據(jù)流進行監(jiān)控，從而確定數(shù)據(jù)的合法性。如果采取多臺防火墻進行負載均衡，有可能會造成同一個用戶會話的雙向數(shù)據(jù)在多臺防火墻上都進行處理。

而單個防火墻上看不到完成用戶會話的信息，就會認為數(shù)據(jù)非法因此拋棄數(shù)據(jù)。

所以在每個防火墻的兩端要架設四層交換機，可以在作流量分發(fā)的同時，維持用戶會話的完整性，使同一用戶的會話由一個防火墻來處理。而這種場景就需要 F5 負載均衡器協(xié)助才能完成轉發(fā)。

有趣的是，F(xiàn)5 協(xié)調上述方案的配置和實現(xiàn)后，會把“交換機”，“防火墻”，“交換機”夾在了一起好像三明治一樣。

防火墻“三明治”

③服務器負載均衡

在硬件負載均衡器掛接多個應用服務器時，需要為這些服務做負載均衡，根據(jù)規(guī)則，讓請求發(fā)送到服務器上去：

• 對于服務器的負載均衡的前提是，服務器都提供同樣的服務，也就是同樣的業(yè)務同時部署在多個服務器上。
• 對于應用服務器可以在 F5 上配置并且實現(xiàn)負載均衡，F(xiàn)5 可以檢查服務器的健康狀態(tài)，如果發(fā)現(xiàn)故障，將其從負載均衡組中移除。
• F5 對于外網(wǎng)而言有一個真實的 IP，對于內網(wǎng)的每個服務器都生成一個虛擬 IP，進行負載均衡和管理工作。因此,它能夠為大量的基于 TCP/IP 的網(wǎng)絡應用提供服務器負載均衡服務。
• 根據(jù)服務類型不同定義不同的服務器群組。
• 根據(jù)不同服務端口將流量導向對應的服務器。甚至可以對 VIP 用戶的請求進行特殊的處理，把這類請求導入到高性能的服務器使 VIP 客戶得到最好的服務響應。
• 根據(jù)用戶訪問內容的不同將流量導向指定服務器。

優(yōu)缺點總結

聊完了硬件負載均衡器的特點和功能以后，讓我們來總結一下它的優(yōu)缺點：

• 優(yōu)點：直接連接交換機，處理網(wǎng)絡請求能力強，與系統(tǒng)無關，負載性能強。可以應用于大量設施，適應大訪問量、使用簡單。
• 缺點：成本高，配置冗余。即使網(wǎng)絡請求分發(fā)到服務器集群，負載均衡設施卻是單點配置;無法有效掌握服務器及應使用狀態(tài)。

軟件負載均衡

說完硬件負載均衡，再來談談軟件負載均衡。軟件負載均衡是指在一臺或多臺服務器的操作系統(tǒng)上安裝一個或多個軟件來實現(xiàn)負載均衡。

它的優(yōu)點是基于特定環(huán)境，配置簡單，使用靈活，成本低廉，可以滿足一般的負載均衡需求。

代理層通常起到承上啟下的作用，上連“接入層”，下接應用服務器(上游服務器)，可以做反向代理，緩存，數(shù)據(jù)驗證，限流。本文會一一為各位介紹。

目前市面上比較流行的軟件負載均衡有 LVS，HAProxy，Ngnix。由于篇幅有限我們通過應用廣泛的 Nginx 為切入點，給大家講解，之后會把上面三類軟件進行一個對比。

功能描述和原理分析

對于程序員來說，接觸最多的就是軟件負載均衡。不僅要知道如何使用，同時也要了解背后的原理，下面列舉了其最常用到的 4 大功能。

①反向代理與負載均衡

第一個功能是反向代理與負載均衡，如下圖：

客戶端是如何把請求發(fā)送到應用服務器的

客戶端把請求發(fā)送到應用服務器有如下幾個步驟：

• 客戶端請求 URL 給 DNS。
• DNS 將 URL 轉化成對應的 IP。
• 通過 IP 找到服務器。
• 服務器接受到請求的報文，轉交給接入層處理，接入層由于采用了硬件負載均衡器，所以能夠扛住大數(shù)據(jù)量。
• 接入層把報文再次轉交給代理層(并發(fā) 5W)，代理層的 Nginx 收到報文再根據(jù)反向代理的策略發(fā)送給上游服務器(應用服務器)。

負載均衡的算法/策略

實際上負載均衡的算法是很多的，這里以 Nginx 為例，介紹五種算法：

• Round-Robin：輪詢算法，默認算法。對上游的服務器進行挨個輪詢，這個算法是可以配合 Weight(權重)來實現(xiàn)的。
• Weight：權重算法，給應用服務器設置 Weight 的值。Weight 默認值為 1，Weight 參數(shù)越大被訪問的幾率越大?？梢愿鶕?jù)服務器的配置和資源情況配置 Weight 值，讓資源情況樂觀的服務器承擔更多的訪問量。
• IP-Hash：這個算法可以根據(jù)用戶 IP 進行負載均衡，同一 IP 的用戶端請求報文是會被同一臺上游服務器響應的。也就是讓同一客戶端的回話(Session)保持一致。
• Least_conn：把請求轉發(fā)給連接數(shù)較少的后端服務器。輪詢算法是把請求平均的轉發(fā)給各個后端，使它們的負載大致相同;但是，有些請求占用的時間很長，會導致其所在的后端負載較高。這種情況下，Least_conn 這種方式就可以達到更好的負載均衡效果。
• Hash Key：這個算法是對 Hash 算法的補充，主要是考慮當出現(xiàn)上游服務器增加/刪除的情況，請求無法正確的被同一服務器處理。

所以對每個請求都設置 Hash Key，這樣就算服務器發(fā)生了變化，Key 的值沒有變，也可以找到對應的服務器。

②動態(tài)負載均衡

一般上游服務器都采用微服務的架構，那么負載均衡會把數(shù)據(jù)報發(fā)給哪個服務呢?如果服務出現(xiàn)了問題如何通知負載均衡器呢?有新的服務注冊怎么辦呢?

動態(tài)負載均衡流程

微服務首先會注冊到“服務注冊發(fā)現(xiàn)”中心(Consul，Eureka)。注冊中心包含微服務的信息，Nginx 會定期從這里拉取服務信息(Lua)。

獲取微服務信息以后，Nginx 收到數(shù)據(jù)報的時候，就可以從注冊中心獲取的服務地址，把信息傳遞給服務了。

③限流

限流的工作可以在接入層用硬件負載均衡器來完成，也可以在代理層來完成。

限流實際上就是限制流入請求的數(shù)量，其算法不少，有令牌桶算法，漏桶算法，連接數(shù)限制等等。這里我們就介紹三個常用的。一般通過 Nignx+Lua 來實現(xiàn)。

連接數(shù)限流：通過 ngx_http_limit_conn_module 模塊實現(xiàn)。設置大的連接數(shù)以及共享內存的區(qū)域大小，請求的時候判斷是否超過了大連接數(shù)。

如果超過大連接數(shù)就被限流，否則針對連接數(shù)就 +1，請求結束以后會將連接數(shù) -1。

漏桶算法：通過 ngx_http_limit_req_module 模塊實現(xiàn)。一個固定容量的桶，數(shù)據(jù)報按照固定的速度流出。

數(shù)據(jù)報可以按照任意的速度流入桶中，如果數(shù)據(jù)報的容量超過了桶的容量，再流入的數(shù)據(jù)報將會被丟棄。

按照這個規(guī)則，需要設置限流的區(qū)域以及桶的容量，以及是否延遲。

漏桶策略

令牌桶算法，桶的大小是固定的，以固定的速度往桶里丟令牌。桶滿了后，后面添加的令牌無法添加。

數(shù)據(jù)報到來時從桶中取令牌，如果桶中有令牌，憑借令牌處理請求，處理完畢令牌銷毀;數(shù)據(jù)報到來時發(fā)現(xiàn)桶中沒令牌，該請求將被拒絕。

請求在發(fā)往令牌桶之前需要經(jīng)過過濾/分類器，可以對報文進行分類，例如：某類報文可以直接發(fā)往應用服務器，某類報文需要經(jīng)過令牌桶獲取令牌以后才能發(fā)。

又例如：VIP 就可以直接把請求發(fā)往服務器，用不著經(jīng)過令牌桶。

令牌桶示意圖

④緩存

Nginx 本地緩存機制

接入層發(fā)送請求，如果能夠在 Nginx 本地緩存命中，直接返回緩存數(shù)據(jù)，如果沒有命中回源到應用服務器。

緩存更新服務器定時更新 Nginx 本地緩存信息。這些需要考慮數(shù)據(jù)的一致性，何時更新以及何時失效等情況。

Nginx 緩存可以大大提高請求響應時間，可以把不經(jīng)常更改的信息，例如：用戶信息，提前放入緩存中，每次請求就不用再去請求應用服務器了。一旦用戶信息更新，可以按照一定時鐘頻率寫入緩存中。

另外，一般 HTTPHEAD 中都帶有一些信息更新的信息。Nginx 也可以通過 expires，etag，if-modified-since 來實現(xiàn)瀏覽器緩存的控制。

其他的幾個功能如下：

• 客戶端超時重試
• DNS 超時重試
• 代理超時重試
• 失敗重試
• 心跳檢測
• 配置上有服務器

流行的軟件負載均衡器

目前比較流行的有 LVS，Nginx 和 HAProxy，逐個看看他們的特點。

LVS

LVS(Linux Virtual Server) 是使用 Linux 內核集群實現(xiàn)的一個高性能、高可用的負載均衡服務器，它具有很好的可伸縮性(Scalability)、可靠性(Reliability)和可管理性(Manageability)。

LVS 特點是：

• 僅作分發(fā)之用，即把請求直接分發(fā)給應用服務器，因此沒有流量的產(chǎn)生，對資源的消耗低。
• 配置簡單，能夠配置的項目少。
• 工作在第四層(傳輸層)，支持 TCP/UDP，對應用的支持廣泛。

HAProxy

HAProxy 實現(xiàn)了一種事件驅動，單一進程模型，此模型支持非常大的并發(fā)連接數(shù)。

多進程或多線程模型受內存限制 、系統(tǒng)調度器限制以及無處不在的鎖限制，很少能處理數(shù)千并發(fā)連接。

HAProxy 特點是：

• 支持虛擬主機。
• 支持 Session 保持，Cookie 引導。
• 通過指定的 URL 來檢測應用服務器的狀態(tài)。
• 支持 TCP/HTTP 協(xié)議轉發(fā)。

Nginx

Nginx 是一款輕量級的 Web 服務器/反向代理服務器及電子郵件(IMAP/POP3)代理服務器，并在一個 BSD-like 協(xié)議下發(fā)行。

Nginx 特點是：

• 工作在網(wǎng)絡的 4/7 層，對 HTTP 應用做負載均衡策略，如：域名、目錄結構。
• 對網(wǎng)絡的穩(wěn)定性依賴小，可以區(qū)分內網(wǎng)和外網(wǎng)的訪問。
• 安裝和配置相對簡單。
• 能承受很高負載且穩(wěn)定，處理的流量依賴于按照 Nginx 服務器的配置。
• 可以檢測服務器的問題，可以對服務器返回的信息進行處理和過濾，避免讓無法工作的服務器響應請求。
• 對請求可以進行異步處理。
• 支持 HTTP、HTTPS 和 EMAIL。

網(wǎng)絡負載均衡的技術選型

既然上面對軟/硬件負載均衡有了總體的了解，那么按照“技術服務業(yè)務”的原則，在業(yè)務發(fā)展的不同階段，如何使用這兩類負載均衡技術呢?

發(fā)展階段

企業(yè)業(yè)務從 0 到 1，從無到有，數(shù)據(jù)量和訪問量都不大。Nginx 或 HAProxy 進行單點的負載均衡就已經(jīng)足夠了。

這階段剛剛采用多臺應用服務器、數(shù)據(jù)庫，需要一定的負載均衡做支撐。由于業(yè)務量不大，所以沒有專業(yè)的維護團隊來維護，也沒有大規(guī)模的網(wǎng)站部署的需求。

因此 Nginx 或 HAproxy 是第一選擇，因為其上手快， 配置容易，在七層之上利用 HTTP 協(xié)議就能滿足要求了。

擴張階段

隨著業(yè)務量增大，用戶訪問和交易量也在逐步增加，這時單點的 Nginx 或 HAProxy 已經(jīng)無法滿足之前的需求了。

使用 LVS 或者硬件負載均衡(F5/Array)就是架構師需要考慮的問題了，Nginx 此時就作為 LVS 或者硬件負載均衡(F5/Array)的節(jié)點來處理。

軟件負載均衡+硬件負載均衡的架構配置在這個階段就需要考慮了，也是對架構設計者的挑戰(zhàn)。

成熟階段

隨著公司業(yè)務擴張到達頂峰，之前的網(wǎng)絡服務已經(jīng)升級成主流服務產(chǎn)品，需要考慮在開源產(chǎn)品上進行業(yè)務定制，所以開源的 LVS，已經(jīng)成為選。其在深度定制之后依舊會和硬件負載均衡器配合完成業(yè)務服務。

總結

今天內容比較多，總結下來，三句話：

• 硬件和軟件負載均衡，分別工作在“接入層”和“代理層”。
• 一個專注于網(wǎng)絡，負責多鏈路，防火墻以及服務器的負載均衡，例如：F5 BIG-IP。
• 另一個偏向于業(yè)務，主要功能是反向代理，動態(tài)代理，緩存，限流，例如：LVS，Nginx，HAProxy。

網(wǎng)站題目：想實現(xiàn)高可用？先搞定負載均衡原理
URL標題：http://aaarwkj.com/news20/99570.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供品牌網(wǎng)站建設、網(wǎng)站排名、搜索引擎優(yōu)化、商城網(wǎng)站、用戶體驗、定制開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)