深入淺出負(fù)載均衡

作者：vivo互聯(lián)網(wǎng)團(tuán)隊(duì)-Zhang Peng

• 應(yīng)用集群：將同一應(yīng)用部署到多臺機(jī)器上，組成處理集群，接收負(fù)載均衡設(shè)備分發(fā)的請求，進(jìn)行處理，并返回相應(yīng)數(shù)據(jù)。
• 負(fù)載均衡：將用戶訪問請求，通過某種算法，分發(fā)到集群中的節(jié)點(diǎn)。

高并發(fā)：負(fù)載均衡通過算法調(diào)整負(fù)載，盡力均勻的分配應(yīng)用集群中各節(jié)點(diǎn)的工作量，以此提高應(yīng)用集群的并發(fā)處理能力（吞吐量）。
伸縮性：添加或減少服務(wù)器數(shù)量，然后由負(fù)載均衡進(jìn)行分發(fā)控制。這使得應(yīng)用集群具備伸縮性。
高可用：負(fù)載均衡器可以監(jiān)控候選服務(wù)器，當(dāng)服務(wù)器不可用時，自動跳過，將請求分發(fā)給可用的服務(wù)器。這使得應(yīng)用集群具備高可用的特性。
安全防護(hù)：有些負(fù)載均衡軟件或硬件提供了安全性功能，如：黑白名單處理、防火墻，防 DDos 攻擊等。

支持負(fù)載均衡的技術(shù)很多，我們可以通過不同維度去進(jìn)行分類。
2.1 載體維度分類
從支持負(fù)載均衡的載體來看，可以將負(fù)載均衡分為兩類：硬件負(fù)載均衡、軟件負(fù)載均衡
2.1.1硬件負(fù)載均衡
硬件負(fù)載均衡，一般是在定制處理器上運(yùn)行的獨(dú)立負(fù)載均衡服務(wù)器，價格昂貴，土豪專屬。硬件負(fù)載均衡的主流產(chǎn)品有:F5 和 A10。
硬件負(fù)載均衡的 優(yōu)點(diǎn)：

• 功能強(qiáng)大：支持全局負(fù)載均衡并提供較全面的、復(fù)雜的負(fù)載均衡算法。
• 性能強(qiáng)悍：硬件負(fù)載均衡由于是在專用處理器上運(yùn)行，因此吞吐量大，可支持單機(jī)百萬以上的并發(fā)。
• 安全性高：往往具備防火墻，防 DDos 攻擊等安全功能。

• 成本昂貴：購買和維護(hù)硬件負(fù)載均衡的成本都很高。
• 擴(kuò)展性差：當(dāng)訪問量突增時，超過限度不能動態(tài)擴(kuò)容。

• LVS 可以作為四層負(fù)載均衡器。其負(fù)載均衡的性能要優(yōu)于 Nginx。
• HAProxy 可以作為 HTTP 和 TCP 負(fù)載均衡器。
• Nginx、HAProxy 可以作為四層或七層負(fù)載均衡器。

• 擴(kuò)展性好：適應(yīng)動態(tài)變化，可以通過添加軟件負(fù)載均衡實(shí)例，動態(tài)擴(kuò)展到超出初始容量的能力。
• 成本低廉：軟件負(fù)載均衡可以在任何標(biāo)準(zhǔn)物理設(shè)備上運(yùn)行，降低了購買和運(yùn)維的成本。

• 性能略差：相比于硬件負(fù)載均衡，軟件負(fù)載均衡的性能要略低一些。

• DNS 重定向
• HTTP 重定向
• 反向代理

• 修改 IP 地址
• 修改 MAC 地址

使用簡單：負(fù)載均衡工作，交給 DNS 服務(wù)器處理，省掉了負(fù)載均衡服務(wù)器維護(hù)的麻煩
提高性能：可以支持基于地址的域名解析，解析成距離用戶最近的服務(wù)器地址（類似 CDN 的原理），可以加快訪問速度，改善性能；

可用性差：DNS 解析是多級解析，新增/修改 DNS 后，解析時間較長；解析過程中，用戶訪問網(wǎng)站將失?。?/span>
擴(kuò)展性低：DNS 負(fù)載均衡的控制權(quán)在域名商那里，無法對其做更多的改善和擴(kuò)展；
維護(hù)性差：也不能反映服務(wù)器的當(dāng)前運(yùn)行狀態(tài)；支持的算法少；不能區(qū)分服務(wù)器的差異（不能根據(jù)系統(tǒng)與服務(wù)的狀態(tài)來判斷負(fù)載）。

性能較差：每次訪問需要兩次請求服務(wù)器，增加了訪問的延遲。
降低搜索排名：使用重定向后，搜索引擎會視為 SEO 作弊。
如果負(fù)載均衡器宕機(jī)，就無法訪問該站點(diǎn)。

正向代理：發(fā)生在 客戶端，是由用戶主動發(fā)起的。翻墻軟件就是典型的正向代理，客戶端通過主動訪問代理服務(wù)器，讓代理服務(wù)器獲得需要的外網(wǎng)數(shù)據(jù)，然后轉(zhuǎn)發(fā)回客戶端。
反向代理：發(fā)生在 服務(wù)端，用戶不知道代理的存在。

反向代理是如何實(shí)現(xiàn)負(fù)載均衡的呢？以 Nginx 為例，如下所示：

首先，在代理服務(wù)器上設(shè)定好負(fù)載均衡規(guī)則。然后，當(dāng)收到客戶端請求，反向代理服務(wù)器攔截指定的域名或 IP 請求，根據(jù)負(fù)載均衡算法，將請求分發(fā)到候選服務(wù)器上。其次，如果某臺候選服務(wù)器宕機(jī)，反向代理服務(wù)器會有容錯處理，比如分發(fā)請求失敗 3 次以上，將請求分發(fā)到其他候選服務(wù)器上。
反向代理的 優(yōu)點(diǎn)：

1) 多種負(fù)載均衡算法：支持多種負(fù)載均衡算法，以應(yīng)對不同的場景需求。
2) 可以監(jiān)控服務(wù)器：基于 HTTP 協(xié)議，可以監(jiān)控轉(zhuǎn)發(fā)服務(wù)器的狀態(tài)，如：系統(tǒng)負(fù)載、響應(yīng)時間、是否可用、連接數(shù)、流量等，從而根據(jù)這些數(shù)據(jù)調(diào)整負(fù)載均衡的策略。

1) 額外的轉(zhuǎn)發(fā)開銷：反向代理的轉(zhuǎn)發(fā)操作本身是有性能開銷的，可能會包括創(chuàng)建連接，等待連接響應(yīng)，分析響應(yīng)結(jié)果等操作。

2) 增加系統(tǒng)復(fù)雜度：反向代理常用于做分布式應(yīng)用的水平擴(kuò)展，但反向代理服務(wù)存在以下問題，為了解決以下問題會給系統(tǒng)整體增加額外的復(fù)雜度和運(yùn)維成本：

• 反向代理服務(wù)如果自身宕機(jī)，就無法訪問站點(diǎn)，所以需要有 高可用 方案，常見的方案有：主備模式（一主一備）、雙主模式（互為主備）。
  
  
• 反向代理服務(wù)自身也存在性能瓶頸，隨著需要轉(zhuǎn)發(fā)的請求量不斷攀升，需要有 可擴(kuò)展 方案。

客戶端請求 192.168.137.10，由負(fù)載均衡服務(wù)器接收到報(bào)文。
負(fù)載均衡服務(wù)器根據(jù)算法選出一個服務(wù)節(jié)點(diǎn) 192.168.0.1，然后將報(bào)文請求地址改為該節(jié)點(diǎn)的 IP。
真實(shí)服務(wù)節(jié)點(diǎn)收到請求報(bào)文，處理后，返回響應(yīng)數(shù)據(jù)到負(fù)載均衡服務(wù)器。
負(fù)載均衡服務(wù)器將響應(yīng)數(shù)據(jù)的源地址改負(fù)載均衡服務(wù)器地址，返回給客戶端。

當(dāng)用戶訪問 www.sina.com.cn 時，用戶數(shù)據(jù)通過層層網(wǎng)絡(luò)，最后通過交換機(jī)進(jìn)入 LVS 服務(wù)器網(wǎng)卡，并進(jìn)入內(nèi)核網(wǎng)絡(luò)層。

進(jìn)入 PREROUTING 后經(jīng)過路由查找，確定訪問的目的 VIP 是本機(jī) IP 地址，所以數(shù)據(jù)包進(jìn)入到 INPUT 鏈上

IPVS 是工作在 INPUT 鏈上，會根據(jù)訪問的 vip port 判斷請求是否 IPVS 服務(wù)，如果是則調(diào)用注冊的 IPVS HOOK 函數(shù)，進(jìn)行 IPVS 相關(guān)主流程，強(qiáng)行修改數(shù)據(jù)包的相關(guān)數(shù)據(jù)，并將數(shù)據(jù)包發(fā)往 POSTROUTING 鏈上。

POSTROUTING 上收到數(shù)據(jù)包后，根據(jù)目標(biāo) IP 地址（后端服務(wù)器），通過路由選路，將數(shù)據(jù)包最終發(fā)往后端的服務(wù)器上。

負(fù)載均衡器的實(shí)現(xiàn)可以分為兩個部分：

根據(jù)負(fù)載均衡算法在候選服務(wù)器列表選出一個服務(wù)器;
將請求數(shù)據(jù)發(fā)送到該服務(wù)器上。