1. Linux Virtual Server項目

針對高可伸縮、高可用網絡服務的需求，我們給出了基于IP層和基于內容請求分發的負載平衡調度解決方法，并在Linux內核中實現了這些方法，將一組服務器構成一個實現可伸縮的、高可用網絡服務的虛擬服務器。

[[278786]]

虛擬服務器的體系結構如圖2所示，一組服務器通過高速的局域網或者地理分布的廣域網相互連接，在它們的前端有一個負載調度器(Load Balancer)。負載調度器能無縫地將網絡請求調度到真實服務器上，從而使得服務器集群的結構對客戶是透明的，客戶訪問集群系統提供的網絡服務就像訪 問一臺高性能、高可用的服務器一樣。客戶程序不受服務器集群的影響不需作任何修改。系統的伸縮性通過在服務機群中透明地加入和刪除一個節點來達到，通過檢 測節點或服務進程故障和正確地重置系統達到高可用性。由于我們的負載調度技術是在Linux內核中實現的，我們稱之為Linux虛擬服務器(Linux Virtual Server)。

圖2：虛擬服務器的結構

在1998年5月，我成立了Linux Virtual Server的自由軟件項目，進行Linux服務器集群的開發工作。同時，Linux Virtual Server項目是國內最早出現的自由軟件項目之一。

Linux Virtual Server項目的目標 ：使用集群技術和Linux操作系統實現一個高性能、高可用的服務器，它具有很好的可伸縮性(Scalability)、可靠性(Reliability)和可管理性(Manageability)。

目前，LVS項目已提供了一個實現可伸縮網絡服務的Linux Virtual Server框架，如圖3所示。在LVS框架中，提供了含有三種IP負載均衡技術的IP虛擬服務器軟件IPVS、基于內容請求分發的內核Layer-7交 換機KTCPVS和集群管理軟件。可以利用LVS框架實現高可伸縮的、高可用的Web、Cache、Mail和Media等網絡服務;在此基礎上，可以開 發支持龐大用戶數的、高可伸縮的、高可用的電子商務應用。

圖3：Linux虛擬服務器框架

3.1 IP虛擬服務器軟件IPVS

在調度器的實現技術中，IP負載均衡技術是效率最高的。在已有的IP負載均衡技術中有通過網絡地址轉換(Network Address Translation)將一組服務器構成一個高性能的、高可用的虛擬服務器，我們稱之為VS/NAT技術(Virtual Server via Network Address Translation)，大多數商品化的IP負載均衡調度器產品都是使用此方法，如Cisco的LocalDirector、F5的Big/IP和 Alteon的ACEDirector。在分析VS/NAT的缺點和網絡服務的非對稱性的基礎上，我們提出通過IP隧道實現虛擬服務器的方法VS/TUN (Virtual Server via IP Tunneling)，和通過直接路由實現虛擬服務器的方法VS/DR(Virtual Server via Direct Routing)，它們可以極大地提高系統的伸縮性。所以，IPVS軟件實現了這三種IP負載均衡技術，它們的大致原理如下(我們將在其他章節對其工作原 理進行詳細描述)，

Virtual Server via Network Address Translation(VS/NAT)

通過網絡地址轉換，調度器重寫請求報文的目標地址，根據預設的調度算法，將請求分派給后端的真實服務器;真實服務器的響應報文通過調度器時，報文的源地址被重寫，再返回給客戶，完成整個負載調度過程。

Virtual Server via IP Tunneling(VS/TUN)

采用NAT技術時，由于請求和響應報文都必須經過調度器地址重寫，當客戶請求越來越多時，調度器的處理能力將成為瓶頸。為了解決這個問題，調度器把請求報 文通過IP隧道轉發至真實服務器，而真實服務器將響應直接返回給客戶，所以調度器只處理請求報文。由于一般網絡服務應答比請求報文大許多，采用 VS/TUN技術后，集群系統的最大吞吐量可以提高10倍。

Virtual Server via Direct Routing(VS/DR)

VS/DR通過改寫請求報文的MAC地址，將請求發送到真實服務器，而真實服務器將響應直接返回給客戶。同VS/TUN技術一樣，VS/DR技術可極大地 提高集群系統的伸縮性。這種方法沒有IP隧道的開銷，對集群中的真實服務器也沒有必須支持IP隧道協議的要求，但是要求調度器與真實服務器都有一塊網卡連 在同一物理網段上。

針對不同的網絡服務需求和服務器配置，IPVS調度器實現了如下八種負載調度算法：

輪叫(Round Robin)

調度器通過"輪叫"調度算法將外部請求按順序輪流分配到集群中的真實服務器上，它均等地對待每一臺服務器，而不管服務器上實際的連接數和系統負載。

加權輪叫(Weighted Round Robin)

調度器通過"加權輪叫"調度算法根據真實服務器的不同處理能力來調度訪問請求。這樣可以保證處理能力強的服務器處理更多的訪問流量。調度器可以自動問詢真實服務器的負載情況，并動態地調整其權值。

最少鏈接(Least Connections)

調度器通過"最少連接"調度算法動態地將網絡請求調度到已建立的鏈接數最少的服務器上。如果集群系統的真實服務器具有相近的系統性能，采用"最小連接"調度算法可以較好地均衡負載。

加權最少鏈接(Weighted Least Connections)

在集群系統中的服務器性能差異較大的情況下，調度器采用"加權最少鏈接"調度算法優化負載均衡性能，具有較高權值的服務器將承受較大比例的活動連接負載。調度器可以自動問詢真實服務器的負載情況，并動態地調整其權值。

基于局部性的最少鏈接(Locality-Based Least Connections)

"基于局部性的最少鏈接" 調度算法是針對目標IP地址的負載均衡，目前主要用于Cache集群系統。該算法根據請求的目標IP地址找出該目標IP地址最近使用的服務器，若該服務器 是可用的且沒有超載，將請求發送到該服務器;若服務器不存在，或者該服務器超載且有服務器處于一半的工作負載，則用"最少鏈接"的原則選出一個可用的服務 器，將請求發送到該服務器。

帶復制的基于局部性最少鏈接(Locality-Based Least Connections with Replication)

"帶復制的基于局部性最少鏈接"調度算法也是針對目標IP地址的負載均衡，目前主要用于Cache集群系統。它與LBLC算法的不同之處是它要維護從一個 目標IP地址到一組服務器的映射，而LBLC算法維護從一個目標IP地址到一臺服務器的映射。該算法根據請求的目標IP地址找出該目標IP地址對應的服務 器組，按"最小連接"原則從服務器組中選出一臺服務器，若服務器沒有超載，將請求發送到該服務器，若服務器超載;則按"最小連接"原則從這個集群中選出一 臺服務器，將該服務器加入到服務器組中，將請求發送到該服務器。同時，當該服務器組有一段時間沒有被修改，將最忙的服務器從服務器組中刪除，以降低復制的 程度。

目標地址散列(Destination Hashing)

"目標地址散列"調度算法根據請求的目標IP地址，作為散列鍵(Hash Key)從靜態分配的散列表找出對應的服務器，若該服務器是可用的且未超載，將請求發送到該服務器，否則返回空。

源地址散列(Source Hashing)

"源地址散列"調度算法根據請求的源IP地址，作為散列鍵(Hash Key)從靜態分配的散列表找出對應的服務器，若該服務器是可用的且未超載，將請求發送到該服務器，否則返回空。

3.2 內核Layer-7交換機KTCPVS

在基于IP負載調度技術中，當一個TCP連接的初始SYN報文到達時，調度器就選擇一臺服務器，將報文轉發給它。此后通過查發報文的IP和TCP報文頭地 址，保證此連接的后繼報文被轉發到該服務器。這樣，IPVS無法檢查到請求的內容再選擇服務器，這就要求后端服務器組提供相同的服務，不管請求被發送到哪 一臺服務器，返回結果都是一樣的。但是，在有些應用中后端服務器功能不一，有的提供HTML文檔，有的提供圖片，有的提供CGI，這就需要基于內容的調度 (Content-Based Scheduling)。

由于用戶空間TCP Gateway的開銷太大，我們提出在操作系統的內核中實現Layer-7交換方法，來避免用戶空間與核心空間的切換和內存復制的開銷。在Linux操作系統的內核中，我們實現了Layer-7交換，稱之為KTCPVS(Kernel TCP Virtual Server)。目前，KTCPVS已經能對HTTP請求進行基于內容的調度，但它還不很成熟，在其調度算法和各種協議的功能支持等方面，有大量的工作需要做。

雖然應用層交換處理復雜，它的伸縮性有限，但應用層交換帶來以下好處：

• 相同頁面的請求被發送到同一服務器，可以提高單臺服務器的Cache命中率。
• 一些研究[5]表明WEB訪問流中存在局部性。Layer-7交換可以充分利用訪問的局部性，將相同類型的請求發送到同一臺服務器，使得每臺服務器收到的請求具有更好的相似性，可進一步提高單臺服務器的Cache命中率。
• 后端服務器可運行不同類型的服務，如文檔服務，圖片服務，CGI服務和數據庫服務等。

2. LVS集群的特點

LVS集群的特點可以歸結如下：

功能

有實現三種IP負載均衡技術和八種連接調度算法的IPVS軟件。在IPVS內部實現上，采用了高效的Hash函數和垃圾回收機制，能正確處理所調度報文相 關的ICMP消息(有些商品化的系統反而不能)。虛擬服務的設置數目沒有限制，每個虛擬服務有自己的服務器集。它支持持久的虛擬服務(如HTTP Cookie和HTTPS等需要該功能的支持)，并提供詳盡的統計數據，如連接的處理速率和報文的流量等。針對大規模拒絕服務(Deny of Service)攻擊，實現了三種防衛策略。

有基于內容請求分發的應用層交換軟件KTCPVS，它也是在Linux內核中實現。有相關的集群管理軟件對資源進行監測，能及時將故障屏蔽，實現系統的高可用性。主、從調度器能周期性地進行狀態同步，從而實現更高的可用性。

適用性

后端服務器可運行任何支持TCP/IP的操作系統，包括Linux，各種Unix(如FreeBSD、Sun Solaris、HP Unix等)，Mac/OS和Windows NT/2000等。

負載調度器能夠支持絕大多數的TCP和UDP協議：

協議內 容TCPHTTP，FTP，PROXY，SMTP，POP3，IMAP4，DNS，LDAP，HTTPS，SSMTP等UDPDNS，NTP，ICP，視頻、音頻流播放協議等無需對客戶機和服務器作任何修改，可適用大多數Internet服務。

性能

LVS服務器集群系統具有良好的伸縮性，可支持幾百萬個并發連接。配置100M網卡，采用VS/TUN或VS/DR調度技術，集群系統的吞吐量可高達1Gbits/s;如配置千兆網卡，則系統的最大吞吐量可接近10Gbits/s。

可靠性

LVS服務器集群軟件已經在很多大型的、關鍵性的站點得到很好的應用，所以它的可靠性在真實應用得到很好的證實。有很多調度器運行一年多，未作一次重啟動。

軟件許可證

LVS集群軟件是按GPL(GNU Public License)許可證發行的自由軟件，這意味著你可以得到軟件的源代碼，有權對其進行修改，但必須保證你的修改也是以GPL方式發行。