此圖例及以下圖例均來自于互聯(lián)網(wǎng)資源

　　作為運營商級通信系統(tǒng)或者企業(yè)級的通信系統(tǒng)，OpenSIPS和Kamailio在市場上有很多的部署案例。它們可以作為媒體服務(wù)器的前端服務(wù)器實現(xiàn)很多的信令和會話路由功能。均衡負(fù)載是它們其中一個重要的功能。今天，筆者針對基于以上兩種開源SIP軟交換通過SIP信令方面的均衡負(fù)載以及其新的三種算法優(yōu)化做一些分享。

　　大家可能知道，因為這些開源項目本身不是B2BUA，即使OpenSIPS的B2BUA模塊也僅能實現(xiàn)基礎(chǔ)的RTP媒體處理，這些開源的SIP服務(wù)器可以作為一個簡單的SBC。因為它們?nèi)狈γ襟w服務(wù)器的支持能力，需要借助第三方來構(gòu)建RTP媒體處理能力來實現(xiàn)SBC的“部分功能”。但是，如果用戶真正完全實現(xiàn)商業(yè)化部署仍然需要一個完整的SBC解決方案來，SBC還需要強大的媒體處理能力滿足現(xiàn)在實時語音通信的要求。因此，SBC除了實現(xiàn)SIP呼叫信令本身的均衡負(fù)載，還要支持很多用戶需要的通過語音質(zhì)量分析QoS/MOS/PDD實現(xiàn)的智能語音路由功能。最終，一個完整的均衡負(fù)載機制，不僅僅支持對呼叫本身的均衡負(fù)載處理，而且結(jié)合RTP媒體語音智能路由才能實現(xiàn)一個全功能完整的基于SIP均衡負(fù)載解決方案。

　　筆者在以下章節(jié)中將重點介紹基于開源SIP服務(wù)器Kamailio/OpenSIPS的均衡負(fù)載的默認(rèn)輪詢算法和其局限性，并且分享研究人員發(fā)表的關(guān)于均衡負(fù)載三種新算法（Call-Join-Shortest-Queue，Transaction-Join-Shortest-Queue 和Transaction-Least-Work-Left ）的優(yōu)缺點以及其測試結(jié)果分享，最后分享關(guān)于SBC均衡負(fù)載解決方案中使用SIP呼叫信令均衡負(fù)載結(jié)合語音分析智能路由的思路。

　　這里，筆者首先介紹一些關(guān)于均衡負(fù)載的早期算法和一些基于業(yè)務(wù)層面的負(fù)載的說明，使讀者能夠了解其他后續(xù)章節(jié)的討論。從一般意義來說，均衡負(fù)載主要是針對呼叫數(shù)量做均衡處理，確保呼叫發(fā)起方和呼叫接收方之間的呼叫能夠通過不同負(fù)載服務(wù)器之間的資源平衡，保證平臺負(fù)荷在一個合理的承受范圍之內(nèi)，維持呼叫和平臺的穩(wěn)定性。SIP均衡負(fù)載包括開源SIP軟交換基本上使用以下四種均衡負(fù)載的處理方式：

　　OpenSIPS學(xué)習(xí)筆記-負(fù)載均衡模塊概要，示例配置，會議服務(wù)器部署面對的挑戰(zhàn)，LB選擇資源的4個邏輯流程詳解

　　在基于SIP服務(wù)器端使用均衡負(fù)載模塊處理SIP請求時，一般用戶都使用默認(rèn)的服務(wù)器本身的模塊來處理，也有一些非常專業(yè)的用戶需要對服務(wù)器進行更多優(yōu)化以達到更高的性能來滿足業(yè)務(wù)需求。所以，他們可能對某些算法進行優(yōu)化。在SIP均衡負(fù)載的處理中，均衡負(fù)載策略算法是一個非常核心的處理流程，它的算法是否能夠應(yīng)對非常靈活的處理環(huán)境是決定SIP服務(wù)器性能的一個重要指標(biāo)。

　　開源SIP服務(wù)器Kamalio或者OpenSIPS的官方說明中，它們一般使用吞吐量來說明其執(zhí)行性能，例如CPS等。除了CPS以外，響應(yīng)時間也是非常重要的性能指標(biāo)，響應(yīng)時間也可以作為衡量性能的技術(shù)指標(biāo)。運營商級客戶對各種響應(yīng)時間有專門的KPI指標(biāo)考核參數(shù)。關(guān)于各種響應(yīng)時間的討論讀者可以參考：

　　完整RFC6076-端對端SIP網(wǎng)絡(luò)九大性能評價指標(biāo)（KPI）概論和時延產(chǎn)生其他因素的相關(guān)性討論

　　在關(guān)于吞吐量處理方面，除了數(shù)據(jù)庫存儲，系統(tǒng)物理資源和模塊設(shè)置優(yōu)化以外，均衡負(fù)載的算法也決定著吞吐量的指標(biāo)。在接下來，筆者會根據(jù)一些研究人員針對開源SIP服務(wù)器的均衡負(fù)載算法的優(yōu)化和改進對吞吐量和響應(yīng)時間的測試結(jié)果做更多分享。

　　如果我們要討論SIP呼叫的均衡負(fù)載，我們首先需要了解SIP呼叫的相關(guān)基本概念。讀者可能都知道，SIP呼叫是基于會話處理流程的。一個整個完整的呼叫是通過INVITE發(fā)起，呼叫需要經(jīng)過多種流程進行處理，包括認(rèn)證簽權(quán)，查詢，更新定時器等，然后通過BYE來拆線，最后結(jié)束呼叫。在一個完整的正常呼叫中，INVITE事務(wù)和BYE事務(wù)是兩個最重要的事務(wù)。另外，因為發(fā)起一個INVITE呼叫流程，其處理過程會占用上面所說的很多資源。因此，INVITE事務(wù)和BYE的事務(wù)類型所消耗的資源是完全不同的。在整個呼叫的資源占用比中，INVITE事務(wù)處理所需要的資源占比超過了70%,  BYE事務(wù)占比則很少。研究人員的基本原則是優(yōu)化一個正常的SIP呼叫中的事務(wù)流程，主要針對INVITE事務(wù)和BYE事務(wù)處理的流程進行均衡負(fù)載優(yōu)化。在具體的算法優(yōu)化討論中，一個SIP呼叫需要針對call，dialog，會話和事務(wù)等方面的優(yōu)化處理。因此，SIP均衡負(fù)載算法優(yōu)化的基本設(shè)計原則就是通過優(yōu)化INVITE事務(wù)的處理流程，增加系統(tǒng)的吞吐量，并且盡可能地降低響應(yīng)時間，以達到系統(tǒng)的最佳處理能力。必須說明，在討論這些新的算法之前，讀者必須對我們討論的問題做基本了解，包括call，dialog，會話和事務(wù)概念等。如果讀者需要了解更多關(guān)于call，dialog和Transaction的詳解的話，可以參考以下文章：

　

　　針對SIP服務(wù)器的均衡負(fù)載策略或者算法來說，目前使用比較多的包括Round Robin-RR, Call-Join-Shortest-Queue（CJSQ），Transaction-Join-Shortest-Queue （TJSQ）和Transaction-Least-Work-Left （TLWL）。在以上算法中，第一種是kamailio和OpenSIPS默認(rèn)支持的算法，以上后三種算法是Hongbo Jiang 針對Kamailio默認(rèn)算法基礎(chǔ)上中提出三種新的算法。這里補充說明，因為早期的Kamailio還是OpenSIPS，它們的均衡負(fù)載的處理機制基本上相同，因此，筆者在本文章的后續(xù)章節(jié)中不再區(qū)分Kamailio還是OpenSIPS環(huán)境下的LB均衡負(fù)載模塊。

　　在針對開源SIP服務(wù)器的LB模塊的優(yōu)化方面，最近幾年OpenSIPS做了相對比較多的優(yōu)化和更新，增加了很多動態(tài)實時的處理流程，整體處理性能可能有比較大的提升。關(guān)于OpenSIPS最新的處理流程的介紹，建議讀者參考以上鏈接或者參考官方文檔。這里，我們主要針對Hongbo Jiang和IBM研究院研究人員針對均衡負(fù)載中算法策略的優(yōu)化進行討論。以下圖例是研究人員的算法框架。

　　

　　SIP服務(wù)器均衡負(fù)載算法架構(gòu)

　　Round Robin-RR，按照輪詢方式對新呼叫進行分配。Kamailio或OpenSIPS默認(rèn)支持的輪詢方式。筆者建議讀者參考官方文檔獲得更多關(guān)于RR算法和使用方式的說明。

　　Call-Join-Shortest-Queue（CJSQ），記錄跟蹤所有呼叫（call或者session），分配所有呼叫到每個后臺服務(wù)器，并且路由新呼叫到最少活動呼叫的節(jié)點服務(wù)器。此算法僅關(guān)注到了call或session級別的數(shù)據(jù)優(yōu)化，它本身無法對一個呼叫的transaction 事務(wù)進行更多細節(jié)處理。

　　Transaction-Join-Shortest-Queue （TJSQ），路由新呼叫到SIP服務(wù)器，并且此服務(wù)器目前具有最少活動事務(wù)（Transaction），而不是最少呼叫（call/session）。此算法就是對CJSQ算法的提升優(yōu)化，通過對一個SIP呼叫的INVITE事務(wù)和BYE事務(wù)進行分解，結(jié)合各種呼叫變量進一步優(yōu)化其均衡負(fù)載算法。它仍然有其缺點。因為INVITE事務(wù)進入狀態(tài)機的處理流程和非INVITE事務(wù)進入狀態(tài)機的流程的復(fù)雜程度不同，所以它們所消耗的資源也完全不同，缺乏對資源比例消耗的進一步控制和處理。關(guān)于事務(wù)處理的流程和非INVITE狀態(tài)機等處理策略，讀者參考RFC3261-17。

　　Transaction-Least-Work-Left （TLWL），此算法路由新的SIP呼叫到一個服務(wù)器，此SIP服務(wù)器目前承擔(dān)最小工作負(fù)載，此負(fù)載是基于相關(guān)事務(wù)交互成本計算的結(jié)果，通過此結(jié)果進行呼叫路由。此說法利用了INVITE事務(wù)比BYE事務(wù)處理成本相對比較高的基本原理，進行資源分配就是而來。在此研究報告中，INVITE事務(wù)和BYE事務(wù)之間的成本比例是1.75:1時， 這樣會取得服務(wù)器性能的最佳峰值。以下是研究人員的技術(shù)架構(gòu)實例圖和相關(guān)系統(tǒng)軟硬件配置。

　　

　　測試環(huán)境配置

　　

　　研究人員在2012年發(fā)布的論文中，使用開源壓力測試工具SIPp和通過對開源SIP服務(wù)器OpenSER（Kamailio和OpenSIPS的早期版本）添加了三種算法功能，使用硬件設(shè)備，通過配置集群服務(wù)器方式針對四種均衡負(fù)載算法進行了針對SIP均衡負(fù)載吞吐量（CPS）和響應(yīng)時間的測試。在其測試結(jié)果中，無論從SIP服務(wù)器的吞吐量，響應(yīng)時間和相關(guān)網(wǎng)絡(luò)，CPU資源消耗來說，TLWL的算法無疑是幾種算法中的一種最佳的算法。

　　各種算法測試中的峰值吞吐量結(jié)果

　　

　　各種算法中針對INVITE事務(wù)處理的平均響應(yīng)時間結(jié)果

　　

　　各種算法中針對BYE事務(wù)處理的平均響應(yīng)時間結(jié)果

　　Abdullah Akbar也進行了同樣的研究測試，他/她使用Kamailio對以上算法進行了測試對比試驗。其基礎(chǔ)平臺使用Kamailio，并且對dispatcher 調(diào)度模塊進行了修改，使用以上算法結(jié)合SIPp壓力測試工具進行了測試。測試架構(gòu)和其使用的硬件環(huán)境包括：

　　

　　各種算法環(huán)境中的SIP服務(wù)器的吞吐量對比，TLWL結(jié)果最高。

　　

　　各種算法環(huán)境下的BYE消息響應(yīng)時間對比中，TLWL響應(yīng)時間最低。

　

　　通過以上兩個研究團隊針對開源SIP軟交換的測試結(jié)果來看，TLWL的均衡負(fù)載結(jié)果對比其他負(fù)載算法來說，整體測試性能是最好的。這里我們需要說明，雖然當(dāng)時兩個研究團隊在測試部署時使用的環(huán)境包括硬件環(huán)境和今天相比已經(jīng)有很大變化，網(wǎng)絡(luò)環(huán)境和云計算的網(wǎng)絡(luò)功能虛擬化也不斷應(yīng)用在SIP網(wǎng)絡(luò)的場景中，很多集群部署的優(yōu)化和網(wǎng)絡(luò)優(yōu)化可以幫助提升SIP均衡負(fù)載的處理能力，但是對SIP呼叫中的會話，事務(wù)等基本要素的優(yōu)化確實為我們提供了非常有價值的參考，為大家提供了更多的關(guān)于SIP軟交換性能處理的新的思路。關(guān)于三種算法的具體介紹和研究手段等論文細節(jié)，讀者可以查看參考資料的說明。

　　不過，隨著更多網(wǎng)絡(luò)技術(shù)的不斷發(fā)展，業(yè)務(wù)系統(tǒng)的需求和場景不斷發(fā)生變化，在SIP均衡負(fù)載的各種方案中，越來越多的用戶希望通過SBC來實現(xiàn)均衡負(fù)載來滿足不同業(yè)務(wù)，靈活語音編碼和邏輯處理的需求。在下一個章節(jié)，我們簡單介紹如何通過SBC實現(xiàn)均衡負(fù)載，實現(xiàn)真正的商業(yè)場景的部署。

　　在以上的討論中，研究人員更多關(guān)注的是基于SIP 軟交換信令級均衡負(fù)載的算法優(yōu)化，也僅限于傳統(tǒng)CTI環(huán)境和硬件網(wǎng)絡(luò)環(huán)境。在現(xiàn)在實際應(yīng)用場景中，無論是運營商級用戶還是企業(yè)終端用戶，大家都在考慮通過云計算和網(wǎng)絡(luò)虛擬化的方式實現(xiàn)更多更靈活的分布式網(wǎng)絡(luò)架構(gòu)，并且需要滿足用戶更多終端和不同編碼設(shè)備的支持。在基于SIP軟交換的均衡負(fù)載的部署環(huán)境中，除了我們需要關(guān)心SIP軟交換的吞吐量和響應(yīng)時間以外，我們還要注冊請求的均衡負(fù)載，安全加密處理，還要關(guān)注其他媒體方面的用戶體驗，例如語音質(zhì)量，時延等問題。如果我們僅僅考慮基于SIP軟交換信令點均衡負(fù)載的話，均衡負(fù)載的功能支持就會遇到很大限制，不能滿足很多實時的業(yè)務(wù)場景。

　　比較幸運的是，云計算時代，很多技術(shù)已經(jīng)彌補了以前的一些系統(tǒng)資源的制約，可以通過SD-WAN，網(wǎng)絡(luò)功能虛擬化部署，云實例部署和彈性網(wǎng)絡(luò)資源等方式來實現(xiàn)。具體關(guān)于針對SIP網(wǎng)絡(luò)的技術(shù)架構(gòu)的變革，讀者可以閱讀歷史文章：

　　SBC的核心功能之一就是實現(xiàn)SIP媒體服務(wù)器的均衡負(fù)載處理。一些SBC廠家的SBC均衡負(fù)載功能已經(jīng)非常成熟。Ribbon/Sonus的SBC 均衡負(fù)載服務(wù)能力提供了非常專業(yè)的運營商級功能，可以通過SIP呼叫和DNS（參考RFC3263）服務(wù)方式實現(xiàn)均衡負(fù)載，并且它可以通過云平臺的各種功能模塊，實現(xiàn)SBC 均衡負(fù)載集群組。

 

　　在SBC均衡負(fù)載集群的處理方式中，除了針對CPS進行動態(tài)路由以外，它本身也可以實現(xiàn)靈活動態(tài)加載各個節(jié)點服務(wù)器，對所有節(jié)點SBC實例實現(xiàn)分布式部署響應(yīng)，并且可以針對重新加入的INVITE或者注冊請求路由到未使用的SBC節(jié)點。

　　除了針對SIP呼叫信令級的均衡負(fù)載的管理以外，SBC仍然需要針對媒體級的核心數(shù)據(jù)實時進行檢測和管理，保證用戶呼叫的語音質(zhì)量達到最佳質(zhì)量。通過SBC實現(xiàn)QoS/MOS的智能路由也是SBC部署時的一個特別需要考慮的問題。筆者以前針對QoS的策略管理有非常詳細說明，讀者可以閱讀此文章：

　　在運營商級和高級的企業(yè)級SIP呼叫均衡負(fù)載的解決方案中，除了對CPS和響應(yīng)時間進行管理以外，SBC的均衡負(fù)載功能還需要結(jié)合實時語音質(zhì)量分析的參數(shù)來實現(xiàn)更完善的路由處理。SBC需要非常智能化地分析RTP語音流的修改數(shù)據(jù)，通過QoS這里保障，語音質(zhì)量評價值和呼叫延遲，抖動等相關(guān)數(shù)據(jù)及時通知SBC路由模塊，保障其均衡負(fù)載能力能夠路由到一個資源消耗狀態(tài)正常的媒體服務(wù)器上。如果缺乏以上分析數(shù)據(jù)的支持，均衡負(fù)載處理機制仍然會路由到一個語音質(zhì)量差的呼叫節(jié)點上，最終用戶呼叫體驗肯定也非常差，降低了呼叫的成功率和呼叫體驗。Ribbon SBC通過語音智能語音分析模塊，結(jié)合實時數(shù)據(jù)統(tǒng)計面板對智能路由做了非常專業(yè)的實時管理，可以極大提高均衡負(fù)載以及智能路由的更強大的功能。PSX是核心的路由策略模塊，可以支持本地路由，全球路由管理，trunk管理，安全保護數(shù)據(jù)，DID管理，分析軟件依賴于大數(shù)據(jù)，AI和行為學(xué)習(xí)和機器學(xué)習(xí)來快速分析數(shù)據(jù)支持均衡負(fù)載能力。

　　在本文章中，筆者首先介紹了關(guān)于均衡負(fù)載的基本要求和基于業(yè)務(wù)層面均衡負(fù)載的處理機制。開源SIP軟交換Kamailio和OpenSIPS，包括早期的OpenSER在這方面也有著非常好的表現(xiàn)，它們可以作為SIP軟交換的均衡負(fù)載服務(wù)器來使用。在傳統(tǒng)的均衡負(fù)載的RR模塊中，均衡負(fù)載僅針對呼叫或者會話來進行處理，沒有再深入到呼叫事務(wù)的優(yōu)化，特別是針對兩個重要的INVITE事務(wù)和BYE事務(wù)的優(yōu)化。一些研究人員針對兩種事務(wù)進行了優(yōu)化處理，并且提供了三種優(yōu)化算法，通過不同優(yōu)化算法，研究人員經(jīng)過對吞吐量和響應(yīng)時間的測試發(fā)現(xiàn)TLWL算法是執(zhí)行性能最好的算法。這些新優(yōu)化的算法為大家在未來的基于SIP服務(wù)器進行優(yōu)化提供了非常有深度的技術(shù)模型。

　　但是，隨著技術(shù)不斷發(fā)展，用戶需求不斷增加，這些均衡負(fù)載的部署方式如果部署在目前商業(yè)環(huán)境的話，仍然缺乏很多其他業(yè)務(wù)方面的支持，仍然需要一些專業(yè)的SBC做均衡負(fù)載，以及均衡負(fù)載集群組來實現(xiàn)，并且需要結(jié)合用戶迫切需要的實時語音檢測機制進行更智能化路由。筆者在后續(xù)章節(jié)介紹了Ribbon SBC在建議SIP信令層面的均衡負(fù)載機制路由以外，和讀者分享了基于RTP語音流的智能路由功能，通過QoS，MOS和PDD等比較重要的參數(shù)數(shù)值，通過語音分析模塊實時對呼叫進行路由設(shè)置。

　　隨著系統(tǒng)不斷擴容，SIP服務(wù)器的均衡負(fù)載機制和算法也不斷需要更新來滿足最新的業(yè)務(wù)需求。其他的算法或者均衡負(fù)載機制也可能可以實現(xiàn)某種用戶場景，比如，利用云平臺技術(shù)，HAProxy或DNS SRV等相關(guān)技術(shù)來實現(xiàn)不同的需求均衡負(fù)載或者HA解決方案，因為篇幅關(guān)系，筆者沒有涉及這方面的討論。筆者希望從單純的SIP技術(shù)方面，結(jié)合所討論的這些結(jié)果對讀者將來部署SIP均衡負(fù)載解決方案有所幫助，獲得更穩(wěn)定專業(yè)的均衡負(fù)載解決方案。

　　Hongbo Jiang，Design, Implementation, and Performance of A Load Balancer for SIP Server Clusters

　　Abdullah Akbar，A Comparative Study on Load Balancing Algorithms for SIP Servers

　　Georgios，Towards effective SIP load Balancing