HTTP Load Balancer

測試情境

本次的目的是想要證明HTTP load balancer (HLB)在偵測不同地區流量導向的功能是否OK...

由於HLB的backend server限制以instance group為單位加入,而instance group限制僅可以加入同一個zone中的server instance,因此這次我們開兩個zone的機器,並且把機器分別掛在該zone的instance group中,如果到時候從台灣的連線回覆台灣地區主機的資訊,而美國地區連線則由美國地區主機回覆,則代表HLB可以正確分流不同地區的流量,由該地區主機負責... 

架構說明

本次的設定架構如下:

http-load-balancer (107.178.248.201) ---------->  instance-group-1 / 104.199.154.208 (asia-east-a) 
                                                             \
                                                              \ -------> instance-group-us / 104.154.41.113 (us-central1-a) 



其中hlb為本次設定的http-load-balancer名稱,其下設定hlb-fw1附掛一組IP做hlb的入口,並且設定backend service: hlb-bkend-1收容instance-group-1與instance-group-us兩個分別收容來自APAC與US的主機。

上面總表是以整組的方式呈現,部分的元件在該表中已經被隱藏,我們可以在HLB的進入頁面列表出,選擇advance view來顯示HLB的詳細元件....



Forwarding rules - 顯示HLB所attach的入口IP,每個forwarding rule會預設掛載一個target...



選擇target item或是點選Target proxies的頁籤,可以看到該預設proxy的設定,主要會看到proxy跟url map的對應狀況



選擇Backend services頁籤,可以看到以設定的backend service: hlb-bkend-1,我們可以點進去看詳細的backend service的設定



這邊可以看到該Backend中有兩個instance group的主機群,並且有個frontend location的圖示,分別把default route指定到instance-group-1中。



最後是Health check,在這個頁籤中,可以設定HLB針對哪個協定的哪個port做監控,這邊必須注意後端的主機必須服務在該位置,以避免被HLB納入不正常的主機而Pass掉...



上面設定都完成後,可以直接從所開立的APAC與US主機上直接透過curl分別測試HLB的IP、APAC主機IP、US主機IP...

直接測試US Server與測試APAC Server:

直接連US server:


直接連ㄍAPAC server:


來自US client連線測試HLB:



來自APAC client連線測試HLB:



初步測試,這邊可以看到來自各個地區的用戶應當會就近連線到鄰近該地區的主機,因此回應部分才會分別顯示不同地區的機器...

當HLB設定完成後,在無流量狀況下,backend service的圖表狀態如下:


而分別從不同地區request HLB的話,可以看到Frontend Location的部分有來自Asia與North America兩個地點的流量,並且分別導到不同的instance group...



這時候我們把request的流量開大一點,可以發現Asia與North Ameriac中間多一台黃色的線,顯示7.1 RPS的流量,代表在US的機器(instance-group-us)在流量附載超過設定時候,HLB會將流量往instance-group-1丟...



結論

上面的測驗原則上證明HLB可以擔任全球分散流量的樞紐,透過HLB導向各地區的主機群,也讓機器被攻擊的風險可以分散在不同的地區。

針對應用的部分,HLB很適合擔心被攻擊的服務,如果您在不同的地區設定了伺服器,並請透過HLB串聯,則當某個特定地區機器受到大量攻擊時候,則可以只影響到該主機群,而不用擔心影響整個服務... 不過,服務器的配置上仍需要考慮到機器數量與request數量的比例,畢竟HLB最後仍是會將流量導到剩下的主機上...