在MERCURY,我們每個月接收1億個請求,這大約是每天300萬個請求。
但是,這只是「簡單」的部分……
當我們的客戶進行行銷活動或推出新產品時,挑戰就會出現。最近的一次產品發布引發了950%的流量激增!
讓我們來探討究竟發生了什麼,並解釋我們如何設置基礎設施以輕鬆應對這樣的激增。
什麼導致950%的流量激增
我們的一位香港客戶是全球街頭時尚品牌的轉售商。正如你所預期的,當新產品/合作產品開始販售時,他們會經歷巨大的流量激增。
當他們宣布與NIKE的合作產品時,情況是如此瘋狂。這只是針對一個產品。他們有大量的產品在運行。
突發流量
當新產品在下午4點宣布時,1天內有超過10,000名用戶訪問。
在這24小時內,包括預售活動,客戶的網站經歷了950%的流量激增,資料庫請求增加了5000%。換句話說,該網站在一天內消耗了十天的「正常」流量,而這些流量大多數是在短短3小時內產生的。
那麼,我們如何設置基礎設施來應對這樣的激增?
應對如此巨大的流量激增是一個巨大的挑戰,但我們能夠管理,這要歸功於我們的容量和擴展策略。我們將平台分解為每個客戶的自包含「區段」,可以根據需要動態增加或減少容量,精確地在任何時刻添加所需的容量。我們的平台設計方式使我們也分離了搜索層,使用與我們的應用伺服器相似的系統。
負載平衡器追蹤我們所有的搜索伺服器,平衡它們之間的流量,避免任何出現問題的伺服器。這種配置使得在需要額外容量時,添加新伺服器變得快速而簡單。
最終,我們平均每2秒服務一個銷售訂單,並且有800多個同時訪問我們的資料庫,代表我們的客戶服務超過20,000位客戶。

