在MERCURY，我們每個月接收1億個請求，這大約是每天300萬個請求。
但是，這只是「簡單」的部分……
當我們的客戶進行行銷活動或推出新產品時，挑戰就會出現。最近的一次產品發布引發了950%的流量激增！
讓我們來探討究竟發生了什麼，並解釋我們如何設置基礎設施以輕鬆應對這樣的激增。
什麼導致950%的流量激增
我們的一位香港客戶是全球街頭時尚品牌的轉售商。正如你所預期的，當新產品/合作產品開始販售時，他們會經歷巨大的流量激增。
當他們宣布與NIKE的合作產品時，情況是如此瘋狂。這只是針對一個產品。他們有大量的產品在運行。
突發流量
當新產品在下午4點宣布時，1天內有超過10,000名用戶訪問。
在這24小時內，包括預售活動，客戶的網站經歷了950%的流量激增，資料庫請求增加了5000%。換句話說，該網站在一天內消耗了十天的「正常」流量，而這些流量大多數是在短短3小時內產生的。
那麼，我們如何設置基礎設施來應對這樣的激增？
應對如此巨大的流量激增是一個巨大的挑戰，但我們能夠管理，這要歸功於我們的容量和擴展策略。我們將平台分解為每個客戶的自包含「區段」，可以根據需要動態增加或減少容量，精確地在任何時刻添加所需的容量。我們的平台設計方式使我們也分離了搜索層，使用與我們的應用伺服器相似的系統。
負載平衡器追蹤我們所有的搜索伺服器，平衡它們之間的流量，避免任何出現問題的伺服器。這種配置使得在需要額外容量時，添加新伺服器變得快速而簡單。
最終，我們平均每2秒服務一個銷售訂單，並且有800多個同時訪問我們的資料庫，代表我們的客戶服務超過20,000位客戶。