在MERCURY,我们每月接收1亿个请求 - 这大约是每天300万个请求。
但是,这只是“简单”的部分……
当我们的客户进行活动或推出新产品时,挑战就会出现。最近的一次发布引发了950%的流量激增!
让我们探讨一下究竟发生了什么,并解释我们是如何设置基础设施以轻松应对这样的激增。
是什么导致了950%的流量激增
我们的一位香港客户是全球街头时尚品牌的转售商。正如你可能想象的那样,当新产品/合作产品开始销售时,他们会经历巨大的流量激增。
当他们宣布与NIKE合作的产品时,场面是多么疯狂。这只是针对一款产品。他们有大量产品在运行。
突发流量
当新产品在下午4点宣布时,1天内有超过1万用户访问。
在包括预售活动的24小时内,客户的网站经历了950%的流量激增,数据库请求增加了5000%。换句话说,该网站在一天内消耗了十天的“正常”流量,而大部分流量集中在仅仅3小时内。
那么,我们是如何设置基础设施以应对如此激增的流量呢?
处理如此大规模的流量激增是一个巨大的挑战,但由于我们的能力和扩展策略,我们可以管理这一挑战。我们将平台分解为每个客户的自包含“段”,可以动态独立地增加或减少容量,精确地在任何时刻添加所需的容量。我们的平台设计成将搜索层分离,使用与应用服务器相似的系统。
负载均衡器跟踪我们所有的搜索服务器,平衡它们之间的流量,避开任何遇到困难的服务器。这种配置使得在需要额外容量时,添加新服务器变得快速而简单。
最终,我们平均每2秒处理一个销售订单,数据库同时有800多个并发访问,并代表我们的客户为超过20,000名客户提供服务。

