ここMERCURYでは、毎月1億件のリクエストが私たちのサーバーに届きます - それは1日あたり約300万件のリクエストです。
しかし、それは「簡単な」部分です...
クライアントがキャンペーンを実施したり、新製品を市場に投入したりすると、課題が生じます。最近の発売では、950%のトラフィック急増が発生しました！
実際に何が起こったのかを探り、私たちのインフラがこのような急増に簡単に対処できるように設定されている理由を説明しましょう。
950%のトラフィック急増の原因は何か
私たちの香港のクライアントは、世界のストリートファッションブランドのリセラーの一つです。新製品やコラボレーション製品が販売されると、彼らは大規模なトラフィック急増を経験します。
NIKEとのコラボレーション製品を発表したときの様子はこんなにクレイジーでした。それはたった1つの製品のためです。彼らはたくさんの製品を展開しています。
バーストトラフィック
新製品が午後4時に発表されたとき、1日に1万人以上のユーザーがアクセスします。
24時間の期間内で、プレセールイベントを含むクライアントのウェブサイトは950%のトラフィック急増とデータベースへのリクエストが5000%増加しました。言い換えれば、そのサイトは1日のうちに「通常」のトラフィックの10日分を消費し、そのほとんどがわずか3時間に集中していました。
では、私たちはどのようにインフラを設定してこのような急増に対処するのでしょうか？
このような大規模なトラフィック急増に対処することは非常に大きな課題ですが、私たちの能力とスケーリング戦略のおかげで管理可能です。私たちはプラットフォームをクライアントごとに自己完結型の「セグメント」に分け、必要なときに動的に増減できるようにしています。必要な場所に正確に容量を追加することができます。私たちのプラットフォームは、アプリケーションサーバー用のものと同様のシステムを使用して、検索レイヤーも分離するように設計されています。
ロードバランサーはすべての検索サーバーを追跡し、トラフィックをバランスさせ、問題が発生しているサーバーを避けます。この構成により、追加の容量が必要な場合に新しいサーバーを迅速かつ簡単に追加できます。
結局のところ、私たちはクライアントのために平均して2秒ごとに販売注文を処理し、800以上の同時アクセスでデータベースに接続し、20,000人以上の顧客にサービスを提供しました。