Configuração de balanceamento de carga para um site de alto tráfego

Nosso site cresceu além do que um único servidor pode suportar confortavelmente, e durante os horários de pico, os tempos de resposta aumentam e erros ocasionais aparecem. Precisamos de um engenheiro de sistemas experiente para projetar e configurar o balanceamento de carga entre vários nós de aplicação, de modo que o tráfego seja distribuído uniformemente e nenhuma máquina se torne um gargalo. O objetivo é uma configuração que permaneça responsiva sob carga e continue atendendo solicitações mesmo se um nó falhar.

O trabalho abrange a configuração de um balanceador de carga na frente de nossos servidores de aplicação, definindo verificações de saúde para que nós não saudáveis sejam retirados da rotação automaticamente, e escolhendo um método de distribuição sensato para nosso padrão de tráfego. As sessões devem continuar funcionando corretamente quando as solicitações se movem entre os nós, e adicionar ou remover um servidor não deve exigir tempo de inatividade. Também queremos que o balanceador em si esteja protegido contra ser um único ponto de falha.

Por favor, documente a arquitetura final, os limites das verificações de saúde e os passos para adicionar capacidade mais tarde. Um breve teste de carga mostrando o comportamento antes e depois, além de um runbook claro para nossa equipe de operações sobre o que observar e como reagir quando um nó falha, é esperado como parte da entrega.