Cluster e réplicas

Quando uma máquina só não basta, transforme-a num cluster (Docker Swarm) e junte outras máquinas a ele pela página da máquina, na aba Cluster.

Num serviço de imagem, ative Rodar no cluster e escolha:

o número de réplicas;
restrições de onde elas podem rodar, por exemplo node.role==worker ou node.labels.disco==ssd.

O proxy distribui os acessos entre as réplicas.