Como han mencionado anteriormente, un balanceo de carga es lo más adecuado en estos casos, la opción que comentan anteriormente de desconectar el cable, y demás, es algo muy "desprolijo", además de que tendrías que tener los servidores físicamente cerca.. Te imaginas hacer eso con servidores remotos..
sería un gran downtime..
Un saludo!