Как масштабировать Node-сервис, у которого кончается запас?
Сначала установить, где предел, и только потом добавлять машины: насыщение event loop, исчерпание пула соединений и задержка внешних вызовов выглядят как медленность, а чинятся по-разному. Горизонтальное масштабирование помогает, только если узкое место действительно процесс. Наибольшую отдачу обычно даёт вынос синхронной работы из пути запроса, а не новые инстансы.