Horizontal scaling

Горизонтальное масштабирование добавляет инстансы вместо более мощных машин. Нужны stateless уровни приложения, вынесенные сессии, общие кеши или БД и координация для job без дублирования. Плюсы: рост ёмкости и изоляция сбоев; минусы: сетевой трафик, сложность деплоя и распределённая отладка.

Autoscaling по CPU, глубине очереди или latency запросов с cooldown против flapping. Планируйте rolling deploy и health check для безопасного приёма трафика новыми инстансами.

На интервью: как масштабируете stateless API tier, что делаете со sticky session и когда горизонтальный рост перестаёт помогать.

Типовые ошибки: локальное in-memory состояние ломает scale-out; thundering herd на холодных инстансах; запаздывание autoscaler при резком всплеске.

Чеклист:

• Stateless app tier или вынесенное состояние.
• Сигналы и лимиты autoscaling.
• Session affinity только где необходимо.
• Оцените накладные координации на целевом масштабе.