Балансировщики нагрузки в облаке распределяют поступающие запросы между узлами инфраструктуры: отправляют трафик только на исправные и автоматически отключают из балансировки неработающие. Это обеспечивает стабильную работу цифровых сервисов.
Балансировщики нагрузки в облаке распределяют поступающие запросы по пулу ресурсов.
Крупные приложения ежеминутно принимают миллионы запросов от пользователей, которые ожидают мгновенной реакции системы в любое время суток. Инфраструктура должна справляться с резкими скачками нагрузки и быстро адаптироваться к изменениям.
В статье расскажем, как балансировщики нагрузки в облаке выполняют роль «диспетчера трафика». Объясним их принцип работы, алгоритмы распределения запросов и методы проверки состояния узлов.
Балансировщик нагрузки в облаке — это управляемый сервис или программа, которая автоматически распределяет входящий трафик между облачными ресурсами — например, виртуальными машинами, контейнерами или группами виртуальных машин с автоматическим масштабированием.
Балансировщик выступает как умный диспетчер для облачных приложений. Он принимает запросы клиентов и направляет их только к доступным и работоспособным ресурсам. Это оптимизирует использование инфраструктуры и помогает приложениям работать стабильнее.
Балансировщик нагрузки предоставляет единую точку входа для клиентов — IP‑адрес или DNS‑имя. Пользователи отправляют запросы на этот адрес, а балансировщик принимает входящий трафик и решает, куда его направить.
После получения запроса система анализирует его и выбирает подходящий ресурс для обработки. Ресурсы объединяются в целевые группы для эффективного распределения нагрузки и обеспечения отказоустойчивости.
Выбор конкретного ресурса происходит на основе заданных правил и алгоритма распределения нагрузки. Эти алгоритмы определяют, на какой именно ресурс или контейнер внутри целевой группы будет направлен запрос.
Ключевой механизм балансировщика — проверка доступности ресурсов. Система регулярно проверяет ресурс на доступность — способность принимать и обрабатывать запросы. Если тот не отвечает или возвращает ошибку несколько раз, он получает статус неработоспособного и временно исключается из обслуживания.
Балансировщик прекращает отправлять трафик на неработающие узлы, но продолжает их проверять. Когда ресурс восстанавливается, он автоматически «возвращается в строй» и снова начинает обрабатывать запросы.
Облачные балансировщики делятся на два основных типа по модели OSI:
L4 (Network Load Balancer — NLB) работает на транспортном уровне. Он маршрутизирует трафик в пределах виртуальной сети облака на основе IP‑адресов и портов (TCP/UDP) без анализа содержимого пакетов. Главные преимущества: высокая скорость и минимальные задержки. Идеально подходит для игровых серверов, баз данных и потоковых сервисов.
L7 (Application Load Balancer — ALB) действует на уровне приложений. В нашей архитектуре можно настроить взаимодействие, при котором Yandex Network Load Balancer принимает начальный трафик и направляет его к Yandex Application Load Balancer. Последний работает как прокси, который терминирует — завершает и обрабатывает — соединение от клиента и анализирует содержимое HTTP‑пакетов — заголовки, URL, куки. Это позволяет гибко маршрутизировать трафик между облачными ресурсами на основе содержимого данных. Например, обращения к разным частям API можно отправлять на разные ресурсы. Эти балансировщики оптимальны для веб‑приложений и микросервисов.
Yandex Network Load Balancer и Yandex Application Load Balancer распределяют трафик только между ресурсами облака. Наша команда берёт на себя масштабирование, проверку состояния бэкендов и интеграцию с экосистемой Yandex Cloud.
| Характеристика | Yandex Network Load Balancer (L4) | Yandex Application Load Balancer (L7) |
|---|---|---|
| Уровень работы | Работает на транспортном уровне (L4) модели OSI | Работает на уровне приложений (L7) модели OSI |
| Принцип маршрутизации | Маршрутизация TCP/UDP-трафика на основе адресации по принципу 5-tuple — адрес и порт отправителя/получателя, протокол | Анализирует содержимое HTTP-пакетов — заголовки, URL, куки — для гибкой маршрутизации трафика |
| Производительность | Высокая скорость и минимальные задержки из-за отсутствия глубокого анализа пакетов | Расширенная функциональность за счёт дополнительной обработки запросов |
| Проверка доступности | Базовая проверка доступности бэкендов по TCP/UDP-соединениям, настраиваемые параметры проверок | Расширенная проверка доступности бэкендов с возможностью анализа HTTP-ответов и дополнительными метриками |
| Масштабирование | Автоматическое масштабирование при повышении нагрузки | Автоматическое масштабирование под нагрузку. Одна ресурсная единица: до 1000 запросов в секунду, 4000 соединений, 22 МБ трафика в секунду |
| Оптимальное применение | Идеален для игровых серверов, баз данных, потоковых сервисов и других приложений, чувствительных к задержкам | Оптимален для веб-приложений, микросервисных архитектур и систем с HTTP-трафиком |
| Привязка сессий | Поддерживает привязку сессий только на основе IP-адреса исходного соединения с помощью 5-tuple Hash | Поддерживает гибкую привязку сессий через IP-адрес клиента или HTTP-куки с разными режимами |
| TLS-терминация | Не поддерживает TLS-терминацию — режим прозрачной передачи пакетов | Поддерживает TLS-терминацию с централизованным управлением сертификатами через Yandex Certificate Manager |
| Тип маршрутизации | Простая маршрутизация на уровне TCP/UDP с поддержкой нескольких портов | Сложная маршрутизация HTTP-запросов на основе правил в HTTP-роутерах с поддержкой Virtual Hosting |
| Поддержка протоколов | TCP, UDP | HTTP/1.x, HTTP/2, HTTPS, gRPC, WebSocket |
| Алгоритмы балансировки | Распределение на основе 5-tuple Hash для обеспечения стабильности соединений | Поддержка алгоритмов Round Robin, Weighted Round Robin и других для HTTP-трафика |
| Интеграция с безопасностью | Интеграция с Yandex DDoS Protection | Интеграция с Yandex DDoS Protection и Web Application Firewall |
| Интеграция с Kubernetes® | Интеграция через сервис типа LoadBalancer | Интеграция через Application Load Balancer Ingress Controller |
| Мониторинг и логирование | Интеграция с Yandex Cloud Logging и Yandex Monitoring | Расширенная интеграция с Yandex Cloud Logging (access-логи) и Yandex Monitoring с детальной аналитикой HTTP-запросов |
| Управление сертификатами | Не применимо | Централизованное управление через Yandex Certificate Manager с поддержкой TLS SNI для разных доменов |
| Модификация запросов/ответов | Не поддерживается | Возможность модифицировать HTTP-запросы и ответы непосредственно на балансировщике |
| Сценарии развёртывания | Базовое распределение трафика | Поддержка канареечного и blue-green-развёртывания для постепенного перевода трафика на новые версии приложений |
Эти протоколы позволяют создавать более быстрые веб‑приложения, эффективные микросервисные архитектуры и системы с обновлениями в реальном времени.
Балансировщики нагрузки в облаке нужны в различных сценариях, где требуется надёжность и масштабируемость. Они особенно полезны для высоконагруженных веб‑приложений и сервисов, предоставляющих API, где равномерное распределение запросов обеспечивает стабильную работу и быстрый отклик даже при пиковых нагрузках. В микросервисной архитектуре L7‑балансировщик выступает интеллектуальным маршрутизатором, направляя запросы к нужным сервисам на основе URL‑пути или заголовков.
Балансировщики могут обеспечивать непрерывную работу сервисов во время обновления приложений. Они позволяют реализовать плавное переключение на новую версию и канареечное развёртывание (тестирование на малой доле трафика без риска для остальных пользователей). В глобальных проектах балансировщик в связке с DNS или CDN направляет запросы к ближайшему дата‑центру, что снижает задержки при доступе к сервису.
Централизованная SSL‑терминация через балансировщик создаёт единую точку управления HTTPS‑сертификатами и снижает нагрузку на ресурсы приложений. В процессе миграции сервисов балансировщики позволяют постепенно переводить трафик со старой инфраструктуры на новую без прерывания обслуживания пользователей.
При построении отказоустойчивой архитектуры балансировщики нагрузки становятся ключевыми элементами, позволяющими снижать или полностью исключать влияние отказов на работу сервисов. Они автоматически отслеживают состояние ресурсов с помощью механизма Health Check и направляют запросы пользователей только на работоспособные узлы. Размещение ресурсов в нескольких зонах доступности вместе с балансировщиками обеспечивает защиту от сбоев на уровне отдельных серверов и даже целых дата‑центров.
Для повышения надёжности на платформе Yandex Cloud мы рекомендуем организовать многоуровневую архитектуру, где Yandex Network Load Balancer принимает трафик и направляет его на группу Yandex Application Load Balancer для более гибкой маршрутизации. В случае частичных отказов в зоне доступности, которые не определяются автоматически, Yandex Application Load Balancer позволяет вручную отключить доставку трафика в проблемную зону.
Внедрение облачных балансировщиков приносит существенные преимущества для инфраструктуры и бизнеса, прежде всего — в надёжности работы сервисов. Система постоянно отслеживает состояние ресурсов и автоматически исключает неработающие из обслуживания. Распределение трафика обеспечивает непрерывность работы.
Равномерное распределение нагрузки между ресурсами повышает их производительность и предотвращает перегрузку. Каждый ресурс работает с оптимальной нагрузкой, тем самым ускоряя обработку запросов. Кроме того, SSL‑терминация на балансировщике снимает часть вычислительной нагрузки, освобождая ресурсы приложений для обработки бизнес‑логики.
Гибкое масштабирование становится простой задачей. При росте трафика можно добавлять новые ресурсы в пул балансировки без прерывания обслуживания. Интеграция с сервисами автомасштабирования делает этот процесс автоматическим — система сама добавляет или убирает ресурсы при необходимости, реагируя на изменения нагрузки.
Централизованное хранение SSL/TLS‑сертификатов повышает безопасность. Такой подход упрощает обновление сертификатов и поддержку защищённого соединения. Прикладные балансировщики с Web Application Firewall защищают от распространённых веб‑атак. Встроенная защита от DDoS предотвращает сбои и поддерживает стабильную доступность сервиса.
Использование облачного балансировщика снижает операционные затраты. Провайдер берёт на себя обеспечение надёжной работы самого балансировщика — не нужно выделять собственные ресурсы на его поддержку и администрирование. Модель оплаты pay as you go позволяет платить только за фактическое использование без переплат за избыточные мощности.
Дополнительное преимущество облачного балансировщика— упрощение архитектуры приложений. Разработчики могут создавать более простые бэкенд‑сервисы, поскольку балансировщик берёт на себя SSL‑терминацию, проверку работоспособности и логику маршрутизации, ускоряя разработку и снижая количество потенциальных ошибок.
Выбор подходящего балансировщика зависит от конкретных требований проекта. Универсально «лучшего» решения не существует — важно опираться на особенности задачи и инфраструктуры.
Первый важный фактор — уровень балансировки. Для интеллектуальной маршрутизации HTTP‑трафика подходит Yandex Application Load Balancer. Если требуется просто распределение TCP/UDP‑трафика по ресурсам, достаточно Yandex Network Load Balancer.
Поддержка необходимых протоколов тоже играет значительную роль при выборе. Балансировщик должен работать со всеми протоколами, используемыми в приложении: HTTP/HTTPS, HTTP/2, gRPC, WebSocket, TCP или UDP.
Важны и требования к задержкам и пропускной способности. Для задач, критичных к задержкам — например, онлайн‑игр или биржевых торгов, — предпочтительнее сетевой. Он обрабатывает трафик быстрее, чем прикладной, потому что тот дополнительно анализирует содержимое запросов.
При выборе нужно учитывать и функциональные требования:
Нельзя забывать и о требованиях безопасности. Защита веб‑приложений от атак реализуется с помощью L7‑балансировщика с Web Application Firewall. Важно оценить и необходимый уровень защиты от DDoS‑атак.
Выбор балансировщика зависит и от общей архитектуры проекта. Для микросервиснов и веб‑приложений больше подходит Application Load Balancer. Для низкоуровневых протоколов и приложений, чувствительных к задержкам, оптимальнее Network Load Balancer.
Мы предлагаем два основных типа управляемых балансировщиков нагрузки, которые закрывают большинство сценариев использования:
Оба балансировщика интегрированы с другими сервисами нашей платформы:
