Мониторинг сервисов Envoy
Сервисы Envoy – это собирательное название компонентов SpeechKit Hybrid Envoy и License server. Подробнее о компонентах SpeechKit Hybrid см. в Архитектура сервиса SpeechKit Hybrid.
Сервисы Envoy собирают и хранят метрики в формате Prometheus. Подробнее о типах метрик см. в документации Prometheus.
Метрики License server
Метрики License server доступны по URL-адресу:
<IP-адрес>:<порт>
Где:
<IP-адрес>— IP-адрес компонента License server SpeechKit Hybrid в вашей сети.<порт>— порт Prometheus. По умолчанию используется порт8003, его можно изменить в настройках SpeechKit Hybrid.
Общие метрики
| Метрика | Тип | Описание | Метки |
|---|---|---|---|
active_services |
GAUGE | Количество работающих сервисов SpeechKit Hybrid | type, тип сервиса: stt / tts. |
log4j2_appender_total |
COUNTER | Количество логов с данным уровнем | level, уровень логирования |
grpc_statuses |
COUNTER | Состояние работы gRPC-методов | app (приложение), method (gRPC-метод), status (статус запроса). Для отслеживания связи с Yandex Billing в метке method укажите значения yandex.cloud.ds.billing.BillingService/Register, yandex.cloud.ds.billing.BillingService/SendBillingData. |
grpc_durations |
HISTOGRAM | Гистограмма времени обработки gRPC-запросов | app (приложение), method (gRPC-метод), status (статус запроса). |
grpc_requests |
GAUGE | Различные метрики gRPC-запросов | app (приложение), method (gRPC-метод), status (статус запроса). |
Метрики для модели лицензирования Cloud Billing
| Метрика | Тип | Описание | Метки |
|---|---|---|---|
billing_agent_billing_units_sent |
COUNTER | Количество отправленных биллинг-пакетов в Yandex Billing | unit_type, тип сервиса: stt / tts. |
billing_agent_requests_sent |
COUNTER | Количество запросов, отправленных на сервер Cloud Billing SpeechKit Hybrid | |
billing_agent_entries_sent |
COUNTER | Число отправленных записей биллинга | |
billing_agent_queue_size |
GAUGE | Текущий размер очереди Cloud Billing SpeechKit Hybrid | |
billing_agent_billing_units_received |
COUNTER | Количество биллинг-пакетов, полученных от сервисов stt/tts |
unit_type, тип сервиса: stt / tts. |
billing_agent_last_entry_serial |
GAUGE | Серийный номер последней отправленной записи биллинга | |
billing_agent_last_entry_unixtime |
GAUGE | Стандартное время Unix time последней отправленной записи биллинга |
Метрики для модели лицензирования Yubikey
| Метрика | Тип | Описание | Метки |
|---|---|---|---|
license_active |
GAUGE | Статус лицензии (значение 0 для неактивной лицензии, 1 для активной) |
|
license_parameters |
GAUGE | Параметры лицензии | type, тип параметра: max_stt_connections – максимальное количество соединений к сервису stt; max_tts_rps – максимальный RPS для сервиса tts |
Метрики Envoy
Для получения информации о состоянии сервиса Envoy доступен административный интерфейс по URL-адресу:
<IP-адрес>:9091
Где:
<IP-адрес>— IP-адрес сервиса Envoy SpeechKit Hybrid в вашей сети.
Подробнее об интерфейсе см. в документации Envoy.
Метрики Envoy в формате Prometheus доступны через административный интерфейс по URL-адресу:
<IP-адрес>:9091/stats/prometheus
Примечание
Чтобы получить только значимые метрики, которые менялись хотя бы однократно, используйте URL-адрес <IP-адрес>:9091/stats?format=prometheus&usedonly.
Информативные метрики Envoy для мониторинга SpeechKit Hybrid:
-
Upstream-метрики коммуникации Envoy с кластерами сервисов
stt/tts. -
Downstream-метрики коммуникаций Envoy с внешними ресурсами. Например:
Метрика Тип Описание Метки downstream_cx_totalCOUNTER Количество HTTP-соединений за время работы сервиса envoy_http_conn_manager_prefixdownstream_cx_activeGAUGE Количество активных HTTP-соединений envoy_cluster_name, имя кластера:upstream_stt,upstream_ttsдля сервисов SpeechKit Hybriddownstream_cx_rx_bytes_totalCOUNTER Количество полученной информации (в байтах) за время работы сервиса envoy_http_conn_manager_prefixdownstream_cx_tx_bytes_totalCOUNTER Количество отправленной информации (в байтах) за время работы сервиса envoy_http_conn_manager_prefixdownstream_rq_totalCOUNTER Количество отправленных запросов за время работы сервиса envoy_http_conn_manager_prefixdownstream_rq_activeGAUGE Количество активных запросов envoy_http_conn_manager_prefix