Мониторинг сервисов Envoy
Сервисы Envoy – это собирательное название компонентов SpeechKit Hybrid Envoy и License server. Подробнее о компонентах SpeechKit Hybrid см. в Архитектура сервиса SpeechKit Hybrid.
Сервисы Envoy собирают и хранят метрики в формате Prometheus. Подробнее о типах метрик см. в документации Prometheus
Метрики License server
Метрики License server доступны по URL-адресу:
<IP-адрес>:<порт>
Где:
<IP-адрес>
— IP-адрес компонента License server SpeechKit Hybrid в вашей сети.<порт>
— порт Prometheus. По умолчанию используется порт8003
, его можно изменить в настройках SpeechKit Hybrid.
Общие метрики
Метрика | Тип | Описание | Метки |
---|---|---|---|
active_services |
GAUGE | Количество работающих сервисов SpeechKit Hybrid | type , тип сервиса: stt / tts . |
log4j2_appender_total |
COUNTER | Количество логов с данным уровнем | level , уровень логирования |
grpc_statuses |
COUNTER | Состояние работы gRPC-методов | app (приложение), method (gRPC-метод), status (статус запроса). Для отслеживания связи с Yandex Billing в метке method укажите значения yandex.cloud.ds.billing.BillingService/Register , yandex.cloud.ds.billing.BillingService/SendBillingData . |
grpc_durations |
HISTOGRAM | Гистограмма времени обработки gRPC-запросов | app (приложение), method (gRPC-метод), status (статус запроса). |
grpc_requests |
GAUGE | Различные метрики gRPC-запросов | app (приложение), method (gRPC-метод), status (статус запроса). |
Метрики для модели лицензирования Cloud Billing
Метрика | Тип | Описание | Метки |
---|---|---|---|
billing_agent_billing_units_sent |
COUNTER | Количество отправленных биллинг-пакетов в Yandex Billing | unit_type , тип сервиса: stt / tts . |
billing_agent_requests_sent |
COUNTER | Количество запросов, отправленных на сервер Cloud Billing SpeechKit Hybrid | |
billing_agent_entries_sent |
COUNTER | Число отправленных записей биллинга | |
billing_agent_queue_size |
GAUGE | Текущий размер очереди Cloud Billing SpeechKit Hybrid | |
billing_agent_billing_units_received |
COUNTER | Количество биллинг-пакетов, полученных от сервисов stt /tts |
unit_type , тип сервиса: stt / tts . |
billing_agent_last_entry_serial |
GAUGE | Серийный номер последней отправленной записи биллинга | |
billing_agent_last_entry_unixtime |
GAUGE | Стандартное время Unix time последней отправленной записи биллинга |
Метрики для модели лицензирования Yubikey
Метрика | Тип | Описание | Метки |
---|---|---|---|
license_active |
GAUGE | Статус лицензии (значение 0 для неактивной лицензии, 1 для активной) |
|
license_parameters |
GAUGE | Параметры лицензии | type , тип параметра: max_stt_connections – максимальное количество соединений к сервису stt ; max_tts_rps – максимальный RPS для сервиса tts |
Метрики Envoy
Для получения информации о состоянии сервиса Envoy доступен административный интерфейс по URL-адресу:
<IP-адрес>:9091
Где:
<IP-адрес>
— IP-адрес сервиса Envoy SpeechKit Hybrid в вашей сети.
Подробнее об интерфейсе см. в документации Envoy
Метрики Envoy в формате Prometheus доступны через административный интерфейс по URL-адресу:
<IP-адрес>:9091/stats/prometheus
Примечание
Чтобы получить только значимые метрики, которые менялись хотя бы однократно, используйте URL-адрес <IP-адрес>:9091/stats?format=prometheus&usedonly
.
Информативные метрики Envoy для мониторинга SpeechKit Hybrid:
-
Upstream-метрики
коммуникации Envoy с кластерами сервисовstt
/tts
. -
Downstream-метрики
коммуникаций Envoy с внешними ресурсами. Например:Метрика Тип Описание Метки downstream_cx_total
COUNTER Количество HTTP-соединений за время работы сервиса envoy_http_conn_manager_prefix
downstream_cx_active
GAUGE Количество активных HTTP-соединений envoy_cluster_name
, имя кластера:upstream_stt
,upstream_tts
для сервисов SpeechKit Hybriddownstream_cx_rx_bytes_total
COUNTER Количество полученной информации (в байтах) за время работы сервиса envoy_http_conn_manager_prefix
downstream_cx_tx_bytes_total
COUNTER Количество отправленной информации (в байтах) за время работы сервиса envoy_http_conn_manager_prefix
downstream_rq_total
COUNTER Количество отправленных запросов за время работы сервиса envoy_http_conn_manager_prefix
downstream_rq_active
GAUGE Количество активных запросов envoy_http_conn_manager_prefix