Мониторинг сервисов SpeechKit Hybrid
Статья создана
Обновлена 10 августа 2023 г.
SpeechKit Hybrid собирает и хранит метрики в формате Prometheus. Подробнее о типах метрик см. в документации Prometheus.
Метрики сервисов SpeechKit Hybrid доступны по URL-адресу:
<IP-адрес>:17002/metrics/prometheus
Где:
<IP-адрес>— IP-адрес сервиса SpeechKit Hybrid в вашей сети.
Общие метрики SpeechKit Hybrid
| Метрика | Тип | Описание |
|---|---|---|
grpc_code_* |
COUNTER | Количество ответов с определенным кодом протокола gRPC. Каждому коду соответствует отдельная метрика: grpc_code_ok, grpc_code_canceled и т. д. Список кодов см. в документации gRPC |
Метрики синтеза речи
| Метрика | Тип | Описание |
|---|---|---|
synthesis_sps |
GAUGE | Количество секунд синтезированного текста, которое генерируется за секунду работы SpeechKit Hybrid |
synthesis_latency |
HISTOGRAM | Гистограмма времени ответа сервиса в миллисекундах |
Метрики распознавания речи
| Метрика | Тип | Описание |
|---|---|---|
in_flight_requests |
GAUGE | Количество активных сессий |
recognize_sps |
GAUGE | Количество миллисекунд распознанной речи, которое было обработано за секунду работы SpeechKit Hybrid |
recognize_rtf |
HISTOGRAM | Гистограмма распределения величины Real Time Factor, равной процентному отношению времени распознавания к длительности распознаваемой речи |
Мониторинг производительности
Чтобы следить за производительностью SpeechKit Hybrid, определите целевые значения метрик:
synthesis_sps— требуемое количество секунд синтезированного текста в секунду.recognize_sps– требуемое количество миллисекунд распознанной речи в секунду.synthesis_latency– допустимая задержка ответа приложения синтеза речи.recognize_rtf— допустимое процентное отношение времени распознавания к длительности распознаваемого текста. Рекомендуется значение100, т. к. большее значение означает, что сервер не справляется с потоком запросов.
Настройте мониторинг метрик так, чтобы отслеживать их отклонение в худшую сторону относительно установленных целевых значений:
- для метрик SPS – снижение;
- для остальных метрик — превышение.