Мониторинг состояния кластера ClickHouse® и его хостов
Данные о состоянии кластера и его хостов доступны в консоли управления
Диагностическая информация о состоянии кластера представлена в виде графиков.
Период обновления графиков:
- Для хостов стандартной конфигурации и хостов с увеличенным соотношением количества гигабайт RAM к количеству vCPU (
memory-optimized): 15 секунд. - Для хостов с гарантированной долей vCPU ниже 100% (
burstable): 150 секунд.
Примечание
На графиках автоматически применяются наиболее подходящие кратные единицы измерения (мегабайты, гигабайты и т. д.).
Вы можете настроить алерты в сервисе Yandex Monitoring для получения уведомлений о сбоях в работе кластера. В Yandex Monitoring используются два порога срабатывания алерта: Warning и Alarm. При превышении заданного порога вы получите оповещения через настроенные каналы уведомлений.
Мониторинг состояния кластера
Для просмотра детальной информации о состоянии кластера Managed Service for ClickHouse®:
-
В консоли управления
выберите каталог, в котором находится кластер. -
Перейдите
в сервис Managed Service for ClickHouse. -
Нажмите на имя нужного кластера и выберите
Другое → Мониторинг.На открывшейся странице будут отображены графики работы кластера и хостов ClickHouse®.
-
Чтобы перейти к работе с метриками, дашбордами или алертами в сервисе Yandex Monitoring, нажмите кнопку Открыть в Monium на панели сверху.
Доступные графики
Если в кластере присутствует сервис координации, то в зависимости от выбранного сервиса на странице Мониторинг доступны следующие вкладки:
- ClickHouse — информация о состоянии всего кластера и хостов ClickHouse®.
- Keeper — информация о состоянии хостов ClickHouse® Keeper.
- ZooKeeper — информация о состоянии хостов ZooKeeper.
Если кластер состоит только из хостов ClickHouse®, на странице Мониторинг доступна вкладка Кластеры с информацией, соответствующей вкладке ClickHouse.
При любой конфигурации кластера на странице Мониторинг также доступна вкладка Хосты для просмотра детальной информации о состоянии хостов.
На вкладке отображаются графики:
-
В блоке Summary:
- Select queries — количество запросов выборки в секунду для кластера.
- Insert queries — количество запросов вставки в секунду для кластера.
- Total queries — общее количество запросов в секунду для кластера.
- Inserted data — скорость вставки данных для кластера.
- Read data — скорость чтения данных для кластера.
- Merged data — скорость слияния данных для кластера.
- CPU usage — количество используемых процессорных ядер в подкластере ClickHouse®.
- Memory usage — использование оперативной памяти в подкластере ClickHouse®.
- Disk space usage — занятое дисковое пространство в подкластере ClickHouse®.
-
В блоке Queries:
- Select queries per host — количество запросов выборки в секунду для каждого хоста в кластере.
- Insert queries per host — количество запросов вставки в секунду для каждого хоста в кластере.
- Total queries per host — общее количество запросов в секунду для каждого хоста в кластере.
- Failed select queries per host — процент неуспешных запросов выборки для каждого хоста в подкластере ClickHouse®.
- Failed insert queries per host — процент неуспешных запросов вставки для каждого хоста в подкластере ClickHouse®.
- Failed queries per host — процент неуспешных запросов для каждого хоста в подкластере ClickHouse®.
- Average select query time per host — среднее время выполнения запросов выборки для каждого хоста в подкластере ClickHouse®.
- Average insert query time per host — среднее время выполнения запросов вставки для каждого хоста в подкластере ClickHouse®.
- Average query time per host — среднее время выполнения запросов для каждого хоста в подкластере ClickHouse®.
-
В блоке Connections and Locks:
- Connections per host — количество подключений для каждого хоста в кластере.
- Active locks per host — количество активных блокировок для каждого хоста в кластере.
- Waiting locks per host — количество ожидающих блокировок для каждого хоста в кластере.
-
В блоке Data Traffic:
- Read data per host — скорость чтения данных для каждого хоста в кластере.
- Inserted data per host — скорость вставки данных для каждого хоста в кластере.
- Merged data per host — скорость слияния данных для каждого хоста в кластере.
- Read rows per host — скорость чтения строк в секунду для каждого хоста в кластере.
- Inserted rows per host — скорость вставки строк в секунду для каждого хоста в кластере.
- Merged rows per host — скорость слияния строк в секунду для каждого хоста в кластере.
-
В блоке Storage:
- Disk space usage per host, bytes — занятое дисковое пространство для каждого хоста в подкластере ClickHouse®.
- Disk space usage per host, % — процент использования дискового пространства для каждого хоста в подкластере ClickHouse®.
- Inode usage, % — процент использования inode для каждого хоста в подкластере ClickHouse®.
- Databases — количество баз данных для каждого хоста в кластере.
- Tables — количество таблиц для каждого хоста в кластере.
- Rows of MergeTree tables — количество строк в таблицах семейства MergeTree
для каждого хоста в кластере. - Data parts — количество кусков данных для каждого хоста в кластере.
- Detached data parts — количество отдельных кусков данных для каждого хоста в кластере.
-
В блоке Replication and Background Data Processing:
- Max replication delay across tables — максимальная задержка репликации таблиц для каждого хоста в кластере. Значения больше нескольких секунд могут указывать на чрезмерную нагрузку или проблемы в работе репликации.
- Replication queue — размер очереди репликации для каждого хоста в кластере.
- Max data parts per partition — максимальное количество кусков данных в партиции для каждого хоста в кластере. Лимит для этой величины определяется настройками СУБД. Приближение к лимиту указывает на чрезмерную нагрузку или низкую эффективность вставки данных.
- Merges and mutations pool tasks — количество активных задач слияния и мутаций в фоновом пуле для каждого хоста в подкластере ClickHouse®.
- Fetches pool tasks — количество активных задач извлечения в фоновом пуле для каждого хоста в подкластере ClickHouse®.
- Move pool tasks — количество активных задач перемещения в фоновом пуле для каждого хоста в подкластере ClickHouse®.
-
В блоке System Resources:
- CPU usage per host, cores — количество используемых процессорных ядер для каждого хоста в подкластере ClickHouse®.
- Memory usage per host, bytes — использование оперативной памяти для каждого хоста в подкластере ClickHouse®.
- CPU usage per host, % — процент использования процессорных ядер для каждого хоста в подкластере ClickHouse®.
- Memory usage per host, % — процент использования оперативной памяти для каждого хоста в подкластере ClickHouse®.
- Disk read per host — скорость чтения с диска для каждого хоста в подкластере ClickHouse®.
- Disk write per host — скорость записи на диск для каждого хоста в подкластере ClickHouse®.
- Disk usage per host — скорость дисковых операций для каждого хоста в подкластере ClickHouse®.
- Network data received per host — скорость приема данных из сети для каждого хоста в подкластере ClickHouse®.
- Network data sent per host — скорость отправки данных в сеть для каждого хоста в подкластере ClickHouse®.
- Network usage per host — скорость обмена данными по сети для каждого хоста в подкластере ClickHouse®.
На вкладке отображаются графики:
-
В блоке Service Metrics:
- Transactions — количество транзакций в секунду.
- Outstanding requests per Keeper host — количество запросов, находящихся в обработке для каждого хоста ClickHouse® Keeper.
- Connections per Keeper host — количество подключений для каждого хоста ClickHouse® Keeper.
- Transactions per ClickHouse® host — количество транзакций в секунду для каждого хоста ClickHouse®.
- Average transaction time per ClickHouse® host — среднее время транзакции для каждого хоста ClickHouse®. Показывает время, затрачиваемое ClickHouse® на обращения к ClickHouse® Keeper.
- Average latency per Keeper host — средняя задержка ответа для каждого хоста ClickHouse® Keeper.
- Znodes — количество объектов Znode.
- Ephemeral nodes — количество объектов Ephemeral node.
- Watches — количество объектов Watch.
-
В блоке System Metrics:
- CPU usage per host, cores — количество используемых процессорных ядер для каждого хоста.
- Memory usage per host, bytes — использование оперативной памяти для каждого хоста в подкластере ClickHouse® Keeper.
- CPU usage per host, % — загрузка процессорных ядер для каждого хоста.
- Memory usage per host, % — процент использования оперативной памяти для каждого хоста.
- Disk read per host — скорость чтения с диска для каждого хоста.
- Disk write per host — скорость записи на диск для каждого хоста.
- Disk usage per host — скорость дисковых операций для каждого хоста.
- Network usage per host — скорость обмена данными по сети для каждого хоста.
- Network data received per host — скорость приема данных из сети для каждого хоста.
- Network data sent per host — скорость отправки данных в сеть для каждого хоста.
На вкладке отображаются графики:
-
В блоке Service Metrics:
- Transactions — количество транзакций в секунду.
- Outstanding requests per ZooKeeper host — количество запросов, находящихся в обработке для каждого хоста ZooKeeper.
- Connections per ZooKeeper host — количество подключений для каждого хоста ZooKeeper.
- Transactions per ClickHouse® host — количество транзакций в секунду для каждого хоста ClickHouse®.
- Average transaction time per ClickHouse® host — среднее время транзакции для каждого хоста ClickHouse®. Показывает время, затрачиваемое ClickHouse® на обращения к ZooKeeper.
- Average latency per ZooKeeper host — средняя задержка ответа для каждого хоста ZooKeeper.
- Znodes — количество объектов Znode.
- Ephemeral nodes — количество объектов Ephemeral node.
- Watches — количество объектов Watch.
Примечание
Подробнее об объектах Znode, Ephemeral node и Watch в документации ZooKeeper
. -
В блоке System Metrics:
- CPU usage per host, cores — количество используемых процессорных ядер для каждого хоста.
- Memory usage per host, bytes — использование оперативной памяти для каждого хоста в подкластере ZooKeeper.
- CPU usage per host, % — загрузка процессорных ядер для каждого хоста.
- Memory usage per host, % — процент использования оперативной памяти для каждого хоста.
- Disk read per host — скорость чтения с диска для каждого хоста.
- Disk write per host — скорость записи на диск для каждого хоста.
- Disk usage per host — скорость дисковых операций для каждого хоста.
- Network usage per host — скорость обмена данными по сети для каждого хоста.
- Network data received per host — скорость приема данных из сети для каждого хоста.
- Network data sent per host — скорость отправки данных в сеть для каждого хоста.
Мониторинг состояния хостов
Для просмотра детальной информации о состоянии отдельных хостов Managed Service for ClickHouse®:
-
В консоли управления
выберите каталог, в котором находится кластер. -
Перейдите
в сервис Managed Service for ClickHouse. -
Нажмите на имя нужного кластера и выберите
Другое → Мониторинг. -
Перейдите на вкладку Хосты и выберите хост.
Для каждого хоста указан его тип:
CLICKHOUSE,KEEPERилиZOOKEEPER.Чтобы перейти к работе с метриками, дашбордами или алертами в сервисе Yandex Monitoring, нажмите кнопку Открыть в Monium на панели сверху.
Для хостов ClickHouse® отображаются графики:
-
В блоке Service Metrics:
- Availability — доступность хоста.
- Queries — количество запросов в секунду для каждого типа.
- Connections — количество HTTP и TCP подключений.
- Failed queries — процент неуспешных запросов для каждого типа.
- Average query time — среднее время выполнения запросов для каждого типа.
- Locks — количество активных и ожидающих блокировок на чтение и запись.
- Processed data — скорость чтения, вставки и слияния данных.
- Processed rows — скорость чтения, вставки и слияния строк в секунду.
- Background tasks — количество задач слияния и мутаций, извлечения и перемещения в фоновом пуле.
- Max replication delay across tables — максимальная задержка репликации таблиц. Значения больше нескольких секунд могут указывать на чрезмерную нагрузку или проблемы в работе репликации.
- Replication queue — размер очереди репликации.
- Max data parts per partition — максимальное количество кусков данных в партиции. Лимит для этой величины определяется настройками СУБД. Приближение к лимиту указывает на чрезмерную нагрузку или низкую эффективность вставки данных.
- Threads — количество потоков, используемых ClickHouse®.
-
В блоке System Metrics:
- CPU usage, % — процент использования процессорных ядер.
- Memory usage, % — процент использования оперативной памяти.
- Disk space usage, % — процент использования дискового пространства.
- CPU usage, cores — количество используемых процессорных ядер.
- Memory usage, bytes — использование оперативной памяти.
- Disk space usage, bytes — занятое дисковое пространство.
- Disk throughput — пропускная способность диска.
- Disk IOPS — количество операций чтения и записи для диска.
- Network throughput — пропускная способность сети.
Для хостов ClickHouse® Keeper отображаются графики:
-
В блоке Service Metrics:
- Availability — доступность хоста.
- Role — роль хоста Leader или Follower в подкластере ClickHouse® Keeper.
- Objects — количество объектов Znode, Ephemeral node и Watch.
- Connections — количество активных подключений к хосту.
- Outstanding requests — количество невыполненных запросов.
- Latency — количество запросов с задержкой ответа.
-
В блоке System Metrics:
- CPU usage, % — процент использования процессорных ядер.
- Memory usage, % — процент использования оперативной памяти.
- Disk space usage, % — процент использования дискового пространства.
- CPU usage, cores — количество используемых процессорных ядер.
- Memory usage, bytes — использование оперативной памяти.
- Disk space usage, bytes — занятое дисковое пространство.
- Disk throughput — пропускная способность диска.
- Disk IOPS — количество операций чтения и записи для диска.
- Network throughput — пропускная способность сети.
Для хостов ZooKeeper отображаются графики:
-
В блоке Service Metrics:
- Availability — доступность хоста.
- Role — роль хоста Leader или Follower в подкластере ZooKeeper.
- Objects — количество объектов Znode, Ephemeral node и Watch.
- Connections — количество активных подключений к хосту.
- Outstanding requests — количество невыполненных запросов.
- Request time — время обработки операций на чтение и запись.
-
В блоке System Metrics:
- CPU usage, % — процент использования процессорных ядер.
- Memory usage, % — процент использования оперативной памяти.
- Disk space usage, % — процент использования дискового пространства.
- CPU usage, cores — количество используемых процессорных ядер.
- Memory usage, bytes — использование оперативной памяти.
- Disk space usage, bytes — занятое дисковое пространство.
- Disk throughput — пропускная способность диска.
- Disk IOPS — количество операций чтения и записи для диска.
- Network throughput — пропускная способность сети.
Настройка алертов в Yandex Monitoring
- В консоли управления
выберите каталог с кластером, для которого нужно настроить алерты. - Перейдите
в сервис Monitoring. - В блоке Сервисные дашборды выберите:
- Managed Service for ClickHouse® — Cluster Overview для настройки алертов кластера;
- Managed Service for ClickHouse® — ZooKeeper для настройки алертов хостов ZooKeeper.
- Managed Service for ClickHouse® — Host Overview для настройки алертов хостов.
- На нужном графике с показателями нажмите на значок
и выберите Создать алерт. - Если на графике несколько показателей, выберите запрос данных для формирования метрики и нажмите Продолжить. Подробнее о языке запросов в документации Yandex Monitoring.
- Задайте значения порогов
AlarmиWarningдля срабатывания алерта. - Нажмите кнопку Создать алерт.
Чтобы настроить автоматический мониторинг других показателей состояния кластера:
- Создайте алерт.
- Добавьте метрику состояния.
- В параметрах алерта задайте значения порогов для оповещения.
Рекомендуемые значения порогов для некоторых метрик:
| Метрика | Обозначение | Alarm |
Warning |
|---|---|---|---|
| Максимальное число кусков данных в разделе | ch_system_async_metrics_MaxPartCountForPartition |
2500 |
1500 |
| Количество запросов, завершившихся с ошибкой | ch_system_events_FailedQuery_rate |
20% от общего числа запросов | 10% от общего числа запросов |
| Размер использованного хранилища | disk.used_bytes |
95% от размера хранилища | 80% от размера хранилища |
| Количество работоспособных хостов | is_alive |
<количество_хостов> - 2 |
<количество_хостов> - 1 |
Чтобы определить пороговые значения метрики ch_system_events_FailedQuery_rate, используйте значение показателя Total queries для кластера.
Для метрики disk.used_bytes значения порогов Alarm и Warning задаются только в байтах. Например, рекомендуемые значения для диска размером в 100 ГБ:
Alarm—102005473280байт (95%).Warning—85899345920байт (75%).
Текущий размер хранилища можно посмотреть в детальной информации о кластере. Полный список поддерживаемых метрик приведен в документации Monitoring.
Состояние и статус кластера
Состояние кластера указывает на исправность его хостов, а Статус показывает, запущен кластер, остановлен или находится в промежуточном состоянии.
Для просмотра состояния и статуса кластера:
- В консоли управления
выберите каталог, в котором находится кластер. - Перейдите
в сервис Managed Service for ClickHouse. - Наведите курсор на индикатор в столбце Доступность в строке нужного кластера.
Состояния кластера
| Состояние | Описание | Предлагаемые действия |
|---|---|---|
| ALIVE | Кластер работает в штатном режиме. | Действий не требуется. |
| DEGRADED | Кластер работает не на полную мощность: минимум один из хостов имеет состояние, отличное от ALIVE. |
Выполните диагностику:
|
| DEAD | Кластер неработоспособен: ни один его хост не работает. | Составьте обращение в службу поддержки
|
| UNKNOWN | Состояние кластера неизвестно. | Составьте обращение в службу поддержки
|
Восстановление кластера в состоянии DEAD
Если кластер находится в состоянии DEAD, создайте запрос в техническую поддержку
При восстановлении будет создан отдельный кластер. Выберите доступную резервную копию или момент восстановления с учетом допустимой потери последних изменений: данные, записанные позже выбранного момента, в новый кластер не попадут. После восстановления переключите приложения на новый кластер.
Если причиной недоступности стала высокая нагрузка, восстановление из резервной копии само по себе ее не устранит. До возобновления полной нагрузки ограничьте интенсивность запросов, а после восстановления проанализируйте потребление ресурсов и оптимизируйте нагрузку, чтобы проблема не повторилась.
- Восстановите кластер из резервной копии.
- Обновите параметры подключения в приложениях и проверьте доступ к данным в новом кластере.
- Проведите диагностику производительности, чтобы выявить ресурсоемкие запросы и оптимизировать нагрузку.
Статусы кластера
| Статус | Описание | Предлагаемые действия |
|---|---|---|
| CREATING | Идет подготовка к первому запуску | Подождите немного и приступайте к работе. Время создания кластера зависит от класса хостов. |
| RUNNING | Кластер работает в штатном режиме | Действий не требуется. |
| STOPPING | Кластер останавливается | Через некоторое время кластеру будет присвоен статус STOPPED, и он будет выведен из работы. Действий не требуется. |
| STOPPED | Кластер остановлен | Запустите кластер, чтобы вернуть его в работу. |
| STARTING | Остановленный ранее кластер запускается | Через некоторое время кластеру будет присвоен статус RUNNING. Подождите немного и приступайте к работе. |
| UPDATING | Обновляется конфигурация кластера | По завершении обновления кластеру будет присвоен статус, который был до обновления: RUNNING или STOPPED. |
| ERROR | Произошла ошибка при выполнении операции с кластером или во время окна технического обслуживания | Если кластер долго находится в этом статусе, обратитесь в службу поддержки |
| STATUS_UNKNOWN | Кластер не может определить свой статус | Если кластер долго находится в этом статусе, обратитесь в службу поддержки |
ClickHouse® является зарегистрированным товарным знаком ClickHouse, Inc