Перешардирование данных в кластере Managed Service for ClickHouse®
С помощью сервиса Data Transfer вы можете перенести вашу базу данных из шардированного кластера-источника Managed Service for ClickHouse® в кластер-приемник Managed Service for ClickHouse® с другой конфигурацией шардов.
Этот способ позволяет перераспределить данные шардированных таблиц по новой конфигурации шардов кластера ClickHouse®.
Перенесите данные с перераспределением по шардам
-
Подготовьте инфраструктуру:
ВручнуюTerraform-
Создайте кластер-приемник Managed Service for ClickHouse®, вычислительная мощность и размер хранилища которого соответствуют среде, в которой развернута копируемая база данных.
Имя базы в кластере-приемнике должно совпадать с именем базы-источника.
-
Добавьте нужное количество шардов в кластер-приемник Managed Service for ClickHouse®.
-
Создайте эндпоинт для источника:
-
Тип базы данных —
ClickHouse
. -
Параметры эндпоинта → Настройки подключения —
Кластер Managed Service for ClickHouse
.Выберите кластер-источник из списка и укажите настройки подключения к нему.
-
-
Создайте эндпоинт для приемника:
-
Тип базы данных —
ClickHouse
. -
Параметры эндпоинта → Настройки подключения —
Managed кластер
.Выберите кластер-приемник из списка и укажите настройки подключения к нему.
-
Параметры эндпоинта → Настройки шардирования → Шардирование —
Равномерное случайное шардирование
.
-
-
Создайте трансфер типа Копирование, использующий созданные эндпоинты.
-
Активируйте его.
-
Если у вас еще нет Terraform, установите его.
-
Получите данные для аутентификации. Вы можете добавить их в переменные окружения или указать далее в файле с настройками провайдера.
-
Настройте и инициализируйте провайдер. Чтобы не создавать конфигурационный файл с настройками провайдера вручную, скачайте его
. -
Поместите конфигурационный файл в отдельную рабочую директорию и укажите значения параметров. Если данные для аутентификации не были добавлены в переменные окружения, укажите их в конфигурационном файле.
-
Скачайте в ту же рабочую директорию файл конфигурации data-transfer-mch-mch-resharding.tf
.В этом файле описаны:
- сеть;
- подсеть;
- группа безопасности и правило, необходимое для подключения к кластеру;
- кластер-приемник Managed Service for ClickHouse® с заданным количеством шардов;
- эндпоинт для источника;
- эндпоинт для приемника;
- трансфер.
-
Укажите в файле
data-transfer-mch-mch-resharding.tf
:-
параметры эндпоинта-источника:
source_cluster
— идентификатор кластера-источника Managed Service for ClickHouse®;source_user
иsource_pwd
— имя и пароль пользователя для доступа к источнику;source_db_name
— имя базы данных.
-
параметры кластера-приемника, которые используются и как параметры эндпоинта-приемника:
target_clickhouse_version
— версия ClickHouse®;target_user
иtarget_password
— имя и пароль пользователя-владельца базы данных.
-
-
Проверьте корректность файлов конфигурации Terraform с помощью команды:
terraform validate
Если в файлах конфигурации есть ошибки, Terraform на них укажет.
-
Создайте необходимую инфраструктуру:
-
Выполните команду для просмотра планируемых изменений:
terraform plan
Если конфигурации ресурсов описаны верно, в терминале отобразится список изменяемых ресурсов и их параметров. Это проверочный этап: ресурсы не будут изменены.
-
Если вас устраивают планируемые изменения, внесите их:
-
Выполните команду:
terraform apply
-
Подтвердите изменение ресурсов.
-
Дождитесь завершения операции.
-
В указанном каталоге будут созданы все требуемые ресурсы. Проверить появление ресурсов и их настройки можно в консоли управления
.Трансфер активируется автоматически после создания.
-
-
-
Дождитесь перехода трансфера в статус Завершен.
Подробнее о статусах трансфера см. в разделе Жизненный цикл трансфера.
Удалите созданные ресурсы
Некоторые ресурсы платные. Чтобы за них не списывалась плата, удалите ресурсы, которые вы больше не будете использовать:
- Удалите кластер-приемник Managed Service for ClickHouse®.
- Удалите завершившийся трансфер.
- Удалите эндпоинты для источника и приемника.
-
В терминале перейдите в директорию с планом инфраструктуры.
-
Удалите конфигурационный файл
data-transfer-mch-mch-resharding.tf
. -
Проверьте корректность файлов конфигурации Terraform с помощью команды:
terraform validate
Если в файлах конфигурации есть ошибки, Terraform на них укажет.
-
Подтвердите изменение ресурсов.
-
Выполните команду для просмотра планируемых изменений:
terraform plan
Если конфигурации ресурсов описаны верно, в терминале отобразится список изменяемых ресурсов и их параметров. Это проверочный этап: ресурсы не будут изменены.
-
Если вас устраивают планируемые изменения, внесите их:
-
Выполните команду:
terraform apply
-
Подтвердите изменение ресурсов.
-
Дождитесь завершения операции.
-
Все ресурсы, которые были описаны в конфигурационном файле
data-transfer-mch-mch-resharding.tf
, будут удалены. -
ClickHouse® является зарегистрированным товарным знаком ClickHouse, Inc