Техническое обслуживание кластера Apache Hive™ Metastore
Вы можете управлять техническим обслуживанием кластера Apache Hive™ Metastore.
Получить список обслуживаний
-
В консоли управления
перейдите в нужный каталог. -
Перейдите в сервис Yandex MetaData Hub.
-
На панели слева выберите
Metastore-сервер. -
Нажмите на имя нужного кластера и выберите вкладку
Обслуживание.Чтобы просмотреть обслуживания с определенным статусом, выберите статус в поле Статус над списком обслуживаний. Чтобы найти обслуживание, введите его идентификатор или имя задания в поле над списком обслуживаний.
Получить логи технического обслуживания кластера
- В консоли управления
перейдите в нужный каталог. - Перейдите в сервис Yandex MetaData Hub.
- На панели слева выберите
Metastore-сервер. - Нажмите на имя нужного кластера и выберите вкладку
Обслуживание. - Выберите обслуживание. Откроется страница обслуживания.
- Нажмите ссылку Логи задания.
Перенести запланированное обслуживание
Обслуживание в статусе Запланировано назначено на определенную дату и время, которые указаны в столбце Дата начала. При необходимости его можно перенести на новую дату и время.
Чтобы перенести обслуживание на новую дату и время:
-
В консоли управления
перейдите в нужный каталог. -
Перейдите в сервис Yandex MetaData Hub.
-
На панели слева выберите
Metastore-сервер. -
Нажмите на имя нужного кластера и выберите вкладку
Обслуживание. -
В строке обслуживания со статусом Запланировано нажмите на значок
и выберите пункт Перенести. -
Выберите тип переноса запланированного обслуживания:
-
На следующее окно — перенос на следующее окно обслуживания.
-
Выбрать дату (UTC) — перенос на конкретную дату и время.
Для этого переноса выберите дату и интервал времени по UTC.
Обслуживание можно перенести не более чем на две недели от первоначально запланированной даты.
-
-
Нажмите кнопку Перенести.
Провести запланированное обслуживание немедленно
Обслуживание со статусом Запланировано при необходимости можно провести немедленно, не дожидаясь момента, указанного в столбце Дата начала.
Чтобы провести запланированное обслуживание кластера немедленно:
- В консоли управления
перейдите в нужный каталог. - Перейдите в сервис Yandex MetaData Hub.
- На панели слева выберите
Metastore-сервер. - Нажмите на имя нужного кластера и выберите вкладку
Обслуживание. - В строке нужного обслуживания нажмите на значок
и выберите пункт Провести сейчас.
Настроить окно обслуживания
-
В консоли управления
перейдите в нужный каталог. -
Перейдите в сервис Yandex MetaData Hub.
-
На панели слева выберите
Metastore-сервер. -
Нажмите на имя нужного кластера и выберите вкладку
Обслуживание. -
В правом верхнем углу страницы нажмите кнопку
Настроить окно обслуживания. -
Выберите время технического обслуживания кластера:
- Чтобы разрешить проведение технического обслуживания в любое время, выберите пункт В любое время (по умолчанию).
- Чтобы указать предпочтительное время начала обслуживания, выберите пункт По расписанию и укажите день недели и интервал времени по UTC. Например, можно выбрать время, когда кластер наименее загружен.
Операции по техническому обслуживанию проводятся для включенных и выключенных кластеров. Они могут включать установку обновлений и исправлений компонента Apache Hive™ Metastore, а также другие сервисные работы.
-
Нажмите кнопку Сохранить.
Если у вас еще нет интерфейса командной строки Yandex Cloud (CLI), установите и инициализируйте его.
По умолчанию используется каталог, указанный при создании профиля CLI. Чтобы изменить каталог по умолчанию, используйте команду yc config set folder-id <идентификатор_каталога>. Также для любой команды вы можете указать другой каталог с помощью параметров --folder-name или --folder-id. Если вы обращаетесь к ресурсу по имени, поиск будет выполнен в каталоге по умолчанию. Если вы обращаетесь к ресурсу по идентификатору, поиск будет выполнен глобально — во всех каталогах с учетом прав доступа.
Чтобы настроить окно обслуживания:
-
Посмотрите описание команды CLI для изменения настроек кластера:
yc managed-metastore cluster update --help -
Настройте окно обслуживания:
yc managed-metastore cluster update <имя_или_идентификатор_кластера> \ --maintenance-window type=<тип_технического_обслуживания>,` `day=<день_недели>,` `hour=<порядковый_номер_часового_интервала>Где:
-
<имя_или_идентификатор_кластера>— имя или идентификатор кластера, которые можно получить со списком кластеров в каталоге. -
--maintenance-window— настройки времени технического обслуживания (в т. ч. для выключенных кластеров), гдеtype— тип технического обслуживания:anytime(по умолчанию) — в любое время.weekly— по расписанию. Для этого значения дополнительно укажите:-
day— день недели:MON,TUE,WED,THU,FRI,SATилиSUN. -
hour— порядковый номер часового интервала по UTC: от1до24.Например,
1соответствует интервалу с00:00до01:00,5— с04:00до05:00.
-
-
-
Откройте актуальный конфигурационный файл Terraform с планом инфраструктуры.
Как создать такой файл, читайте в разделе Создание кластера.
Полный список доступных для изменения полей конфигурации кластера Apache Hive™ Metastore вы найдете в документации провайдера Terraform.
-
Чтобы настроить окно обслуживания, добавьте к описанию кластера блок
maintenance_window:resource "yandex_metastore_cluster" "<локальное_имя_кластера>" { ... maintenance_window = { type = "<тип_технического_обслуживания>" day = "<день_недели>" hour = <порядковый_номер_часового_интервала> } ... }Где:
-
type— тип технического обслуживания. Принимает значения:ANYTIME— в любое время.WEEKLY— по расписанию.
-
day— день недели для типаWEEKLY:MON,TUE,WED,THU,FRI,SATилиSUN. -
hour— порядковый номер часового интервала по UTC для типаWEEKLY: от1до24.Например,
1соответствует интервалу с00:00до01:00,5— с04:00до05:00.
-
-
Проверьте корректность настроек.
-
В командной строке перейдите в каталог, в котором расположены актуальные конфигурационные файлы Terraform с планом инфраструктуры.
-
Выполните команду:
terraform validateЕсли в файлах конфигурации есть ошибки, Terraform на них укажет.
-
-
Подтвердите изменение ресурсов.
-
Выполните команду для просмотра планируемых изменений:
terraform planЕсли конфигурации ресурсов описаны верно, в терминале отобразится список изменяемых ресурсов и их параметров. Это проверочный этап: ресурсы не будут изменены.
-
Если вас устраивают планируемые изменения, внесите их:
-
Выполните команду:
terraform apply -
Подтвердите изменение ресурсов.
-
Дождитесь завершения операции.
-
-
-
Получите IAM-токен для аутентификации в API и поместите токен в переменную среды окружения:
export IAM_TOKEN="<IAM-токен>" -
Воспользуйтесь методом Cluster.Update и выполните запрос, например с помощью cURL
:curl \ --request PATCH \ --header "Authorization: Bearer $IAM_TOKEN" \ --header "Content-Type: application/json" \ --url 'https://metastore.api.cloud.yandex.net/managed-metastore/v1/clusters/<идентификатор_кластера>' \ --data '{ "updateMask": "maintenanceWindow", "maintenanceWindow": { "weeklyMaintenanceWindow": { "day": "<день_недели>", "hour": "<порядковый_номер_часового_интервала>" } } }'Где:
-
<идентификатор_кластера>— идентификатор кластера, который можно получить со списком кластеров в каталоге. -
updateMask— перечень изменяемых параметров в строку через запятую.В этом примере передается только один параметр
maintenanceWindow.Важно
Все настройки изменяемого объекта в кластере, которые не были явно переданы в запросе, будут переопределены на значения по умолчанию. Чтобы избежать этого, перечислите настройки, которые вы хотите изменить, в параметре
updateMask. -
maintenanceWindow— настройки времени технического обслуживания (в т. ч. для выключенных кластеров). ВmaintenanceWindowпередайте один из двух параметров:-
anytime— техническое обслуживание происходит в произвольное время. -
weeklyMaintenanceWindow— техническое обслуживание происходит раз в неделю, в указанное время:-
day— день недели в форматеDDD:MON,TUE,WED,THU,FRI,SATилиSUN. -
hour— порядковый номер часового интервала по UTC: от1до24.Например,
1соответствует интервалу с00:00до01:00,5— с04:00до05:00.
-
-
-
-
Убедитесь, что запрос был выполнен успешно, изучив ответ сервера.
-
Получите IAM-токен для аутентификации в API и поместите токен в переменную среды окружения:
export IAM_TOKEN="<IAM-токен>" -
Клонируйте репозиторий cloudapi
:cd ~/ && git clone --depth=1 https://github.com/yandex-cloud/cloudapiДалее предполагается, что содержимое репозитория находится в директории
~/cloudapi/. -
Воспользуйтесь вызовом ClusterService.Update и выполните запрос, например с помощью gRPCurl
:grpcurl \ -format json \ -import-path ~/cloudapi/ \ -import-path ~/cloudapi/third_party/googleapis/ \ -proto ~/cloudapi/yandex/cloud/metastore/v1/cluster_service.proto \ -rpc-header "Authorization: Bearer $IAM_TOKEN" \ -d '{ "cluster_id": "<идентификатор_кластера>", "update_mask": { "paths": [ "maintenance_window" ] }, "maintenance_window": { "weekly_maintenance_window": { "day": "<день_недели>", "hour": "<порядковый_номер_часового_интервала>" } } }' \ metastore.api.cloud.yandex.net:443 \ yandex.cloud.metastore.v1.ClusterService.Update \Где:
-
cluster_id— идентификатор кластера, который можно получить со списком кластеров в каталоге. -
update_mask— перечень изменяемых параметров в виде массива строкpaths[].Формат перечисления настроек
"update_mask": { "paths": [ "<настройка_1>", "<настройка_2>", ... "<настройка_N>" ] }В этом примере передается только один параметр
maintenance_window.Важно
Все настройки изменяемого объекта в кластере, которые не были явно переданы в запросе, будут переопределены на значения по умолчанию. Чтобы избежать этого, перечислите настройки, которые вы хотите изменить, в параметре
update_mask. -
maintenance_window— настройки времени технического обслуживания (в т. ч. для выключенных кластеров). Вmaintenance_windowпередайте один из двух параметров:-
anytime— техническое обслуживание происходит в произвольное время. -
weekly_maintenance_window— техническое обслуживание происходит раз в неделю, в указанное время:-
day— день недели в форматеDDD:MON,TUE,WED,THU,FRI,SATилиSUN. -
hour— порядковый номер часового интервала по UTC: от1до24.Например,
1соответствует интервалу с00:00до01:00,5— с04:00до05:00.
-
-
-
-
Убедитесь, что запрос был выполнен успешно, изучив ответ сервера.
Apache® и Apache Hive™