Создание реестра схем для поставки данных в формате Debezium CDC из Apache Kafka®
Важно
Функциональность доступна только в регионе Россия.
Вы можете создать реестр схем, чтобы отслеживать эволюцию схем для источника Apache Kafka® или Yandex Managed Service for Apache Kafka® с помощью сервиса Yandex Data Transfer. В этом руководстве отслеживается эволюция схем для источника Managed Service for Apache Kafka®.
Чтобы отследить изменение схем для источника Managed Service for Apache Kafka®:
Если созданные ресурсы вам больше не нужны, удалите их.
Перед началом работы
Зарегистрируйтесь в Yandex Cloud и создайте платежный аккаунт:
- Перейдите в консоль управления
, затем войдите в Yandex Cloud или зарегистрируйтесь. - На странице Yandex Cloud Billing
убедитесь, что у вас подключен платежный аккаунт, и он находится в статусеACTIVEилиTRIAL_ACTIVE. Если платежного аккаунта нет, создайте его и привяжите к нему облако.
Если у вас есть активный платежный аккаунт, вы можете создать или выбрать каталог, в котором будет работать ваша инфраструктура, на странице облака
Подробнее об облаках и каталогах.
Необходимые платные ресурсы
- Кластер Managed Service for Apache Kafka®: использование выделенных хостам вычислительных ресурсов, объем хранилища и резервных копий (см. тарифы Managed Service for Apache Kafka®).
- Каждый трансфер: использование вычислительных ресурсов и количество переданных строк данных (см. тарифы Data Transfer).
Подготовьте инфраструктуру
Создайте кластер Managed Service for Apache Kafka® произвольной конфигурации. Если вы планируете подключаться к хостам-брокерам из интернета, включите публичный доступ. В этом случае подключаться к ним можно только с использованием SSL-соединения.
Создайте реестр схем
- В консоли управления
выберите каталог, в котором вы будете работать с реестром схем. - Перейдите в сервис Yandex MetaData Hub.
- Hа панели слева выберите
Schema Registry / Пространство имён. - Нажмите кнопку Создать пространство имён.
- Укажите настройки пространства имен. После сохранения пространства имен, вы сможете использовать его идентификатор для получения URL Schema Registry:
{namespace_id}.schema-registry.yandexcloud.net:443.
Подготовьте и запустите трансфер
-
Откройте консоль управления
. -
Перейдите в сервис Yandex Data Transfer.
-
Создайте эндпоинт-источник Apache Kafka® со следующими настройками:
-
Тип базы данных — Apache Kafka®.
-
Тип подключения — Ручная настройка.
-
Тип инсталляции — Кластер Managed Service for Apache Kafka®.
-
В блоке Кластер Managed Service for Apache Kafka®:
- Кластер Managed Service for Apache Kafka® — выберите созданный ранее кластер Managed Service for Apache Kafka®.
- Аутентификация — SASL.
- Имя пользователя и Пароль — имя и пароль пользователя в кластере Managed Service for Apache Kafka®.
-
В блоке Расширенные настройки → Правила конвертации:
- Правила конвертации — Парсер Debezium CDC.
- Настройки подключения к Schema Registry — On Premise Schema Registry.
- Schema Registry URL — полученный ранее URL Schema Registry.
-
-
Создайте и запустите трансфер данных.
Удалите созданные ресурсы
Примечание
Перед тем как удалить созданные ресурсы, деактивируйте трансфер.
Некоторые ресурсы платные. Удалите ресурсы, которые вы больше не будете использовать, чтобы не платить за них: