Поставка данных из очереди Data Streams в Managed Service for YDB с помощью Yandex Data Transfer

С помощью сервиса Data Transfer можно поставлять данные из потока Data Streams в базу данных Managed Service for YDB.

Чтобы перенести данные:

1. Подготовьте поток данных Data Streams.
2. Подготовьте и активируйте трансфер.
3. Проверьте работоспособность трансфера.

Если созданные ресурсы вам больше не нужны, удалите их.

Перед началом работыПеред началом работы

Подготовьте инфраструктуру поставки данных:

Создайте поток данных Data StreamsСоздайте поток данных Data Streams

Создайте поток данных Data Streams.

Подготовьте и активируйте трансферПодготовьте и активируйте трансфер

1. Создайте эндпоинт для источника Data Streams.

   • Тип базы данных — Yandex Data Streams.

   • Параметры эндпоинта:

     • Настройки подключения:

       • База данных — выберите из списка базу данных Managed Service for YDB для потока Data Streams.
       • Поток — укажите имя потока Data Streams.
       • Сервисный аккаунт — выберите или создайте сервисный аккаунт с ролью yds.editor.

     • Расширенные настройки:

       • Правила конвертации — JSON.

       • Схема данных — JSON-спецификация.

         Заполните схему данных:

         Схема данных

             [
                 {
                     "name": "device_id",
                     "type": "string"
                 },
                 {
                     "name": "datetime",
                     "type": "datetime"
                 },
                 {
                     "name": "latitude",
                     "type": "double"
                 },
                 {
                     "name": "longitude",
                     "type": "double"
                 },
                 {
                     "name": "altitude",
                     "type": "double"
                 },
                 {
                     "name": "speed",
                     "type": "double"
                 },
                 {
                     "name": "battery_voltage",
                     "type": "any"
                 },
                 {
                     "name": "cabin_temperature",
                     "type": "double"
                 },
                 {
                     "name": "fuel_level",
                     "type": "any"
                 }
             ]
         

2. Создайте эндпоинт для приемника:

   • Тип базы данных — YDB.

   • Параметры эндпоинта:

     • Настройки подключения:

       • База данных — выберите базу данных приемника Managed Service for YDB из списка.
       • Идентификатор сервисного аккаунта — выберите или создайте сервисный аккаунт с ролью ydb.editor.

3. Создайте трансфер:

   Вручную

   Terraform

   1. Создайте трансфер типа Репликация, использующий созданные эндпоинты.
   2. Активируйте его.

   1. Укажите в файле yds-to-ydb.tf значения переменных:

      • source_endpoint_id — идентификатор эндпоинта для источника;
      • target_endpoint_id — идентификатор эндпоинта для приемника;
      • transfer_enabled – значение 1 для создания трансфера.

   2. Проверьте корректность файлов конфигурации Terraform с помощью команды:

      terraform validate
      

      Если в файлах конфигурации есть ошибки, Terraform на них укажет.

   3. Создайте необходимую инфраструктуру:

      1. Выполните команду для просмотра планируемых изменений:

         terraform plan
         

         Если конфигурации ресурсов описаны верно, в терминале отобразится список изменяемых ресурсов и их параметров. Это проверочный этап: ресурсы не будут изменены.

      2. Если вас устраивают планируемые изменения, внесите их:

         1. Выполните команду:

            terraform apply
            

         2. Подтвердите изменение ресурсов.

         3. Дождитесь завершения операции.

      Трансфер активируется автоматически.

Проверьте работоспособность трансфераПроверьте работоспособность трансфера

1. Дождитесь перехода трансфера в статус Реплицируется.

2. Отправьте в поток Data Streams тестовые данные:

   {
       "device_id":"iv9a94th6rzt********",
       "datetime":"2020-06-05T17:27:00",
       "latitude":"55.70329032",
       "longitude":"37.65472196",
       "altitude":"427.5",
       "speed":"0",
       "battery_voltage":"23.5",
       "cabin_temperature":"17",
       "fuel_level":null
   }
   

3. Убедитесь, что данные перенеслись в базу данных приемника:

   Консоль управления

   YDB CLI

   1. В консоли управления выберите каталог, в котором база данных.
   2. В списке сервисов выберите Managed Service for YDB.
   3. Выберите базу из списка.
   4. Перейдите на вкладку Навигация.
   5. Проверьте, что в таблицу <название_потока> добавились тестовые данные.

   1. Подключитесь к базе данных Managed Service for YDB.

   2. Проверьте, что в таблицу <название_потока> добавились тестовые данные:

      ydb table query execute \
      --query "SELECT * \
      FROM <название_потока>"
      

Удалите созданные ресурсыУдалите созданные ресурсы

Некоторые ресурсы платные. Чтобы за них не списывалась плата, удалите ресурсы, которые вы больше не будете использовать:

1. Удалите трансфер.
2. Удалите эндпоинты для источника и приемника.
3. Если вы создавали сервисные аккаунты, удалите их.

Остальные ресурсы удалите в зависимости от способа их создания: