Создать триггер для Data Streams, который вызывает контейнер Serverless Containers

Если у вас еще нет интерфейса командной строки Yandex Cloud (CLI), установите и инициализируйте его.

По умолчанию используется каталог, указанный при создании профиля CLI. Чтобы изменить каталог по умолчанию, используйте команду yc config set folder-id <идентификатор_каталога>. Также для любой команды вы можете указать другой каталог с помощью параметров --folder-name или --folder-id.

Чтобы создать триггер, который вызывает контейнер, выполните команду:

yc serverless trigger create yds \
  --name <имя_триггера> \
  --database <размещение_базы_данных> \
  --stream <имя_потока_данных> \
  --batch-size <размер_группы_сообщений> \
  --batch-cutoff <максимальное_время_ожидания> \
  --stream-service-account-id <идентификатор_сервисного_аккаунта> \
  --invoke-container-id <идентификатор_контейнера> \
  --invoke-container-service-account-id <идентификатор_сервисного_аккаунта> \
  --retry-attempts <количество_повторных_вызовов> \
  --retry-interval <интервал_между_повторными_вызовами> \
  --dlq-queue-id <идентификатор_очереди_Dead_Letter_Queue> \
  --dlq-service-account-id <идентификатор_сервисного_аккаунта>

Где:

• --name — имя триггера.

• --database — размещение базы данных YDB, к которой привязан поток Data Streams.

  Чтобы узнать, где размещена база данных, выполните команду yc ydb database list. Размещение базы данных указано в столбце ENDPOINT, в параметре database, например /ru-central1/b1gia87mbah2********/etn7hehf6gh3********.

• --stream — имя потока данных.

• --batch-size — размер группы сообщений. Необязательный параметр. Допустимые значения от 1 Б до 64 КБ, значение по умолчанию — 1 Б.

• --batch-cutoff — максимальное время ожидания. Необязательный параметр. Допустимые значения от 1 до 60 секунд, значение по умолчанию — 1 секунда. Триггер группирует сообщения не дольше batch-cutoff и отправляет их в контейнер. Суммарный объем данных, которые передаются в контейнер, может превышать batch-size, если данные передаются в одном сообщении. Во всех остальных случаях объем данных не превышает batch-size.

• --stream-service-account-id — идентификатор сервисного аккаунта, у которого есть права на чтение из потока данных и запись в него.

• --invoke-container-id — идентификатор контейнера.
• --invoke-container-service-account-id — идентификатор сервисного аккаунта с правами на вызов контейнера.
• --retry-attempts — количество повторных вызовов, которые будут сделаны, прежде чем триггер отправит сообщение в Dead Letter Queue. Необязательный параметр. Допустимые значения — от 1 до 5, значение по умолчанию — 1.
• --retry-interval — время, через которое будет сделан повторный вызов контейнера, если текущий завершился неуспешно. Необязательный параметр. Допустимые значения — от 10 до 60 секунд, значение по умолчанию — 10 секунд.
• --dlq-queue-id — идентификатор очереди Dead Letter Queue. Необязательный параметр.
• --dlq-service-account-id — идентификатор сервисного аккаунта с правами на запись в очередь Dead Letter Queue. Необязательный параметр.

Результат:

id: a1s5msktijh2********
folder_id: b1gmit33hgh2********
created_at: "2022-10-24T14:07:04.693126923Z"
name: data-streams-trigger
rule:
  data_stream:
    database: /ru-central1/b1gia87mbah2********/etn7hehh2********
    stream: streams-name
    service_account_id: ajep8qm0kh2********
    batch_settings:
      size: "1"
      cutoff: 1s
    invoke_container:
      container_id: bba5jb38o8h2********
      service_account_id: aje03adgd2h2********
      retry_settings:
        retry_attempts: "1"
        interval: 10s
      dead_letter_queue:
        queue-id: yrn:yc:ymq:ru-central1:b1gmit33ngh2********:dlq
        service-account-id: aje3lebfemh2********
status: ACTIVE

Terraform позволяет быстро создать облачную инфраструктуру в Yandex Cloud и управлять ею с помощью файлов конфигураций. В файлах конфигураций хранится описание инфраструктуры на языке HCL (HashiCorp Configuration Language). При изменении файлов конфигураций Terraform автоматически определяет, какая часть вашей конфигурации уже развернута, что следует добавить или удалить.

Terraform распространяется под лицензией Business Source License, а провайдер Yandex Cloud для Terraform — под лицензией MPL-2.0.

Подробную информацию о ресурсах провайдера смотрите в документации на сайте Terraform или в зеркале.

Если у вас еще нет Terraform, установите его и настройте провайдер Yandex Cloud.

Чтобы создать триггер для Data Streams:

1. Опишите в конфигурационном файле параметры триггера:

   resource "yandex_function_trigger" "my_trigger" {
     name = "<имя_триггера>"
     container {
       id                 = "<идентификатор_контейнера>"
       service_account_id = "<идентификатор_сервисного_аккаунта>"
       retry_attempts     = "<количество_повторных_вызовов>"
       retry_interval     = "<интервал_между_повторными_вызовами>"
     }
     data_streams {
       stream_name        = "<имя_потока_данных>"
       database           = "<размещение_базы_данных>"
       service_account_id = "<идентификатор_сервисного_аккаунта>"
       batch_cutoff       = "<максимальное_время_ожидания>"
       batch_size         = "<размер_группы_сообщений>"
     }
     dlq {
       queue_id           = "<идентификатор_очереди_Dead_Letter_Queue>"
       service_account_id = "<идентификатор_сервисного_аккаунта>"
     }
   }
   

   Где:

   • name — имя триггера. Формат имени:

     • длина — от 2 до 63 символов;
     • может содержать строчные буквы латинского алфавита, цифры и дефисы;
     • первый символ — буква, последний — не дефис.

   • container — параметры контейнера:

     • id — идентификатор контейнера.
     • service_account_id — идентификатор сервисного аккаунта с правами на вызов контейнера.
     • retry_attempts — количество повторных вызовов, которые будут сделаны, прежде чем триггер отправит сообщение в Dead Letter Queue. Необязательный параметр. Допустимые значения — от 1 до 5, значение по умолчанию — 1.
     • retry_interval — время, через которое будет сделан повторный вызов контейнера, если текущий завершился неуспешно. Необязательный параметр. Допустимые значения — от 10 до 60 секунд, значение по умолчанию — 10 секунд.

   • data_streams — параметры триггера:

     • stream_name — имя потока данных.

     • database — размещение базы данных YDB, к которой привязан поток Data Streams.

       Чтобы узнать, где размещена база данных, выполните команду yc ydb database list. Размещение базы данных указано в столбце ENDPOINT, в параметре database, например /ru-central1/b1gia87mba**********/etn7hehf6g*******.

     • service_account_id — идентификатор сервисного аккаунта, у которого есть права на чтение из потока данных и запись в него.

     • batch_cutoff — максимальное время ожидания. Необязательный параметр. Допустимые значения от 1 до 60 секунд, значение по умолчанию — 1 секунда. Триггер группирует сообщения не дольше batch_cutoff и отправляет их в контейнер. Число сообщений при этом не превышает batch_size.

     • batch_size — размер группы сообщений. Необязательный параметр. Допустимые значения от 1 Б до 64 КБ, значение по умолчанию — 1 Б.

   • dlq — параметры очереди сообщений Dead Letter Queue:
     • queue_id — идентификатор очереди Dead Letter Queue. Необязательный параметр.
     • service_account_id — идентификатор сервисного аккаунта с правами на запись в очередь Dead Letter Queue. Необязательный параметр.

   Более подробную информацию о параметрах ресурса yandex_function_trigger см. в документации провайдера.

2. Создайте ресурсы:

   1. В терминале перейдите в папку, где вы отредактировали конфигурационный файл.

   2. Проверьте корректность конфигурационного файла с помощью команды:

      terraform validate
      

      Если конфигурация является корректной, появится сообщение:

      Success! The configuration is valid.
      

   3. Выполните команду:

      terraform plan
      

      В терминале будет выведен список ресурсов с параметрами. На этом этапе изменения не будут внесены. Если в конфигурации есть ошибки, Terraform на них укажет.

   4. Примените изменения конфигурации:

      terraform apply
      

   5. Подтвердите изменения: введите в терминале слово yes и нажмите Enter.

   Terraform создаст все требуемые ресурсы. Проверить появление ресурсов можно в консоли управления или с помощью команды CLI:

   yc serverless trigger list
   

Чтобы создать триггер для Data Streams, воспользуйтесь методом REST API create для ресурса Trigger или вызовом gRPC API TriggerService/Create.