Интеграция с Yandex Foundation Models

В процессе создания нового рабочего процесса или изменения существующего в консоли управления в блоке Создание рабочего процесса / Изменение рабочего процесса выберите Конструктор.

Из секции Интеграционные шаги в левой части экрана перетащите элемент Foundation Models в нужное место рабочего процесса в окне конструктора.

Перетаскивать шаги можно в обозначенные пунктирной линией блоки на графической схеме рабочего процесса, такие как Добавить шаг и т.п.

В окне со схемой рабочего процесса нажмите на добавленный блок Foundation Models, чтобы выбрать его.

В правой части окна на вкладке Настройки:

1. В поле Имя шага задайте имя шага рабочего процесса.

2. Выберите:

   • YandexGPT, чтобы использовать модель YandexGPT Pro, и в поле Идентификатор каталога выберите каталог, в котором будет вызываться модель.
   • Дообученная модель, чтобы использовать дообученную модель, и в поле Идентификатор модели укажите идентификатор (URI) дообученной модели.

3. В поле Температура задайте вариативность ответа модели: чем выше значение температуры, тем более непредсказуемым будет результат выполнения запроса. Диапазон возможных значений – от 0 до 1.

4. В поле Количество токенов задайте ограничение на максимально допустимое количество токенов в ответе модели.

5. В блоке Контекст выберите:

   • JSON-строка, чтобы задать контекст запроса к модели в формате JSON-строки.
   • Сообщения, чтобы задать контекст запроса к модели в виде последовательности отдельных сообщений в формате <Идентификатор_отправителя_сообщения>:<Текст_сообщения>, используя кнопку .

6. (Опционально) В поле Таймаут, мс задайте максимальное время выполнения текущего шага.

7. (Опционально) Чтобы задать для шага собственную политику повторных попыток, разверните блок Политика повторных попыток и нажмите кнопку Политика повторных попыток. В появившейся форме:

   1. (Опционально) В поле Начальная задержка, мс задайте начальное значение задержки между повторными попытками выполнения шага.

   2. (Опционально) В поле Скорость изменения задержки задайте коэффициент, на который будет умножаться время задержки перед каждой повторной попыткой выполнения шага.

   3. (Опционально) В поле Максимальная задержка, мс задайте значение максимальной задержки между повторными попытками выполнения шага.

   4. В поле Ошибки выберите ошибки, для которых будут (или, наоборот, не будут) сделаны повторные попытки выполнения шага.

      Подробную информацию о возможных ошибках см. в разделе Возможные коды ошибок.

   5. (Опционально) В поле Количество повторных попыток задайте максимальное количество повторных попыток выполнения шага.

   6. В поле Режим выбора ошибок выберите:

      • INCLUDE — чтобы делать для шага повторные попытки выполнения при возникновении ошибок, указанных в поле Ошибки.
      • EXCLUDE — чтобы делать для шага повторные попытки выполнения при возникновении любых ошибок, за исключением ошибок, указанных в поле Ошибки.

   Если вы хотите удалить политику повторных попыток, ранее созданную для шага, в строке Политика повторных попыток нажмите и выберите Удалить.

   Если для шага не настроена собственная политика повторных попыток, к нему будет применяться политика повторных попыток, заданная для всего рабочего процесса.

(Опционально) Перейдите на вкладку Вход и задайте jq-шаблон для фильтрации состояния рабочего процесса, которое передается в шаг.

(Опционально) Перейдите на вкладку Выход и задайте jq-шаблон для фильтрации выходных данных шага, которые добавляются в состояние рабочего процесса.