Взаимодействие с моделями AI Studio

В процессе создания нового рабочего процесса или изменения существующего в консоли управления в блоке Создание рабочего процесса / Изменение рабочего процесса выберите Конструктор.

Из секции AI Studio в левой части экрана перетащите элемент Модели AI Studio в нужное место рабочего процесса в окне конструктора.

Перетаскивать шаги можно в обозначенные пунктирной линией блоки на графической схеме рабочего процесса, такие как Добавить шаг и т.п.

В окне со схемой рабочего процесса нажмите на добавленный блок Модели AI Studio, чтобы выбрать его.

В правой части окна на вкладке Настройки:

1. В поле Имя шага задайте имя шага рабочего процесса.

2. Выберите AI-модель:

   Генерация текста

   1. Выберите:

      • Базовая модель, чтобы использовать модель YandexGPT Pro или YandexGPT Lite, и в поле Идентификатор каталога выберите каталог, в котором будет вызываться модель.
      • Дообученная модель, чтобы использовать дообученную модель, и в поле Идентификатор модели укажите идентификатор (URI) дообученной модели.

   2. В поле Температура задайте вариативность ответа модели: чем выше значение температуры, тем более непредсказуемым будет результат выполнения запроса. Диапазон возможных значений – от 0 до 1.

   3. В поле Количество токенов задайте ограничение на максимально допустимое количество токенов в ответе модели.

   4. В блоке Контекст выберите:

      • Сообщения, чтобы задать контекст запроса к модели в виде последовательности отдельных сообщений в формате <Роль_отправителя_сообщения>:<Текст_сообщения>, используя кнопку .
      • JSON-строка, чтобы задать контекст запроса к модели в формате JSON-строки.

   5. (Опционально) В блоке Режим рассуждений выберите статус режима рассуждений:

      • Не задан — не указано.
      • Выключен — режим рассуждений выключен.
      • Включён — режим рассуждений включен.

   6. (Опционально) В блоке Структурированный вывод выберите формат ответа:

      • Нет — модель возвращает ответ, отформатированный с помощью разметки Markdown.
      • JSON-объект — модель возвращает ответ в виде JSON-объекта.
      • JSON-схема — модель возвращает ответ в виде JSON-схемы, заданной в поле JSON-схема.
   Дообученная классификация

   1. В поле Идентификатор модели введите идентификатор дообученной модели. Подробнее см. в разделе Модели классификаторов на базе YandexGPT.
   2. В поле Текст введите текстовое содержимое сообщения.
   Классификация по промту

   1. Выберите модель и каталог, в котором она будет вызываться.

   2. В поле Задание введите текстовое описание задания для классификатора.

   3. В поле Текст введите текстовое содержимое сообщения.

   4. В блоке Классы выберите:

      • Список, чтобы ввести классы, используя кнопку .
      • JSON и в блоке JSON-объект введите классы в формате JSON.

   5. (Опционально) В блоке Примеры запросов выберите:

      • Список, чтобы ввести примеры запросов, используя кнопку .
      • JSON и в блоке JSON-объект введите примеры запросов в формате JSON.

3. (Опционально) В поле Таймаут, мс задайте максимальное время выполнения текущего шага.

4. (Опционально) Чтобы задать для шага собственную политику повторных попыток, разверните блок Политика повторных попыток и нажмите кнопку Политика повторных попыток. В появившейся форме:

   1. (Опционально) В поле Начальная задержка, мс задайте начальное значение задержки между повторными попытками выполнения шага.

   2. (Опционально) В поле Скорость изменения задержки задайте коэффициент, на который будет умножаться время задержки перед каждой повторной попыткой выполнения шага.

   3. (Опционально) В поле Максимальная задержка, мс задайте значение максимальной задержки между повторными попытками выполнения шага.

   4. В поле Ошибки выберите ошибки, для которых будут (или, наоборот, не будут) сделаны повторные попытки выполнения шага.

      Подробную информацию о возможных ошибках см. в разделе Возможные коды ошибок.

   5. (Опционально) В поле Количество повторных попыток задайте максимальное количество повторных попыток выполнения шага.

   6. В поле Режим выбора ошибок выберите:

      • INCLUDE — чтобы делать для шага повторные попытки выполнения при возникновении ошибок, указанных в поле Ошибки.
      • EXCLUDE — чтобы делать для шага повторные попытки выполнения при возникновении любых ошибок, за исключением ошибок, указанных в поле Ошибки.

   Если вы хотите удалить политику повторных попыток, ранее созданную для шага, в строке Политика повторных попыток нажмите и выберите Удалить.

   Если для шага не настроена собственная политика повторных попыток, к нему будет применяться политика повторных попыток, заданная для всего рабочего процесса.

(Опционально) Перейдите на вкладку Вход и задайте jq-шаблон для фильтрации состояния рабочего процесса, которое передается в шаг.

(Опционально) Перейдите на вкладку Выход и задайте jq-шаблон для фильтрации выходных данных шага, которые добавляются в состояние рабочего процесса.

(Опционально) Добавьте для создаваемого шага правило перехода по ошибкам, которые могут возникать во время выполнения этого шага.