Перефразирование запросов

AI Assistant API предоставляет специально обученную модель, которая поможет исправить опечатки и перефразировать запрос с учетом истории общения с ассистентом. Это полезно, когда ответ требует обширных данных из поискового индекса, а вопросы сильно зависят от контекста общения.

Модель можно подключить как дополнительный инструмент ассистента. При каждом новом запросе, основываясь на контексте переписки, модель перефразирования будет определять, нужно ли как-то изменить запрос пользователя перед поиском информации в подключенном поисковом индексе и запросе к основной модели. При этом изменять инструкцию ассистента или задавать дополнительную инструкцию для модели перефразирования не нужно.

Чтобы использовать перефразирование, добавьте инструмент rephraser в список инструментов ассистента. Запросы к модели перефразирования тарифицируются по правилам YandexGPT Lite.

...
rephraser = sdk.tools.rephraser('rephraser', model_version='latest')
sdk.tools.search_index(search_index, rephraser=True)
...

{
  "folderId": "<идентификатор_каталога>",
  "name": "<имя_ассистента>",
  },
  "labels": "object",
  "modelUri": "<URI_модели_ассистента>",
  "instruction": "<инструкция>",
  ...
  "tools": [
    {
      "searchIndex": {
        "searchIndexIds": [
          "<идентификатор_поискового_индекса>"
        ],
        "rephraserOptions": {
          "rephraserUri": "gpt://<идентификатор_каталога>/rephraser/latest"
        }
      }
    }
  ]
}

Для тестирования вы также можете обращаться к модели перефразирования напрямую.

Пример использованияПример использования

Создать ассистента для RAG с перефразированием запросов пользователя