YandexGPT API

Новая модель в 67% случаев превосходит прошлое поколение. Понимает сложные инструкции, лучше работает с внешними источниками и точнее решает задачи классификации.

YandexGPT Pro подойдёт для сложных запросов, а также для задач, в которых требуется большой контекст до 32 тысяч токенов. YandexGPT Lite подходит для быстрых ответов в режиме реального времени.

Работает на базе стабильного и эффективного инференса, который обеспечивает высокую скорость обработки запросов и генерации ответа модели. При необходимости можно развернуть выделенный инференс с гарантией ресурса.

Иногда нейросеть должна отвечать, опираясь на конкретные источники — например, на базу знаний компании. YandexGPT 5 Pro справляется с такими сценариями лучше прошлого поколения в 70% случаев.

Используйте дообученные YandexGPT Lite и классификаторы, чтобы ответы точнее отражали специфику ваших задач.

Модели YandexGPT умеют работать с внешними инструментами и API. Например, они могут сформировать вызов функции, чтобы узнать о последнем заказе или доступности товара, а потом использовать эти данные в ответе чат-бота.

Помогают решать такие задачи, как определение тональности отзывов или сортировка обращений. Достаточно сформулировать правила, описать классы, и классификатор будет готов к работе.

Эмбеддинги подбирают векторы для слов с похожим значением. С их помощью можно сравнивать и сопоставлять тексты или организовать поиск по базе знаний.