Использовать дообученные классификаторы на базе YandexGPT
Чтобы выполнить запрос к классификатору дообученной в DataSphere модели, используйте метод classify Text Classification API.
Перед началом работы
Получите данные для аутентификации в API, как описано в разделе Аутентификация в API Yandex Foundation Models.
Отправьте запрос к классификатору
Чтобы отправить запрос к классификатору:
Чтобы воспользоваться примерами, установите cURL
Пример ниже разработан для выполнения в операционных системах MacOS и Linux. Чтобы выполнить его в системе Windows, ознакомьтесь с особенностями работы с Bash в Microsoft Windows.
-
Создайте файл с телом запроса (например,
body.json
):{ "modelUri": "cls://<идентификатор_каталога>/<идентификатор_классификатора>", "text": "<текст_запроса>" }
Где:
modelUri
— идентификатор модели, которая будет использоваться для классификации сообщения. Параметр содержит идентификатор каталога Yandex Cloud и идентификатор дообученной в DataSphere модели.text
— текстовое содержимое сообщения. Суммарное количество токенов на один запрос не должно превышать 8000.
Имена классов, по которым модель будет распределять запросы, должны быть заданы в процессе дообучения модели, поэтому не передаются в запросе.
-
Отправьте запрос к классификатору, выполнив команду:
export IAM_TOKEN=<IAM-токен> curl \ --request POST \ --header "Authorization: Bearer ${IAM_TOKEN}" \ --data "@<путь_к_файлу_с_телом_запроса>" \ "https://llm.api.cloud.yandex.net:443/foundationModels/v1/textClassification"
Примечание
Эндпоинт
https://llm.api.cloud.yandex.net:443/foundationModels/v1/textClassification
работает только с дообученными классификаторами. Для классификаторов по промту используйтеhttps://llm.api.cloud.yandex.net/foundationModels/v1/fewShotTextClassification
.В ответе сервис вернет результаты классификации с определенными значениями вероятности (
confidence
) принадлежности текста запроса к каждому из классов:{ "predictions": [ { "label": "<название_класса_1>", "confidence": 0.00010150671005249023 }, { "label": "<название_класса_2>", "confidence": 0.000008225440979003906 }, ... { "label": "<название_класса_n>", "confidence": 0.93212890625 } ], "modelVersion": "<версия_модели>" }
При многоклассовой классификации сумма значений полей вероятности (
confidence
) для всех классов всегда равна1
.При классификации с несколькими метками значение поля вероятности (
confidence
) для каждого класса рассчитывается независимо (сумма значений не равна1
).