Использовать дообученные классификаторы на базе YandexGPT
Чтобы выполнить запрос к классификатору дообученной в DataSphere модели, используйте метод classify Text Classification API.
Перед началом работы
Получите данные для аутентификации в API, как описано в разделе Аутентификация в API Yandex Foundation Models.
Отправьте запрос к классификатору
Чтобы отправить запрос к классификатору:
-
Создайте файл с телом запроса (например,
body.json
):{ "modelUri": "cls://<идентификатор_каталога>/<идентификатор_классификатора>", "text": "<текст_запроса>" }
Где:
modelUri
— идентификатор модели, которая будет использоваться для классификации сообщения. Параметр содержит идентификатор каталога Yandex Cloud и идентификатор дообученной в DataSphere модели.text
— текстовое содержимое сообщения. Суммарное количество токенов на один запрос не должно превышать 8000.
Имена классов, по которым модель будет распределять запросы, должны быть заданы в процессе дообучения модели, поэтому не передаются в запросе.
-
Отправьте запрос к классификатору, выполнив команду:
export IAM_TOKEN=<IAM-токен> curl -X POST \ -H "Authorization: Bearer ${IAM_TOKEN}" \ -d "@<путь_к_файлу_с_телом_запроса>" \ "https://llm.api.cloud.yandex.net:443/foundationModels/v1/textClassification"
В ответе сервис вернет результаты классификации с определенными значениями вероятности (
confidence
) принадлежности текста запроса к каждому из классов:{ "predictions": [ { "label": "<название_класса_1>", "confidence": 0.00010150671005249023 }, { "label": "<название_класса_2>", "confidence": 0.000008225440979003906 }, ... { "label": "<название_класса_n>", "confidence": 0.93212890625 } ], "modelVersion": "<версия_модели>" }
При многоклассовой классификации сумма значений полей вероятности (
confidence
) для всех классов всегда равна1
.При классификации с несколькими метками значение поля вероятности (
confidence
) для каждого класса рассчитывается независимо (сумма значений не равна1
).