Использовать классификаторы по промпту на базе YandexGPT

1. Создайте сервисный аккаунт и назначьте ему роль ai.languageModels.user.

2. Получите и сохраните API-ключ сервисного аккаунта, указав для него область действия yc.ai.foundationModels.execute.

   В примерах используется аутентификация с помощью API-ключа. Yandex Cloud ML SDK также поддерживает аутентификацию с помощью IAM-токена и OAuth-токена. Подробнее см. в разделе Аутентификация в Yandex Cloud ML SDK.

   Примечание

   Если вы используете ОС Windows, рекомендуем предварительно установить оболочку WSL и выполнять дальнейшие действия в этой оболочке.

3. Установите Python версии 3.10 или выше.

4. Установите библиотеку Python venv для создания изолированных виртуальных окружений в Python.

5. Создайте и войдите в новое виртуальное окружение Python:

   python3 -m venv new-env
   source new-env/bin/activate
   

6. С помощью менеджера пакетов pip установите библиотеку ML SDK:

   pip install yandex-cloud-ml-sdk
   

В данный код входят два независимые друг от друга примера, иллюстрирующие различные варианты использования интерфейса SDK:

• Пример 1: запрос к классификатору Zero-shot.
• Пример 2: запрос к классификатору Few-shot.

1. Создайте файл classify.py и добавьте в него следующий код:

   #!/usr/bin/env python3
   # pylint: disable=duplicate-code
   
   from __future__ import annotations
   from yandex_cloud_ml_sdk import YCloudML
   
   request_text = 'переведи на английский "какая погода в лондоне?"'
   
   
   def main():
       sdk = YCloudML(
           folder_id="<идентификатор_каталога>",
           auth="<API-ключ>",
       )
   
       # Sample 1: Zero-shot classification
       model = sdk.models.text_classifiers("yandexgpt").configure(
           task_description="определи тип интента",
           labels=["перевод", "будильник", "погода"],
       )
   
       result = model.run(request_text)
   
       print("Zero-shot classification:")
   
       for prediction in result:
           print(prediction)
   
       # Sample 2: Few-shot classification
       model = model.configure(
           task_description="определи тип интента",
           labels=["перевод", "будильник", "погода"],
           samples=[
               {"text": "поставь будильник", "label": "будильник"},
               {"text": "погода на завтра", "label": "погода"},
               {"text": 'переведи фразу "поставь будильник"', "label": "перевод"},
           ],
       )
   
       result = model.run(request_text)
   
       print("Few-shot classification:")
   
       for prediction in result:
           print(prediction)
   
   
   if __name__ == "__main__":
       main()
   

   Где:

   • request_text — текстовое содержимое сообщения.

     В качестве входных данных для запроса Yandex Cloud ML SDK может принимать строку, словарь, объект класса TextMessage или массив, содержащий любое сочетание указанных типов данных. Подробнее см. в разделе Использование Yandex Cloud ML SDK.

   • <идентификатор_каталога> — идентификатор каталога, в котором создан сервисный аккаунт.

   • <API-ключ> — API-ключ сервисного аккаунта, полученный ранее и необходимый для аутентификации в API.

     В примерах используется аутентификация с помощью API-ключа. Yandex Cloud ML SDK также поддерживает аутентификацию с помощью IAM-токена и OAuth-токена. Подробнее см. в разделе Аутентификация в Yandex Cloud ML SDK.

   Подробнее о том, как обращаться к моделям классификаторов, см. в разделе Обращение к моделям.

2. Выполните созданный файл:

   python3 classify.py
   

   В ответе сервис вернет результаты классификации для обоих примеров с определенными значениями вероятности (confidence) отнесения текста запроса к каждому из классов:

   TextClassificationLabel(label='перевод', confidence=0.9999947046656092)
   TextClassificationLabel(label='будильник', confidence=6.01089130732152e-09)
   TextClassificationLabel(label='погода', confidence=4.289328794822987e-06)
   Few-shot classification:
   TextClassificationLabel(label='перевод', confidence=0.9999989886405171)
   TextClassificationLabel(label='будильник', confidence=4.4148929001561725e-09)
   TextClassificationLabel(label='погода', confidence=6.945601458737463e-09)