Yandex Cloud ML SDK
Yandex Cloud AI Studio предоставляет библиотеку инструментов и примеров готового кода для разработки продуктов на языке Python — Yandex Cloud ML SDK. ML SDK обеспечивает стандартизированный способ взаимодействия с фундаментальными моделями и упрощает интеграцию с другими сервисами Yandex Cloud.
Библиотека ML SDK реализует синхронный и асинхронный интерфейсы Python на основе gRPC-вызовов API сервисов AI Studio. В ML SDK доступны следующие возможности:
- генерации текста от YandexGPT;
- работа с эмбеддингами;
- работа с классификаторами на базе YandexGPT;
- создание AI-ассистентов;
- генерация изображений от YandexART;
- интеграция с LangСhain.
Полный перечень поддерживаемых функций, исходный код библиотеки и примеры использования доступны на GitHub.
Установка и использование
Установить библиотеку ML SDK можно с помощью менеджера пакетов pip:
pip install yandex-cloud-ml-sdk
При инициализации библиотеки вам потребуется ввести идентификатор каталога, в котором вы будете работать с моделями, и информацию для аутентификации. ML SDK поддерживает следующие способы аутентификации:
Пример ниже отправит в модель YandexGPT Pro запрос c промтом «Что такое небо?».
from yandex_cloud_ml_sdk import YCloudML
sdk = YCloudML(folder_id="<идентификатор_каталога>", auth="<токен>")
model = sdk.models.completions('yandexgpt')
model = model.configure(temperature=0.5)
result = model.run("Что такое небо?")
for alternative in result:
print(alternative)