Отправить запрос в синхронном режиме
При выполнении задач генерации текста, которые предусматривают короткий ответ или использование модели генерации текста в режиме чата, наиболее эффективным является синхронный режим запросов.
Если у вас объемная задача по генерации текста, в которой требуется, например, обработка больших документов, более удобным может оказаться фоновый режим запросов.
Перед началом работы
Чтобы воспользоваться примером:
-
Создайте сервисный аккаунт и назначьте ему роль
ai.languageModels.user. -
Получите и сохраните API-ключ сервисного аккаунта.
Примечание
Если вы используете ОС Windows
, рекомендуем предварительно установить оболочку WSL и выполнять дальнейшие действия в этой оболочке. -
Установите Python версии 3.10
или выше. -
Установите библиотеку Python venv
для создания изолированных виртуальных окружений в Python. -
Создайте и войдите в новое виртуальное окружение Python:
python3 -m venv new-env source new-env/bin/activate -
Установите библиотеку
OpenAI для Python:pip install openai
Выполните запрос к модели
-
Создайте файл
index.pyи добавьте в него код:import openai YANDEX_CLOUD_MODEL = "yandexgpt-lite" client = openai.OpenAI( api_key=YANDEX_CLOUD_API_KEY, base_url="https://rest-assistant.api.cloud.yandex.net/v1", project= YANDEX_CLOUD_FOLDER ) response = client.responses.create( model=f"gpt://{YANDEX_CLOUD_FOLDER}/{YANDEX_CLOUD_MODEL}", input="Придумай 3 необычные идеи для стартапа в сфере путешествий.", temperature=0.8, max_output_tokens=1500 ) print(response.output[0].content[0].text) -
Сохраните данные для аутентификации в переменные окружения:
export YANDEX_CLOUD_FOLDER=<идентификатор_каталога> export YANDEX_CLOUD_API_KEY=<API-ключ> -
Выполните созданный файл:
python index.pyПример ответа:
1. **Платформа для поиска и организации путешествий с учётом астрологических факторов.** Сервис поможет путешественникам выбрать направление, даты поездки и активности, основываясь на их астрологическом знаке или индивидуальной натальной карте. Это может включать рекомендации по лучшим периодам для путешествий, местам с энергетикой, соответствующей знаку, и даже подбор культурных и природных достопримечательностей, соответствующих астрологическим предпочтениям. 2. **Виртуальный гид-путешественник с элементами дополненной реальности.** Это приложение или сервис, который позволит пользователям «встретить» виртуального гида в любом месте, где они находятся, через дополненную реальность (AR). Гид может рассказать интересные факты о местности, показать скрытые достопримечательности и предложить маршруты для прогулок. Пользователь может «задать вопрос» гиду и получить ответ в режиме реального времени, используя AR-технологию для визуализации ответов. 3. **Сервис для организации путешествий с помощью искусственного интеллекта.** Платформа, которая использует алгоритмы искусственного интеллекта для персонализации путешествий. ИИ может анализировать предпочтения пользователя, его бюджет, время года и предлагать оптимальные маршруты, включая перелёты, транспорт, места для ночлега и активности. Сервис также может предлагать альтернативные варианты в случае изменений в расписании или других непредвиденных обстоятельств.
См. также
- Отправить запрос в фоновом режиме
- Обзор AI-моделей сервиса Yandex AI Studio
- Примеры работы с ML SDK на GitHub