Создание AI-агента с помощью функции Cloud Functions

Узнайте, как с помощью функции Cloud Functions с использованием OpenAI Agents SDK создать AI-агента — персонализированного помощника, реализующего сценарий генеративного ответа на основе моделей генерации текста Yandex Foundation Models.

В данном руководстве вы создадите простого AI-агента, который через функцию Cloud Functions будет получать информацию о погоде, взаимодействовать с языковой моделью Yandex Foundation Models и, чтобы было интереснее, отвечать пользователю в форме хайку.

На схеме:

1. Пользователь отправляет запрос к AI-агенту. Запрос поступает в обработчик функции Cloud Functions.
2. Обработчик функции Cloud Functions создает и запускает AI-агента.
3. AI-агент запрашивает дополнительные данные о погоде в нужном городе в пользовательской функции get_weather().
4. AI-агент отправляет расширенный дополнительным контекстом запрос пользователя в модель генерации текста Foundation Models.
5. Сервисный аккаунт с помощью API-ключа авторизует для AI-агента доступ к Text Generation API Foundation Models.
6. Сервисный аккаунт предоставляет функции Cloud Functions доступ к секрету Yandex Lockbox, в котором хранится API-ключ сервисного аккаунта.
7. Функция Cloud Functions получает из секрета Yandex Lockbox API-ключ сервисного аккаунта.
8. Модель Foundation Models передает AI-агенту сгенерированный ответ.
9. AI-агент возвращает полученный ответ пользователю.

Созданный в этом руководстве AI-агент будет развернут в Yandex Cloud с помощью Yandex Cloud Functions. При этом вы создадите необходимые для доступа к модели Foundation Models ресурсы: сервисный аккаунт, API-ключ сервисного аккаунта, секрет Yandex Lockbox и функцию Cloud Functions.

Вы можете создать эти ресурсы автоматически или вручную.

Что такое AI-агент и зачем он нуженЧто такое AI-агент и зачем он нужен

AI-агент — это программный помощник на базе искусственного интеллекта, который может выполнять инструкции, отвечать на вопросы и взаимодействовать с пользователями или другими системами в заданном контексте. В отличие от обычных моделей генеративного искусственного интеллекта, AI-агенты могут:

• обладать персонализированными инструкциями и «личностью»;
• использовать внешние источники информации и сторонние инструменты, позволяющие получить дополнительную информацию;
• поддерживать контекст диалога;
• выполнять последовательности действий для решения комплексных задач.

Почему бессерверные функции подходят для работы с AI-агентамиПочему бессерверные функции подходят для работы с AI-агентами

Функции Cloud Functions при развертывании AI-агентов предоставляют несколько преимуществ:

• Масштабируемость — автоматическое масштабирование в зависимости от нагрузки.
• Экономичность — плата только за фактическое время выполнения.
• Отсутствие необходимости управлять инфраструктурой — не нужно настраивать и поддерживать серверы.
• Быстрое развертывание — простота создания и обновления AI-агента.
• Интеграция с другими сервисами — простота подключения к API и другим сервисам Yandex Cloud.

Подготовьте облако к работеПодготовьте облако к работе

Зарегистрируйтесь в Yandex Cloud и создайте платежный аккаунт:

1. Перейдите в консоль управления, затем войдите в Yandex Cloud или зарегистрируйтесь.
2. На странице Yandex Cloud Billing убедитесь, что у вас подключен платежный аккаунт, и он находится в статусе ACTIVE или TRIAL_ACTIVE. Если платежного аккаунта нет, создайте его и привяжите к нему облако.

Если у вас есть активный платежный аккаунт, вы можете создать или выбрать каталог, в котором будет работать ваша инфраструктура, на странице облака.

Подробнее об облаках и каталогах.

Необходимые платные ресурсыНеобходимые платные ресурсы

В стоимость поддержки инфраструктуры для этого практического руководства входят:

• Плата за использование функции (см. тарифы Yandex Cloud Functions).
• Плата за генерацию текста (см. тарифы Yandex Foundation Models).
• Плата за хранение секрета и операции с ним (см. тарифы Yandex Lockbox).
• Плата за запись и хранение данных в лог-группе (см. тарифы Yandex Cloud Logging), если вы используете сервис Cloud Logging.

Автоматизированное создание AI-агентаАвтоматизированное создание AI-агента

Запустите скрипт, который автоматически создаст в выбранном вами каталоге все необходимые ресурсы и развернет готового AI-агента, с которым вы сможете поэкспериментировать.

Чтобы создать AI-агента в автоматическом режиме:

1. Установите Yandex Cloud CLI и аутентифицируйтесь.

2. Скачайте и установите Python.

3. Склонируйте репозиторий со скриптами для создания AI-агента:

   git clone https://github.com/yandex-cloud-examples/yc-serverless-ai-agent
   

   Репозиторий содержит скрипты для создания трех вариантов AI-агента:

   Простой AI-агент

   Продвинутый AI-агент

   Агент-переводчик

   Скрипт create-simple-ai-agent.py создаст простого AI-агента, который при запуске возвращает информацию о погоде в Токио в форме хайку.

   Скрипт create-advanced-ai-agent.py создаст продвинутого AI-агента, который отвечает на пользовательские запросы в форме хайку. При отсутствии пользовательского запроса агент возвращает ответ на запрос по умолчанию.

   Скрипт create-complex-ai-agent.py создаст Агента-переводчика, которому можно передавать пользовательские запросы на перевод текста на нужный язык в нужном стиле.

4. Сделайте файл скрипта исполняемым, например:

   chmod +x create-simple-ai-agent.py
   

5. Выполните скрипт, например:

   ./create-simple-ai-agent.py
   

   В процессе выполнения скрипта укажите данные вашего облака и каталога, после чего дождитесь создания ресурсов.

6. Протестируйте работу AI-агента.

   Простой AI-агент

   Продвинутый AI-агент

   Агент-переводчик

   Протестируйте работу функции в консоли управления.

   Протестируйте работу функции в консоли управления.

   Дополнительно вы можете протестировать работу функции, передав AI-агенту пользовательский запрос с помощью Yandex Cloud CLI. Для этого выполните команду, указав полученный при создании AI-агента идентификатор функции:

   echo '{"query": "What's the weather in Paris?"}' > request.json \
     yc serverless function invoke <идентификатор_функции> --data-file request.json
   

   Протестируйте работу функции в консоли управления.

   Дополнительно вы можете протестировать работу функции, передав AI-агенту пользовательский запрос с помощью Yandex Cloud CLI. Для этого выполните команду, указав полученный при создании AI-агента идентификатор функции:

   echo '{"text": "Hello, world!", "target_language": "русский", "tone": "дружеский"}' > translate.json \
     yc serverless function invoke <идентификатор_функции> --data-file translate.json
   

7. Если созданные ресурсы вам больше не нужны, удалите их.

Создание AI-агента вручнуюСоздание AI-агента вручную

Чтобы вручную создать AI-агента с помощью функции Cloud Functions:

1. Создайте сервисный аккаунт.
2. Создайте API-ключ сервисного аккаунта.
3. Создайте секрет Yandex Lockbox.
4. Подготовьте ZIP-архив с кодом функции.
5. Создайте функцию.
6. Протестируйте работу функции.

Если созданные ресурсы вам больше не нужны, удалите их.

Создайте сервисный аккаунтСоздайте сервисный аккаунт

Создайте API-ключ сервисного аккаунтаСоздайте API-ключ сервисного аккаунта

Создайте секрет Yandex LockboxСоздайте секрет Yandex Lockbox

Назначьте сервисному аккаунту права на чтение содержимого секретаНазначьте сервисному аккаунту права на чтение содержимого секрета

Подготовьте ZIP-архив с кодом функцииПодготовьте ZIP-архив с кодом функции

1. Сохраните следующий код в файл с названием index.py:

   import os
   
   from openai import AsyncOpenAI
   
   from agents import (
       Agent,
       OpenAIChatCompletionsModel,
       Runner,
       function_tool,
       set_tracing_disabled,
   )
   
   BASE_URL = os.getenv("BASE_URL")
   API_KEY = os.getenv("API_KEY")
   MODEL_NAME = os.getenv("MODEL_NAME")
   
   client = AsyncOpenAI(base_url=BASE_URL, api_key=API_KEY)
   set_tracing_disabled(disabled=True)
   
   
   @function_tool
   def get_weather(city: str):
       print(f"[debug] getting weather for {city}")
       return f"The weather in {city} is sunny."
   
   
   async def handler(event, context):
       agent = Agent(
           name="Assistant",
           instructions="You only respond in haikus.",
           model=OpenAIChatCompletionsModel(model=MODEL_NAME, openai_client=client),
           tools=[get_weather],
       )
   
       result = await Runner.run(agent, "What's the weather in Tokyo?")
   
       return {
           "statusCode": 200,
           "body": result.final_output,
       }
   

2. Сохраните следующий код в файл с названием requirements.txt:

   openai-agents
   

3. Добавьте файлы index.py и requirements.txt в ZIP-архив openai-function.zip.

Создайте функциюСоздайте функцию

Протестируйте работу функцииПротестируйте работу функции

Как удалить созданные ресурсыКак удалить созданные ресурсы

Чтобы перестать платить за созданные ресурсы:

1. Удалите функцию.
2. Удалите секрет.
3. Если вы записывали логи в лог-группу, удалите ее.