Включить AI Studio

Для работы AI Studio включите компоненты Object Storage, Model Gallery и Agent Atelier.

Перед началом работыПеред началом работы

1. Убедитесь, что образы Model Gallery и Agent Atelier доступны в реестре, который использует кластер. Если нужных образов нет в локальном реестре, загрузите их.

2. Убедитесь, что кластер соответствует требованиям к инфраструктуре для выбранного набора моделей.

3. Убедитесь, что на этапе развертывания кластера для рабочих узлов с GPU включена поддержка NVIDIA® GPU. Дождитесь готовности компонента «Поддержка NVIDIA® GPU».

4. Проверьте, что включены зависимости AI Studio. Если Object Storage отключен, включите его в существующем ресурсе StorageConfig:

   kubectl patch storageconfig main --type=merge -p '{"spec":{"enabled":true}}'
   

   Дождитесь готовности хранилища. Проверьте состояние установки командой kubectl get componentinstallation storage-main: поле PHASE должно принять значение Ready.

Включить Model GalleryВключить Model Gallery

1. Сохраните пример конфигурации в файл modelgalleryconfig.yaml.

2. Настройте набор моделей и ресурсы. Пример включает Embeddings, Ethics и YandexGPT 5 Lite: для них нужны один A100 80 GB и два H100 80 GB. Перед включением других моделей проверьте доступность дополнительных GPU, CPU, RAM и дискового пространства.

3. Сверьте значения nodeSelector с метками узлов кластера:

   kubectl get nodes -L nvidia.com/gpu.product
   

4. Примените манифест:

   kubectl apply -f modelgalleryconfig.yaml
   

5. Проверьте состояние установки:

   kubectl get componentinstallation model-gallery-main
   

   Дождитесь значения Ready в поле PHASE. При ошибке проверьте поле MESSAGE в выводе команды.

Включить Agent AtelierВключить Agent Atelier

1. Сохраните пример конфигурации в файл agentatelierconfig.yaml.

2. Если Code Interpreter не нужен, установите spec.settings.codeInterpreter.enabled: false. Для его использования проверьте, что включен Certificate Manager, и выделите ресурсы для сессий.

3. Примените манифест:

   kubectl apply -f agentatelierconfig.yaml
   

4. Проверьте состояние установки:

   kubectl get componentinstallation agent-atelier-main
   

   Дождитесь значения Ready в поле PHASE установки.

Открыть веб-интерфейсОткрыть веб-интерфейс

После завершения установки веб-интерфейс AI Studio доступен по адресу https://aistudio.sys.<домен_кластера>. Для входа используйте учетные данные Identity and Access Management.

Изменить настройкиИзменить настройки

Чтобы изменить набор моделей, ресурсы или параметры Code Interpreter, отредактируйте соответствующий ресурс:

kubectl edit modelgalleryconfig main
kubectl edit agentatelierconfig main

Описание параметров приведено в разделе Конфигурация.

Что дальшеЧто дальше

• Отключить AI Studio
• AI Studio