Связаться с намиПодключиться

Создать ноду

Статья создана
Улучшена
Обновлена 13 августа 2024 г.

Вы можете развернуть отдельную ячейку ноутбука или сторонний Docker-образ в виде самостоятельного сервиса, используя ноды.

Важно

При развертывании и эксплуатации моделей вы платите за время работы каждого инстанса ноды — от момента запуска до момента удаления.

Если развернутый сервис вам больше не нужен, удалите ноду.

Если вы используете в проекте пакеты и библиотеки, не входящие в список предустановленного ПО, предварительно настройте окружение ноды с помощью Docker-образа.

Нода из модели

  1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

  2. В правом верхнем углу нажмите кнопку Создать ресурс. Во всплывающем окне выберите Нода.

  3. В поле Имя введите имя ноды.

  4. В блоке Тип укажите тип ресурса — Модель.

  5. В поле Модели выберите сохраненную модель и укажите входные данные, если требуется.

    Примечание

    При развертывании моделей PyTorch DataSphere не может автоматические определить входные и выходные параметры.

    Если вы задаете входные данные, обязательно указывайте и выходные данные. При ручном задании входных данных для любого типа моделей DataSphere не сможет автоматические определить выходные данные.

    Для моделей XGBoost и LightGBM имена входных и выходных параметров и их типы остаются неизменными:

    • входные параметры: input__0 типа TYPE_FP32, вектор длиной [N]. Например, при N=32 в поле Размерность тензора укажите [32].
    • выходные параметры: output__0 типа TYPE_FP32, скалярная величина. В поле Размерность тензора укажите [1].

    Совет

    Чтобы создать ноду из моделей XGBoost и LightGBM, сохраненных в DataSphere до 8 апреля 2024 года, повторно сохраните их в ресурс модель.

  6. В блоке Каталог выберите каталог, в котором будут создаваться новые ресурсы.

  7. В блоке Обеспечение выберите конфигурацию вычислительных ресурсов инстанса, зону доступности и идентификатор подсети в которых будет размещен инстанс.

  8. В поле Лимит на обслуживание укажите, сколько инстансов ноды можно будет выключить одновременно для обслуживания.

  9. В блоке Список управления доступом (ACL) нажмите кнопку Добавить ACL и укажите идентификаторы каталогов, из которых можно будет подключаться к ноде. По умолчанию указывается идентификатор каталога пользователя, создающего ноду.

  10. Нажмите кнопку Создать.

Чтобы посмотреть все созданные ноды:

  1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

  2. В блоке Ресурсы проекта выберите Нода.

Нода из Docker-образа

  1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

  2. В правом верхнем углу нажмите кнопку Создать ресурс. Во всплывающем окне выберите Нода.

  3. В поле Имя введите имя ноды.

  4. (Опционально) В поле Описание укажите описание ноды.

  5. В блоке Тип выберите ресурс, на основе которого создается нода — Docker-образ.

  6. В блоке Хранилище Docker-образов выберите реестр контейнеров. Вы можете выбрать Container Registry или любой произвольный реестр. Для Container Registry укажите:

    • Образ Docker вида cr.yandex/<идентификатор_реестра>/<идентификатор_образа>:<тег>.
    • Имя пользователя автоматически получит значение json_key.
    • Секрет с паролем — выберите из списка секрет с содержимым файла с авторизованным ключом для сервисного аккаунта из настроек проекта.

    Чтобы использовать образ из другого хранилища Docker-образов, выберите тип Другое и заполните остальные поля значениями, необходимыми для подключения к вашему реестру.

  7. (Опционально) В блоке Настройки Docker-образа укажите размер диска, доступного в Docker-образе.

  8. В блоке Эндпоинт:

    • Тип — выберите протокол подключения к ноде: HTTP (HTTP/2) или gRPC.
    • Порт — укажите порт для подключения к ноде.
    • Таймаут — укажите продолжительность сессии в секундах.
    • Idle timeout — укажите время простоя соединения до разъединения в секундах.

  9. (Опционально) В блоке Телеметрия:

    • Тип — выберите сервис для телеметрии: Prometheus или Yandex Monitoring.
    • HTTP-адрес — укажите адрес, на который будут отправляться данные телеметрии.
    • Порт — укажите порт, на который будут отправляться данные телеметрии.

  10. (Опционально) В блоке Проверка:

    • Тип — протокол, по которому проверяется состояние ноды: HTTP или gRPC.
    • Порт — порт, с которого проверяется состояние ноды.
    • Путь — путь к проверяемому ресурсу.
    • Таймаут — продолжительность проверки в секундах.
    • Интервал — интервал между проверками в секундах.
    • Неудачные проверки — допустимое количество неудачных проверок.
    • Пройденные проверки — необходимое количество пройденных проверок.

  11. (Опционально) В блоке Настройки Docker-образа задайте размер общей памяти, доступной в Docker-образе.

  12. В блоке Каталог выберите каталог, в котором будут создаваться новые ресурсы.

  13. В блоке Обеспечение:

    • Конфигурация инстанса — выберите конфигурацию вычислительных ресурсов инстанса.
    • Распределение по зонам — добавьте зону доступности и идентификатор подсети в которых будет размещен инстанс.
    • Лимит на обслуживание — укажите, сколько инстансов ноды можно будет выключить одновременно для обслуживания.
    • (Опционально) Дополнительный диск — добавьте дополнительный диск для инстанса. Если указано несколько инстансов, диск будет создан для каждого из них.

  14. В блоке Список управления доступом (ACL) нажмите кнопку Добавить ACL и укажите идентификаторы каталогов, из которых можно будет подключаться к ноде. По умолчанию указывается идентификатор каталога пользователя, создающего ноду.

  15. Нажмите кнопку Создать.

Чтобы посмотреть все созданные ноды:

  1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

  2. В блоке Ресурсы проекта выберите Нода.

См. также

Предыдущая
Подключение к Google Drive
Следующая
Изменить ноду