Функциональные характеристики и архитектура Yandex Cloud AI Hybrid
Yandex Cloud AI Hybrid — это набор программных компонентов для управления, обучения, дообучения, использования моделей машинного обучения, а также программных продуктов на основе моделей машинного обучения.
Функциональные характеристики ПО
Cloud AI Hybrid позволяет:
- Использовать готовые модели машинного обучения, включенные в состав Cloud AI Hybrid.
- Создавать новые модели машинного обучения, в том числе на основе готовых моделей машинного обучения.
- Генерировать, классифицировать, векторизовать, анализировать, прогнозировать данные с помощью моделей машинного обучения.
- Администрировать ПО и модели, исследовать качество их работы.
- Организовывать программное взаимодействие моделей и ПО с внешними источниками данных и программными системами.
- Решать бизнес-задачи с применением моделей машинного обучения.
Сервис Cloud AI Hybrid может быть развернут на физическом оборудовании клиента.
Архитектура ПО
Cloud AI Hybrid состоит из исполняемых программных компонентов, компонентов слоя хранения данных и моделей машинного обучения. Модели машинного обучения предназначены для решения различных прикладных задач. Программные компоненты обеспечивают работу этих моделей, позволяют проводить дообучение и создавать новые модели с нуля. Компоненты слоя хранения данных предназначены для хранения информации пользователей.
Исполняемые программные компоненты необходимы для различных задач:
- Компоненты System обеспечивают функционирование сервиса (на рисунке — голубые).
- Компоненты Inference позволяют поддерживать инференс моделей (на рисунке — белые).
- Компоненты Tuning необходимы для дообучения моделей (на рисунке — желтые).
Форма распространения Cloud AI Hybrid
Cloud AI Hybrid поставляется в виде набора программных компонентов и конфигурационных данных моделей. Компоненты слоя хранения данных не входят в поставку, их клиент должен обеспечить самостоятельно.
Программные компоненты упакованы в Docker-образы, которые выгружаются в репозиторий образов в облаке клиента после заключения договора. Конфигурации моделей представляют собой файлы, позволяющие развернуть модели заданной конфигурации с помощью сервера инференсов. Файлы загружаются в объектное хранилище клиента в его облаке. Состав программных компонентов и конфигураций моделей в каждом случае определяется отдельно, поскольку зависит от оборудования клиента и решаемых задач.