О чём эта история
MTS AI — дочерняя структура ПАО «МТС», один из лидеров в области искусственного интеллекта в России. Компания разрабатывает несколько продуктов на базе компьютерного зрения, технологий обработки естественного языка и генеративного искусственного интеллекта.
MTS AI за 1,5 месяца перенесла свой основной продукт — интеллектуальную систему видеонаблюдения TenVision на платформу Yandex Cloud. После перехода доступность решения для клиентов выросла до 99,95%. При этом количество пользователей системы TenVision увеличилось почти в 2 раза, а общий объём данных в хранилище в Yandex Cloud достиг 600 ТБ.
Задача компании
MTS AI разрабатывает решения для обеспечения безопасности, увеличения продаж и ускорения обслуживания клиентов в телекоме, промышленности, ритейле, банковской сфере и в других отраслях. Команда MTS AI применяет в проектах нейросети, выстраивает микросервисную архитектуру продуктов и умеет работать с высоконагруженными системами.
MTS AI также занимается инвестициями в перспективные ИИ-разработки, акселерацией стартапов на ранних стадиях, научными и бизнес-исследованиями, изучением рынка и потенциальных сфер применения искусственного интеллекта.
Основные продукты компании:
- TenVision — интеллектуальная система видеонаблюдения и аналитики для обнаружения объектов, распознавания лиц и т. п.
- Audiogram — платформа распознавания и синтеза речи на базе нейронных сетей и машинного обучения.
- WordPulse — сервис для анализа голосового и текстового взаимодействия с клиентами на основе ML-моделей.
- Cotype — большая языковая модель для бизнеса.
- Kodify — сервис генерации и автодополнения кода.
TenVision — высоконагруженная система, поэтому MTS AI нужна была надёжная и гибкая инфраструктура, чтобы проводить эксперименты и тестировать гипотезы. Поэтому техническая команда продукта предложила перенести TenVision в наиболее развитую вычислительную среду, доступную на рынке. Рассматривали только облачное развёртывание, так как продукты MTS AI изначально разработаны именно для такого размещения.
Команда проекта рассматривала провайдеров публичного облака, занимающих лидирующие позиции в России. Самыми важными требованиями были наличие необходимых сертификатов и аттестатов в области ИБ, а также вычислительных мощностей нужного для MTS AI объёма, возможность их масштабирования и гарантированный уровень доступности инфраструктуры для высоконагруженных продуктов.
Кроме того, нужны были сервисы для управления инфраструктурой и возможность доступа к инструментам машинного обучения, таким как генеративные языковые модели.
По результатам анализа предложений на рынке и тестирования решений нескольких поставщиков MTS AI остановила свой выбор на облачной платформе Yandex Cloud. Yandex Cloud смогла обеспечить для MTS AI наилучшее предложение на рынке, удовлетворив все требования MTS AI и предоставив один из самых широких портфелей облачных сервисов. Также представители компании посетили ЦОД Yandex Cloud во Владимире и оценили практики по операционному и техническому обслуживанию инженерной и ИТ-инфраструктуры.
Управляемые сервисы для контейнеров, БД и аналитики TenVision
MTS AI вышла на рынок облачного видеонаблюдения в 2022 г., запустив продукт TenVision — платформу облачного видеонаблюдения и видеоаналитики для бизнеса. За два года компания подключила к TenVision более 15 000 устройств. Платформой пользуются разработчики сервисов, системные интеграторы, транспортные компании, небольшие магазины и кофейни, а также охранные сервисы.
Зафиксированные TenVision данные помогают как в обеспечении безопасности, так и при принятии управленческих решений. Система может подсчитывать посетителей и анализировать пиковые нагрузки, контролировать отсутствие персонала на рабочих местах и график работы объекта. Распознавание лиц помогает заказчикам фиксировать постоянных посетителей и учитывать потоки разовых клиентов. Кроме того, продукт помогает выявлять причины очередей и оперативно вызывать дополнительных сотрудников. Ритейл использует TenVision для планирования нагрузки на персонал и отслеживания эффективности сотрудников.
Работа системы ведётся по модели b2b2x. MTS AI предлагает заказчикам две модели поставки облачной платформы: PaaS или коробочный продукт, VSaaS. PaaS чаще выбирают компании, у которых уже есть собственные приложения, и они хотят дополнить их функциями видеонаблюдения. VSaaS выбирают небольшие компании, у которых нет собственной разработки или экспертизы в видеонаблюдении, но они хотят предоставлять полностью готовую услугу конечным клиентам.
За 1,5 месяца команда MTS AI развернула в Yandex Cloud основные контуры системы видеонаблюдения и через 2 недели вышла на плановые показатели по нагрузке. Вся миграция прошла без даунтайма. Инсталляцию разворачивали своими силами с помощью команды поддержки и архитекторов Yandex Cloud. В частности, специалисты Yandex Cloud принимали оперативное участие в миграции в совместном чате и на совещаниях, консультировали по организации выделенного подключения, оптимальной облачной архитектуре с использованием Kubernetes, лимитам и особенностям сервисов. В результате построили качественное взаимодействие специалистов и план развёртывания. Поэтому переход на управляемые сервисы Yandex Cloud не вызвал больших трудностей.
После миграции в Yandex Cloud для хранения данных MTS AI использует инфраструктуру облачного провайдера. В частности, все данные с камер наблюдения поступают в объектное хранилище Yandex Object Storage, совместимое с Amazon S3 API. Здесь же хранятся архивные видеозаписи. Общий объём хранилища составляет 600 ТБ. Для хранения и обработки другой информации MTS AI применяет СУБД PostgreSQL и MySQL®. Для управления ими развернули кластеры Yandex Managed Service for PostgreSQL и Yandex Managed Service for MySQL®.
Чтобы искать и анализировать данные в различных сценариях MTS AI, развернули Yandex Managed Service for OpenSearch.
MTS AI использует виртуальные машины Yandex Compute Cloud, в том числе кластеры GPU для организации видеоаналитики и обработки медиапотока.
Компания разместила контейнеризованные приложения в Yandex Managed Service for Kubernetes®. С помощью этого управляемого сервиса автоматизировали развёртывание, масштабируют и управляют приложениями в контейнерах. Для аналитики MTS AI использует Yandex Monitoring и Yandex DataLens, а также собственные инструменты визуализации и мониторинга.
Высокая доступность системы TenVision
Все поставленные цели были достигнуты: система TenVision бесперебойно работает на новой облачной инфраструктуре, обслуживая быстро растущую группу клиентов.
В условиях роста количества пользователей удалось снизить инфраструктурные риски и появились возможности масштабирования. Для компании очень важны высокий уровень доступности решения и отказоустойчивость инфраструктуры, гарантируемая провайдером. Доступность сервиса MTS AI ни разу не была ниже 99,95%.
MTS AI используют автоматически масштабируемое объектное хранилище Yandex Object Storage. Это помогает справляться с быстрым ростом объёма данных. За период с октября 2023 года объём хранилища вырос примерно в 2 раза и достиг 600 ТБ.
В будущем компания предполагает использовать ML-сервисы Yandex Cloud, в частности генеративные языковые модели, подключаемые с помощью YandexGPT API.
MTS AI также планирует научиться максимально эффективно использовать облачную платформу в соответствии с растущим объёмом задач и заложить основы для роста на последующие годы.
Мнение
Платформа Yandex Cloud представляет много возможностей для развития нашей системы, обеспечивая нас одним из самых широких портфелей облачных сервисов. Доступность сервиса стабильно очень высокая, что обеспечивает надёжную работу нашей системы и высокое качество услуг, предоставляемых нами конечному клиенту, а команде разработки позволяет сконцентрироваться на развитии и улучшении продукта.