Месяц и двое сотрудников. Как EORA мигрировала в Yandex Cloud

- EORA — российская IT-компания, которая предоставляет решения с использованием искусственного интеллекта (чат-боты, роботы для колл-центров, виртуальные ассистенты и др.).
- Осенью 2022 года EORA перенесла виртуальные машины, управляемые БД и 6 ТБ данных клиентов из AWS в Yandex Cloud.
- Переезд занял месяц и прошёл без даунтайма, в нём участвовали два специалиста компании.
- EORA сэкономила 300 000 рублей благодаря участию в программе Yandex Cloud Boost.
- Среди требований к облачному провайдеру были соблюдение SLA, хорошее «железо», наличие производительных видеокарт и достаточная пропускная способность канала. Также учитывались требования российского законодательства по хранению и обработке персональных данных.
- Выбор пал на Yandex Cloud в том числе из-за давнего партнёрства с Яндексом и наличия необходимых технических возможностей (виртуальные машины с GPU, интеграция с Yandex SpeechKit и др.).
- В Yandex Cloud развёрнуты модели векторизации текстов и нейросетевого поиска изображений, которые используются в клиентских проектах (например, для поиска похожих товарных знаков и предметов интерьера по фотографии).
- Миграция позволила EORA избавиться от зависимости затрат на облачную инфраструктуру от курсов валют.
- Служба поддержки Yandex Cloud оперативно решает возникающие у команды EORA вопросы.
- Технический директор EORA надеется на дальнейший технологический рост компании с использованием платформенных решений Yandex Cloud.
О чём история
Осенью 2022 года российская IT‑компания EORA
Теперь все клиентские проекты компании развёрнуты в Yandex Cloud. Среди них сервисы поиска похожих товаров и товарных знаков.
Задача компании{#}
EORA — поставщик решений с использованием технологий искусственного интеллекта. Бизнес обращается в компанию за чат‑ботами, роботами для колл‑центров, виртуальными ассистентами, системами компьютерного зрения и обработки естественного языка. В портфолио EORA совместные проекты с Яндексом, «Додо» и «Столото».
Команда EORA регулярно участвует и побеждает в международных хакатонах и других конкурсах. Так, в 2020 году по программе NVIDIA Inception компания получила грант от Amazon и бесплатно разместила часть IT‑инфраструктуры в AWS (Amazon Web Services). Там развернули шлюз для передачи данных, сервис мониторинга всей инфраструктуры и сервисы, которые требуют GPU.
Осенью 2022 года грант истекал. Оставаться в AWS компания не хотела: она зарабатывает в рублях, а платить нужно в долларах. Плюс у клиентов есть запрос на хранение и обработку данных на территории РФ. И EORA приготовилась к миграции в облако поближе.
Облако с гарантированным SLA и производительными видеокартами
В этой статье:
У EORA уже был опыт работы с российскими провайдерами: отдельные проекты клиентов размещались в тех ЦОД, где это было дешевле. Но к 2022 году в компании поняли: надо переходить на более комплексные и технологически зрелые решения. Особенно после опыта с Amazon.
Блокирующих требований компания не формулировала. Главное — соблюдение SLA, хорошее железо, наличие производительных видеокарт и достаточная пропускная способность канала. Факультативным критерием было то, выполняет ли сервис требования российского законодательства по хранению и обработке персональных данных: клиенты всё чаще об этом беспокоятся.
Всем этим критериям соответствовали несколько игроков рынка. Поэтому менеджмент EORA учитывал качество и скорость работы поддержки, а также уже имеющийся опыт сотрудничества.
Выбор в пользу Yandex Cloud сделали в том числе из‑за давнего партнёрства с Яндексом. В 2018 году EORA стала одним из первых сторонних разработчиков, которые делали навык для Алисы: научила её бронировать билеты на рейсы авиакомпании S7.
Также собственная диалоговая платформа EORA Dialog интегрирована с сервисом Yandex SpeechKit. Компания использует его для распознавания и синтеза речи. Благодаря такой интеграции EORA автоматизировала колл‑центр сети «Додо Пицца».
Хорошо подходили под задачи компании и виртуальные машины Compute Cloud, предоставляющие три типа производительных графических ускорителей на выбор: NVIDIA® Tesla® V100, NVIDIA® Ampere® A100, NVIDIA® Tesla® T4.
Кроме того, по программе Yandex Cloud Boost EORA получила грант, который можно использовать на инфраструктурные и платформенные решения. EORA пригодились 300 000 рублей на серверную инфраструктуру: платить во время переезда сразу за две облачные платформы для компании было бы слишком накладно.
Перенос инфраструктуры и данных
Нужно было перенести три обычные виртуальные машины и три — с GPU. Хотя они были контейнеризированы, потребовалось настроить их определённым образом. Проблем с этим не возникло: выручила заранее подготовленная документация и готовые скрипты для развёртывания.
Несколько сложнее было с переносом датасетов объёмом 6 ТБ из Simple Storage Service (S3) — на это ушло около двух недель. Сначала данные выгружали из AWS с помощью готового скрипта, а затем загружали в Yandex Object Storage.
Весь переезд занял месяц. Со стороны компании им занимались два человека: один отвечал за перенос данных, другой — за развёртывание сервисов. Для консультаций привлекали специалистов компании‑партнёра и экспертов Yandex Cloud.
На виртуальных машинах с GPU NVIDIA® Tesla® T4 компания развернула модель векторизации текстов, которая используется при обработке естественного языка, и модель нейросетевого поиска изображений. Они применяются в большинстве клиентских проектов. Например:
- Для патентно‑адвокатского бюро EORA разработала нейросетевой поиск похожих товарных знаков. Юристы загружают изображение, которое их клиенты хотят зарегистрировать, и система ищет по базам, не занял ли уже кто‑нибудь подобный товарный знак.
- Для мебельного интернет‑магазина компания запустила поиск предметов интерьера по фотографии. Дизайнер загружает фото, система распознаёт предметы и предлагает карточки похожих товаров из каталога магазина.
Эти и другие клиентские проекты компания намерена размещать в облаке, куда перевезла всю критическую инфраструктуру.
Все клиенты теперь в одном облаке
Миграцию удалось осуществить за месяц и без даунтайма сервисов EORA. Затраты на облачную инфраструктуру у EORA больше не зависят от курсов валют. При этом программа Yandex Cloud Boost позволила сэкономить 300 000 рублей. В техническом плане миграция не изменила воркфлоу компании, объём и качество облачных услуг в Yandex Cloud полностью соответствуют требованиям EORA. А оперативная работа службы поддержки Yandex Cloud позволяет быстро решать возникающие у команды вопросы.
Во многих проектах компания использует собственные наработки в компьютерном зрении. Теперь она легко может при необходимости подключать для работы над подобными заказами платформенные решения Yandex Cloud. Например, для задач распознавания текста, быстрого запуска MVP или прототипов с помощью SaaS‑сервисов Yandex Cloud, таких как Yandex Vision. Кроме того, EORA планирует попробовать связку сервисов Yandex Managed Service for ClickHouse® и Yandex DataLens

