Месяц и двое сотрудников. Как EORA мигрировала в Yandex Cloud

- EORA — российская IT-компания, которая предоставляет решения с использованием технологий искусственного интеллекта (чат-боты, роботы для кол-центров, виртуальные ассистенты и др.).
- Осенью 2022 года EORA перенесла виртуальные машины, управляемые БД и 6 ТБ данных клиентов в Yandex Cloud.
- Переезд занял месяц и потребовал участия двух специалистов компании, переключение прошло без даунтайма.
- Благодаря участию в программе Yandex Cloud Boost компания сэкономила 300 000 рублей.
- Среди критериев выбора провайдера для EORA были: соблюдение SLA, хорошее «железо», наличие производительных видеокарт, достаточная пропускная способность канала, выполнение требований российского законодательства по хранению и обработке персональных данных.
- Одним из факторов выбора Yandex Cloud стало давнее партнёрство с Яндексом.
- В Yandex Cloud EORA развернула модель векторизации текстов и модель нейросетевого поиска изображений, которые используются в клиентских проектах (например, для поиска похожих товарных знаков и предметов интерьера по фотографии).
- Затраты на облачную инфраструктуру больше не зависят от курсов валют.
- Служба поддержки Yandex Cloud оперативно решает возникающие у команды EORA вопросы.
- EORA планирует дальше использовать платформенные решения Yandex Cloud и пробовать новые сервисы (например, Yandex Managed Service for ClickHouse® и Yandex DataLens).
О чём история
Осенью 2022 года российская IT‑компания EORA
Теперь все клиентские проекты компании развёрнуты в Yandex Cloud. Среди них сервисы поиска похожих товаров и товарных знаков.
Задача компании{#}
EORA — поставщик решений с использованием технологий искусственного интеллекта. Бизнес обращается в компанию за чат‑ботами, роботами для колл‑центров, виртуальными ассистентами, системами компьютерного зрения и обработки естественного языка. В портфолио EORA совместные проекты с Яндексом, «Додо» и «Столото».
Команда EORA регулярно участвует и побеждает в международных хакатонах и других конкурсах. Так, в 2020 году по программе NVIDIA Inception компания получила грант от Amazon и бесплатно разместила часть IT‑инфраструктуры в AWS (Amazon Web Services). Там развернули шлюз для передачи данных, сервис мониторинга всей инфраструктуры и сервисы, которые требуют GPU.
Осенью 2022 года грант истекал. Оставаться в AWS компания не хотела: она зарабатывает в рублях, а платить нужно в долларах. Плюс у клиентов есть запрос на хранение и обработку данных на территории РФ. И EORA приготовилась к миграции в облако поближе.
Облако с гарантированным SLA и производительными видеокартами
В этой статье:
У EORA уже был опыт работы с российскими провайдерами: отдельные проекты клиентов размещались в тех ЦОД, где это было дешевле. Но к 2022 году в компании поняли: надо переходить на более комплексные и технологически зрелые решения. Особенно после опыта с Amazon.
Блокирующих требований компания не формулировала. Главное — соблюдение SLA, хорошее железо, наличие производительных видеокарт и достаточная пропускная способность канала. Факультативным критерием было то, выполняет ли сервис требования российского законодательства по хранению и обработке персональных данных: клиенты всё чаще об этом беспокоятся.
Всем этим критериям соответствовали несколько игроков рынка. Поэтому менеджмент EORA учитывал качество и скорость работы поддержки, а также уже имеющийся опыт сотрудничества.
Выбор в пользу Yandex Cloud сделали в том числе из‑за давнего партнёрства с Яндексом. В 2018 году EORA стала одним из первых сторонних разработчиков, которые делали навык для Алисы: научила её бронировать билеты на рейсы авиакомпании S7.
Также собственная диалоговая платформа EORA Dialog интегрирована с сервисом Yandex SpeechKit. Компания использует его для распознавания и синтеза речи. Благодаря такой интеграции EORA автоматизировала колл‑центр сети «Додо Пицца».
Хорошо подходили под задачи компании и виртуальные машины Compute Cloud, предоставляющие три типа производительных графических ускорителей на выбор: NVIDIA® Tesla® V100, NVIDIA® Ampere® A100, NVIDIA® Tesla® T4.
Кроме того, по программе Yandex Cloud Boost EORA получила грант, который можно использовать на инфраструктурные и платформенные решения. EORA пригодились 300 000 рублей на серверную инфраструктуру: платить во время переезда сразу за две облачные платформы для компании было бы слишком накладно.
Перенос инфраструктуры и данных
Нужно было перенести три обычные виртуальные машины и три — с GPU. Хотя они были контейнеризированы, потребовалось настроить их определённым образом. Проблем с этим не возникло: выручила заранее подготовленная документация и готовые скрипты для развёртывания.
Несколько сложнее было с переносом датасетов объёмом 6 ТБ из Simple Storage Service (S3) — на это ушло около двух недель. Сначала данные выгружали из AWS с помощью готового скрипта, а затем загружали в Yandex Object Storage.
Весь переезд занял месяц. Со стороны компании им занимались два человека: один отвечал за перенос данных, другой — за развёртывание сервисов. Для консультаций привлекали специалистов компании‑партнёра и экспертов Yandex Cloud.
На виртуальных машинах с GPU NVIDIA® Tesla® T4 компания развернула модель векторизации текстов, которая используется при обработке естественного языка, и модель нейросетевого поиска изображений. Они применяются в большинстве клиентских проектов. Например:
- Для патентно‑адвокатского бюро EORA разработала нейросетевой поиск похожих товарных знаков. Юристы загружают изображение, которое их клиенты хотят зарегистрировать, и система ищет по базам, не занял ли уже кто‑нибудь подобный товарный знак.
- Для мебельного интернет‑магазина компания запустила поиск предметов интерьера по фотографии. Дизайнер загружает фото, система распознаёт предметы и предлагает карточки похожих товаров из каталога магазина.
Эти и другие клиентские проекты компания намерена размещать в облаке, куда перевезла всю критическую инфраструктуру.
Все клиенты теперь в одном облаке
Миграцию удалось осуществить за месяц и без даунтайма сервисов EORA. Затраты на облачную инфраструктуру у EORA больше не зависят от курсов валют. При этом программа Yandex Cloud Boost позволила сэкономить 300 000 рублей. В техническом плане миграция не изменила воркфлоу компании, объём и качество облачных услуг в Yandex Cloud полностью соответствуют требованиям EORA. А оперативная работа службы поддержки Yandex Cloud позволяет быстро решать возникающие у команды вопросы.
Во многих проектах компания использует собственные наработки в компьютерном зрении. Теперь она легко может при необходимости подключать для работы над подобными заказами платформенные решения Yandex Cloud. Например, для задач распознавания текста, быстрого запуска MVP или прототипов с помощью SaaS‑сервисов Yandex Cloud, таких как Yandex Vision. Кроме того, EORA планирует попробовать связку сервисов Yandex Managed Service for ClickHouse® и Yandex DataLens

