О чём эта история
Один из самых перспективных стартапов в Казахстане — компания BPM Tracker — предлагает своим клиентам цифрового менеджера с искусственным интеллектом, который может одновременно общаться с сотнями клиентов и вести коммуникацию с пользователями в мессенджерах, социальных сетях и по телефону на нескольких языках.
Облачный провайдер, на инфраструктуре которого размещалась система, не мог гарантировать бесперебойность оказания услуг. Поэтому, рассмотрев несколько вариантов, BPM Tracker решила перейти в Yandex Cloud. Это позволило компании получить выигрыш с точки зрения как надёжности, так и удобства использования. Уровень SLA повысился с 98% до 99,8%. При этом значение LTV увеличилось примерно на 25%.
Задача компании
Казахстанская компания BPM Tracker — разработчик одноимённой платформы с искусственным интеллектом, предназначенной для маркетинга и продаж. Это ИИ‑менеджер по продажам, разговаривающий на казахском, русском и английском языках, который способен консультировать более 100 человек в секунду. Среди клиентов компании — крупный казахстанский автомобильный ритейлер, медицинские центры, государственные организации, логистические и строительные компании, а также организации из сферы услуг.
Проект изначально развернули в облаке, но он постоянно мигрировал с одной облачной платформы на другую, включая как казахстанские, так и иностранные. При этом компания систематически сталкивалась с инцидентами на стороне провайдеров. В основном это были проблемы с отказоустойчивостью и доступностью инфраструктуры: проблемы с сетью иногда продолжались несколько суток.
Команда BPM Tracker хотела повысить надёжность платформы, обеспечить её бесперебойную работу, а также расширить арсенал используемых управляемых облачных сервисов.
Компания ориентировалась только на облачное размещение своего решения, причём технически платформа была готова к переезду, поскольку уже не раз мигрировала от одного провайдера к другому. Кроме того, экспертиза команды BPM Tracker с годами значительно возросла для полноценной работы с крупной облачной платформой.
Специалисты BPM Tracker оценили несколько возможных вариантов. При этом основным требованием было размещение инфраструктуры провайдера на территории Казахстана, потому что для облачной АТС, которая входит в состав BPM Tracker, критична скорость передачи данных и их гарантированная доставка.
От провайдера также требовались поддержка инфраструктурных сервисов и сервисов управления данными, гарантированно высокий уровень предоставляемых услуг и качественная техническая и консультационная поддержка.
Кроме этого, облачная платформа должна отвечать требованиям правил обработки информации в соответствии с международным Генеральным регламентом о защите данных (GDPR), а также требованиям казахстанского законодательства в сфере обеспечения безопасности персональных данных клиентов. Принимались во внимание также требования местных операторов мобильной связи, с которыми у BPM Tracker были заключены партнёрские соглашения по кросс‑продажам.
В итоге компания решила воспользоваться предложением Yandex Cloud, учитывая, в частности, высокий уровень доступности и простоту масштабирования облачной инфраструктуры, которые обеспечил этот облачный провайдер. Важным фактором при принятии решения стало открытие ЦОД Yandex Cloud в Казахстане.
На решение повлияли и результаты тестирования, в процессе которого специалисты BPM Tracker наблюдали за стабильностью работы платформы. При этом выяснилось, что Yandex Cloud поддерживает ряд управляемых сервисов, которые могут помочь в развитии продукта и процессов внутри компании.
Управляемые сервисы для систем и баз данных BPM Tracker
BPM Tracker может консультировать по продукту или услугам компании‑клиента, высылать коммерческие предложения, работать с возражениями. Платформа способна отвечать на любое количество запросов и параллельно продавать продукт неограниченному количеству клиентов. При использовании платформы, за счёт сокращения штата продавцов, бизнес уменьшает издержки по уплате налогов, бонусов, отпускных и расходов на офисные рабочие места.
Для разработки платформы BPM Tracker первоначально использовали фреймворк Laravel, впоследствии бэкенд был переписан с использованием программной платформы Node.js. Фронтенд разработан на Vue.js. BPM Tracker использует WABA (WhatsApp Business API) и собственные разработки: модуль расчёта возврата на маркетинговые инвестиции ROMI, CRM, облачную АТС, сервис Call Tracking, а также виджет обратного звонка.
На основании скрипта продаж, который содержит информацию о продуктах, прайсах, конкурентных преимуществах, а также последовательность шагов процесса продажи, сервис по заданному сценарию консультирует клиентов, выдавая им всю запрошенную информацию. При этом вся переписка и звонки внутри чата между клиентами и менеджерами сохраняются в чате. С помощью модулей Call Tracking и ROMI платформа автоматически определяет, из какого рекламного источника пришёл запрос клиента, и отслеживает эффективность каждого рекламного размещения. Платформа может рассчитывать конверсию и предупреждать об отставании от плана продаж.
Также система анализирует историю общения с клиентами в реальном времени и оперативно предупреждает о возникновении возможных проблем, что позволяет своевременно на них реагировать.
Платформа в реальном времени формирует графики и таблицы отчётности для клиентов с показателями продаж, маркетинговыми и финансовыми метриками. Система интегрируется с популярными мессенджерами, такими как WhatsApp, Telegram, и социальными сетями.
Компания мигрировала в Yandex Cloud примерно за три месяца, причём большую часть времени меняли архитектуру проекта под новую инфраструктуру и согласовывали новые IP‑адреса с операторами связи для обеспечения работы облачной АТС. Некоторое время команда знакомилась с сервисами и инструментами Yandex Cloud. Всю работу, включая развёртывание экземпляров сервисов Yandex Cloud, команда разработки провела самостоятельно и без даунтайма.
В завершение работ BPM Tracker перенесла в облако среду разработки, развернув инстанс Yandex Managed Service for GitLab. Для управления проектами и процессами GitLab связали с сервисом Yandex Tracker.
Сейчас в облачную инфраструктуру полностью перенесли BPM Tracker, включая все сервисы, которые ранее были привязаны к системам мобильных операторов.
После переноса решения в облако, BPM Tracker расширила возможности своего цифрового помощника, интегрировав его с YandexGPT API и Yandex SpeechKit. Теперь он может обрабатывать как текстовые сообщения из мессенджеров с помощью YandexGPT API, так и голосовые сообщения с использованием распознавания SpeechKit. Сейчас компания разрабатывает голосового робота, который будет в режиме реального времени отвечать на телефонные звонки с помощью синтеза речи SpeechKit. До этого у BPM Tracker была возможность обрабатывать только текстовые сообщения.
Для разработки моделей машинного обучения команда использовала Yandex DataSphere.
После подключения сервисов YandexGPT API и Yandex SpeechKit платформа поддерживает три режима работы:
-
«Нерабочее время». Система консультирует новых клиентов, предоставляя им информацию. В рабочее время отдел продаж увидит все обработанные заявки в своём аккаунте.
-
«Короткий цикл: сделки длительностью от 1 часа до 2 дней». BPM Tracker самостоятельно определяет целевой или нецелевой клиент, консультирует клиентов, обрабатывает возражения, согласовывает цену, отправляет ссылку для оплаты и закрывает сделку.
-
«Длинный цикл: сделки длительностью от 2 дней до 1 месяца». BPM Tracker обрабатывает первичные заявки, консультирует всех новых клиентов до достижения целевого конверсионного действия, такого как назначение встречи, сбор документов, составление коммерческого предложения. Затем цифровой менеджер передаёт карточку клиента менеджеру по продажам.
Все сервисы фронт- и бэкенда развёрнуты в инфраструктуре Yandex Cloud на виртуальных машинах Yandex Compute Cloud. Всего BPM Tracker использует около 25 виртуальных машин. Там же первоначально разместили базу клиентских данных MariaDB. В процессе использования MariaDB специалисты BPM Tracker пришли к выводу, что, учитывая почти полную совместимость MariaDB и MySQL, будет удобнее использовать управляемый сервис от Yandex Cloud — Yandex Managed Service for MySQL®, и поэтому команда перенесла базу туда.
Кроме того:
-
Для управления образами Docker и их хранения применяется Yandex Container Registry.
-
Для хранения файлов, резервных копий, логов и архивов используется хранилище Yandex Object Storage.
-
Для хранения короткоживущих ключей и кеша BPM Tracker использует Yandex Managed Service for Redis™. Он же используется в качестве брокера сообщений.
-
Для обеспечения связности между ресурсами, резервирования внешних IP‑адресов и доступа в интернет применяется Yandex Virtual Private Cloud.
-
Для записи и чтения логов сервисов используется Yandex Cloud Logging.
-
Для создания базы знаний используется сервис Yandex Wiki.
При миграции компания не испытала каких‑либо трудностей, в первую очередь потому, что решение уже несколько раз переносили с одной инфраструктуры на другую.
Рост SLA до 99,8% и LTV на 25%
Команда BPM Tracker развернула инфраструктуру для своей платформы за короткий срок. Издержки соответствовали изначальным ожиданиям команды, и, более того, компания смогла резервировать больше вычислительных мощностей за ту же сумму, которую тратили у предыдущих провайдеров.
Выросли надёжность и отказоустойчивость: за всё время после перехода в Yandex Cloud не было ни одного падения. Уровень SLA повысился с 98% до 99,8%. Это особенно важно потому, что голосовой трафик облачной АТС в условиях большого потока звонков очень чувствителен к задержкам. Также значение LTV (Lifetime Value — метрика, которая показывает, сколько прибыли приносит клиент за определённый период времени) повысилось примерно на 25%.
Благодаря разнообразию сервисов Yandex Cloud компания смогла усовершенствовать платформу и получить новый опыт. Некоторые из сервисов, такие как Yandex DataSphere и Yandex SpeechKit, были опробованы впервые.
Сейчас компания планирует улучшать инфраструктуру продукта, особенно после открытия Yandex Cloud в Казахстане, где BPM Tracker предполагает разместить всю свою инфраструктуру. Чтобы облегчить обслуживание инфраструктуры, команда планирует переход на Yandex Managed Service for Kubernetes®. Кроме того, компания собирается подключить сервис сбора и отображения метрик Yandex Monitoring.
Мнение
Благодаря экосистеме Yandex Cloud мы смогли быстрее и удобнее разворачивать свои приложения. Ключевую роль в доработке продукта сыграли YandexGPT API и Yandex SpeechKit, что позволило реализовать идею BPM Tracker в облачной инфраструктуре в кратчайшие сроки.