Chatme.ai с помощью YandexGPT создала no-code-решение для чат-ботов

О чём эта история

Chatme.ai разрабатывает чат‑боты для среднего и крупного бизнеса. Компания предлагает решения для роста операционной эффективности в HR, клиентской поддержке и других бизнес‑процессах.

Команда с нуля развернула на базе Yandex AI Studio платформу для разработки скриптовых и ИИ‑чат‑ботов Chatme.ai, и уже больше шести лет использует возможности облачных технологий и управляемых сервисов.

Сейчас платформа ежемесячно обрабатывает миллионы диалогов с уникальными пользователями, при этом уровень SLA достигает 99%.

Поиск облачной инфраструктуры для ресурсоёмкого растущего сервиса

Компания Chatme.ai разрабатывает умные чат‑боты для бизнес‑задач. Среди клиентов платформы — METRO, ROSTIC’S, World Class и другие.

Сервис Chatme.ai позволяет создавать ботов в визуальном редакторе с нуля или с помощью шаблонов без программирования, обучать ИИ‑ботов и запускать «кнопочные» чат‑боты. Платформа помогает вести аналитику общения в чатах и дообучать ботов в зависимости от целей и задач бизнеса, увеличивать конверсию с помощью интерактивных рассылок и пушей, интегрировать в работу иные инструменты автоматически или с визуальным конструктором API.

Сервис изначально планировали размещать в облаке, поскольку подобные платформы потребляют большой объём вычислительных ресурсов и требовательны к их масштабированию. Низкая производительность инфраструктуры могла сказаться на качестве работы решения.

Кроме того, компания постоянно развивает продукты и внедряет инновации: использует ИИ в чат‑ботах и их управлении, внедряет логирование и мониторинг, а также обеспечивает бесшовное автоматическое масштабирование ресурсов.

На старте проекта, больше шести лет назад, облачные технологии находились на начальных этапах развития и список провайдеров был небольшим. При этом для Chatme.ai было важно, чтобы облачный провайдер находился в России, выполнял требования 152‑ФЗ и имел сертификацию ФСТЭК.

Выбрали платформу Yandex Cloud — на тот момент она уже не только отвечала требованиям по защите данных, но и имела отзывчивую службу поддержки и активно расширяла набор управляемых сервисов.

Развёртывание тестовой среды и продакшена в Yandex Cloud

Команда Chatme.ai разрабатывала платформу как стартап и сразу же ориентировалась на cloud‑native‑подход. Поэтому DevOps‑команда разворачивала и тестовый стенд, и продакшен напрямую в Yandex Cloud.

Реализация проекта заняла около двух месяцев. В архитектуре платформы Chatme.ai — несколько ключевых слоёв. В основе лежат графовый движок для хранения и анализа связей между миллиардами объектов и ИИ‑оркестратор, управляющий цепочками моделей. Функциональность обеспечивают ИИ-сервисы, а интеграционный слой состоит из REST API и коннекторов к внешним системам.

Платформа обрабатывает большие объёмы структурированных и неструктурированных данных: текстовые логи диалогов и информацию из внешних систем (CRM, ERP). Данные в реальном времени поступают через API, обрабатываются NLU‑компонентами для извлечения интентов и сущностей. Затем они обогащают граф знаний, выстраивая новые связи. Данные также могут кешироваться и храниться в других СУБД, например для аналитических дашбордов.

На основе накопленных диалогов и графа знаний автоматически формируются датасеты для дообучения и тонкой настройки модели YandexGPT, которая отвечает за диалоговую часть работы. Дообучение позволяет повысить точность ответов, персонализировать ботов, улучшить понимание контекста и выявить сложные взаимосвязи в данных. Для управления ИИ‑агентами используют веб-приложение, а для мониторинга и аналитики в реальном времени — дашборды.

Основной вычислительный контур платформы — кластер Yandex Managed Service for Kubernetes^®. В нём работают графовый движок и оркестратор — критически важные компоненты платформы. Для выполнения ресурсоёмких задач — генерациия контента, ML‑тренировки и пакетной обработки данных — динамически задействуются виртуальные машины Yandex Compute Cloud c GPU и бессерверная экосистема. Сетями управляют с Yandex Virtual Private Cloud, резервные копии сохраняют в Yandex Object Storage, а для распознавания текста используют Yandex Vision OCR.

Отказоустойчивая платформа для тысяч ботов с SLA более 99%

Chatme.ai с нуля выстроила отказоустойчивое и прозводительное решение в облачной инфраструктуре. Чат‑боты, созданные с помощью YandexGPT, могут выполнять рутинные задачи службы поддержки, вести естественный диалог и помогать пользователям. Персональные данные защищены согласно требованиям 152‑ФЗ. А нового бота можно развернуть и настроить за считаные часы без навыков программирования. Команда создала больше тысячи ML‑моделей под каждого клиента с еженедельным дообучением каждой из них. За время работы запустили несколько сотен полностью окупившихся клиентских проектов. Уровень SLA SaaS‑сервиса превышает 99%.

В планах Chatme.ai — повысить автономность агентов и расширить графовую аналитику. Также компания планирует глубокую интеграцию с управляемым Kubernetes^® для автоматизации развёртывания.