Запустили AI Assistant API — инструмент для быстрого создания умных ассистентов

Компании смогут запускать их для поисковых систем, поддержки клиентов, рекомендаций по продуктам, создания контента и обучения сотрудников.

21 ноября 2024 г.

10 минут чтения

AI Assistant API объединяет языковую модель YandexGPT и технологию поиска по базам знаний Retrieval Augmented Generation (RAG) для интеграции с внешними бизнес‑системами.

AI Assistant API в режиме Public Preview доступен всем пользователям Yandex Cloud через ML SDK в сервисе Foundation Models.

Преимущества AI Assistant API:

Экономит время на разработку — не нужно писать код с нуля или адаптировать сторонние фреймворки: AI Assistant API уже содержит все необходимые инструменты для создания умных помощников. В одном решении есть языковая модель, фреймворк RAG и учёт контекста.
Работать с AI Assistant API смогут не только специалисты по Data Science, но и те, кто не обладает глубокой экспертизой в этой области. Разработчик создаёт ассистента через удобный интерфейс, где уже реализованы все нужные взаимодействия на уровне модели, инфраструктуры и внешних функций.
Облачная архитектура делает сервис гибким в использовании. Разработчики могут выбрать подходящую версию YandexGPT — Lite или Pro, настроить собственные обученные версии модели и легко адаптировать под свои задачи другие компоненты сервиса: базы знаний и параметры генерации текста. При росте нагрузки сервис автоматически масштабируется.

Умные помощники применимы в разных сценариях. В продажах они способны изучать потребности клиента, предлагать товары из каталога и формировать персональные предложения на основе клиентских данных и корпоративной базы знаний. В поддержке ассистенты, обученные на базе знаний о продуктах и услугах компании, ответят на вопросы клиентов в чате. Сотрудникам компании AI‑ассистенты помогут быстро найти нужную информацию в документах, базах данных и других корпоративных источниках, а также ответят на сложные вопросы, требующие интерпретации текста.

Пример взаимодействия пользователя с умным ассистентом для помощи в оформлении командировки. Сотрудник спрашивает, как оформить командировку в Санкт‑Петербург, а ассистент анализирует запрос в контексте всей беседы, запоминая важные детали. Затем он обращается к базе знаний компании, где хранятся сведения о внутренних процессах оформления командировок. На основе контекста диалога и информации из базы помощник формирует релевантный ответ с чёткими инструкциями. Так, комбинируя данные из разных источников, он даёт сотруднику исчерпывающую информацию по его запросу и проактивно направляет по сценарию оформления поездки

С помощью умных ассистентов можно автоматически создавать и улучшать текстовый контент, менять стиль и переводить на разные языки. HR‑специалисты с их помощью смогут формировать индивидуальные программы обучения для каждого сотрудника.

Команда Yandex Cloud

«В реальных бизнес‑кейсах важно, чтобы модель умела отвечать на вопросы клиентов, основываясь на базе знаний компании. Это позволяет в разы сокращать долю ошибок и выдуманных фактов при ответах. При этом не во всех компаниях есть выделенные команды Data Science, которые могут адаптировать YandexGPT под конкретные бизнес‑сценарии. AI Assistant API помогает упростить этот процесс и легко внедрять нейросети в приложения»