Создание Telegram-бота с RAG и вызовом функций

С помощью Yandex Cloud ML SDK, RAG и AI Assistant API языковые модели могут поддерживать контекст диалога и обращаться к поиску в базе знаний.

В этом руководстве вы создадите чат-ассистента по продаже вин на основе модели YandexGPT 5. Используя возможности function calling и RAG, ассистент получит доступ к базе данных по винам и регионам, а также прайс-листу с ценами и данными о наличии вин. Настройка ассистента пройдет в ноутбуке Yandex DataSphere, общение с ассистентом будет осуществляться через Telegram.

Чтобы создать интеллектуального ассистента для Telegram:

1. Подготовьте инфраструктуру.
2. Создайте API-ключ для сервисного аккаунта.
3. Создайте Telegram-бота
4. Создайте секреты.
5. Клонируйте репозиторий.
6. Протестируйте бота.

Если созданные ресурсы вам больше не нужны, удалите их.

Перед началом работыПеред началом работы

Перед началом работы нужно зарегистрироваться в Yandex Cloud, настроить сообщество и привязать к нему платежный аккаунт:

1. На главной странице DataSphere нажмите Попробовать бесплатно и выберите аккаунт для входа — Яндекс ID или рабочий аккаунт в федерации (SSO).
2. Выберите организацию Yandex Identity Hub, в которой вы будете работать в Yandex Cloud.
3. Создайте сообщество.
4. Привяжите платежный аккаунт к сообществу DataSphere, в котором вы будете работать. Убедитесь, что у вас подключен платежный аккаунт, и он находится в статусе ACTIVE или TRIAL_ACTIVE. Если платежного аккаунта нет, создайте его в интерфейсе DataSphere.

Необходимые платные ресурсыНеобходимые платные ресурсы

В стоимость поддержки инфраструктуры для создания интеллектуального ассистента входит:

• плата за использование вычислительных ресурсов DataSphere;
• плата за генерацию текста моделью.

Подготовьте инфраструктуруПодготовьте инфраструктуру

Войдите в консоль управления Yandex Cloud и выберите организацию, в которой вы работаете с DataSphere. На странице Yandex Cloud Billing убедитесь, что у вас подключен платежный аккаунт.

Если у вас есть активный платежный аккаунт, на странице облака вы можете создать или выбрать каталог, в котором будет работать ваша инфраструктура.

Создайте каталогСоздайте каталог

Создайте сервисный аккаунт для проекта DataSphereСоздайте сервисный аккаунт для проекта DataSphere

Для обращения к модели из ноутбука нужно создать сервисный аккаунт.

Добавьте сервисный аккаунт в проектДобавьте сервисный аккаунт в проект

Чтобы сервисный аккаунт мог обращаться к модели из ноутбука, добавьте его в список участников проекта.

Создайте API-ключ для сервисного аккаунтаСоздайте API-ключ для сервисного аккаунта

Чтобы сервисный аккаунт получил доступ к модели, создайте API-ключ.

Создайте Telegram-ботаСоздайте Telegram-бота

1. Откройте чат с ботом @botfather.
2. Следуя инструкциям, придумайте имя и ник своему Telegram-боту.
3. После успешного создания бота вы получите ссылку на чат с вашим ботом и токен. Сохраните их для следующих шагов.

Создайте секретыСоздайте секреты

Чтобы использовать API-ключ, идентификатор каталога и токен доступа к боту из ноутбука, создайте секреты с соответствующими значениями.

1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

2. В блоке Ресурсы проекта выберите Секрет.
3. Нажмите Создать.
4. В поле Имя задайте имя секрета — api_key.
5. В поле Значение вставьте идентификатор ключа.
6. Нажмите Создать.
7. По аналогии создайте секреты folder_id с идентификатором каталога и tg_token с токеном Telegram-бота.

Клонируйте репозиторийКлонируйте репозиторий

1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

2. Нажмите кнопку Открыть проект в JupyterLab и дождитесь окончания загрузки.
3. На панели слева в разделе File Browser создайте или выберите папку, в которой вы хотите разместить клон репозитория, и перейдите в нее.
4. В верхнем меню нажмите Git и выберите Clone a Repository.
5. В открывшемся окне введите URI репозитория — https://github.com/yandex-cloud-examples/yc-ai-wine-assistant.
6. Включите опцию Download the repository и нажмите кнопку Clone.

Запустите ноутбукЗапустите ноутбук

Код ноутбука подключается к модели, дает ей необходимые функции, а также настраивает бота в Telegram.

1. Перейдите в папку клонированного репозитория.
2. Откройте ноутбук advanced-assistant.ipynb.
3. Последовательно запускайте ячейки ноутбука. Не запускайте ячейки блока Удаляем лишнее, пока не закончите работу с ботом.
4. Последняя ячейка в блоке Делаем винного ассистента в телеграме подготовит вашего бота к работе.

Протестируйте ботаПротестируйте бота

1. Перейдите по ссылке на чат с вашим ботом, полученной ранее.

2. Нажмите START.

3. Введите свой запрос в поле ввода сообщений. Например:

   Какое вино посоветуешь к белому шоколаду?
   

   Результат:

   К белому шоколаду могут подойти белые и розовые десертные или креплёные вина. Например, можно рассмотреть вина из сортов Шардоне, Семийона, Рислинга или Вионье. Если вас интересует конкретное вино, я могу проверить его наличие и цену в нашем прайс-листе.
   

Как удалить созданные ресурсыКак удалить созданные ресурсы

Чтобы перестать платить за созданные ресурсы, удалите проект.