Подводим итоги закрытого тестирования YandexGPT

C начала июля мы получили более 6 000 заявок от 800 компаний на тестирование технологии YandexGPT для бизнеса. Мы внимательно изучили запросы, выявили самые востребованные сценарии и добавили в наш сервис новые возможности. Так, теперь клиенты могут дообучать технологию на своих данных, в сервисе появился режим чата, а пользователям уже доступна новая нейросеть — YandexGPT 2.

«IT, ритейл и банки закономерно оказались в числе первых участников тестирования, так как традиционно являются ранними пользователями новых технологий. При этом, что интересно, значительную долю участников составили представители других отраслей, включая промышленность и медиа. Важно, что заметная часть компаний включилась в закрытое тестирование с уже сформированным пониманием задач. Это даёт хорошую основу для получения первых результатов и качественную обратную связь для дальнейшего развития продукта».

Компании проверили возможности YandexGPT в нескольких десятках сценариев применения больших языковых моделей. Специалисты Yandex Cloud поделили эти сценарии на шесть основных групп: контентные задачи, создание чат-ботов и виртуальных ассистентов, обобщение и агрегация данных по рабочим чатам и отзывам, анализ и классификация запросов пользователей, ответы на вопросы пользователей и выделение сущностей из текстов.

На основе запросов в новой версии продукта добавились новые возможности:

• Режим чата. Теперь в ходе текстового диалога с пользователем YandexGPT помнит контекст — например, если пользователь задал вопрос, получил ответ и затем просит дополнительно уточнить информацию по тому же вопросу.

• Fine Tuning в сервисе Yandex DataSphere. Появилась возможность использовать в YandexGPT модель, дообученную на пользовательских данных. Это может быть полезно, например, в областях, которые оперируют специфическими понятиями и терминами.

• Эмбеддинги. Это способ представления слов в виде числовых векторов. Он помогает сервису лучше понимать значения слов в зависимости от контекста.

• YandexGPT 2. Бизнесу доступна новая нейросеть, которая намного лучше справляется со стилизацией, пересказом и анализом, созданием текстов и ответами на вопросы.

«Один из перспективных сценариев применения YandexGPT для бизнеса — это ответы, которых нет в интернете, но которые можно найти во внутренних источниках компании. Простой пример — умный бот, с помощью которого сотрудник компании может оставить заявку на какой-либо сервис, найти нужный документ или специалиста. Чтобы это стало возможным, мы проверили, как YandexGPT взаимодействует с системами управления базами данных, к которым модель подключается, когда формулирует ответ на запрос».

Участники тестирования использовали YandexGPT и в необычных задачах. Например, заказчик из E-com придумывал с помощью технологии стихотворные рекламные слоганы. YandexGPT уже прошла проверку в роли ассистента юридической службы, консультанта по психологическим темам, SMM-менеджера. К концу года возможности технологии смогут протестировать все клиенты Yandex Cloud.