Поиск по документам и более точные ответы: новые инструменты для бизнеса в YandexGPT 4

В Yandex Cloud стали доступны новые большие языковые модели YandexGPT 4 в двух версиях: Lite и Pro. Они превосходят предыдущие версии по качеству ответов и способны обрабатывать контекст в четыре раза длиннее. Это позволяет использовать их для решения более сложных и разнообразных бизнес‑задач — от анализа обращений клиентов до автоматизации закупок.

Новые модели в Yandex Cloud будут особенно востребованы у разработчиков собственных IT‑решений, а также у финтеха, ритейла, промышленности и компаний с крупными клиентскими сервисами.

С помощью моделей YandexGPT 4 можно сортировать заявки клиентов, анализировать резюме и решать другие задачи, связанные с обработкой текста. Версия Pro подходит для решения сложных трудоёмких задач, например ответа на вопросы сотрудников по документации. Lite будет полезна в случаях, где важна скорость ответа. Версия Pro в 70% случаев превосходит предыдущую модель по качеству ответов, а Lite теперь демонстрирует результаты, которые были доступны в самой мощной модели Яндекса прошлого поколения. Кроме того, новые модели в среднем в два раза быстрее предыдущих генерируют ответы на вопросы.

Функции новых моделей YandexGPT 4:

• Рассуждения. Модели YandexGPT 4 могут «обдумывать» запрос, выстраивая логическую цепочку рассуждений до финального ответа. Теперь модели можно применять в случаях, когда ответ не очевиден и требует дополнительного анализа. Например, в бизнесе — изучать жалобу клиента, разбираться в его проблеме и предлагать выход из ситуации.

• Работа с внешними приложениями. Модель YandexGPT 4 Pro теперь можно настроить для работы с функциями — специальными командами, которые позволяют использовать внешние инструменты и API. Разработчики могут указать список функций и параметры вызова, а модель сама по тексту запроса определит, когда ими воспользоваться. Сам вызов происходит на стороне клиента. Это особенно полезно для создания умных ассистентов, которые могут взаимодействовать с такими системами, как 1С или CRM, проверяя наличие товара, статус заказа или погодные условия.

• Улучшенная работа с RAG. Модели YandexGPT 4 лучше справляются с вопросами, ответы на которые требуют использования данных из внешних источников — например, с опорой на документы компании или статьи. Доля ошибок, в том числе выдуманных фактов, снизилась в таких сценариях почти в два раза. Разработчики могут добавить в свои приложения функцию умного поиска с краткой суммаризацией и ссылками на источники.

• Длинный контекст. YandexGPT 4 Pro может обрабатывать запросы в четыре раза длиннее предыдущей версии — общее окно контекста увеличено до 32 тысяч токенов (порядка 60 страниц текста). Возможность загрузить большой документ целиком в память модели упрощает её применение в речевой аналитике, а также в работе чат‑ботов и умных помощников.

«Мы успешно внедрили YandexGPT для обработки пользовательских отзывов на маркетплейсах и оцениваем тональность и тему каждого из них. Нам удалось обработать 6 миллионов отзывов через YandexGPT Lite. Это оказалось в 20 раз дешевле предыдущего решения при сравнимом качестве. Мы достигли точности определения тональности в 99,3% и точности определения темы в 96,5%».

«Райффайзен Банк с помощью YandexGPT предоставил специалистам службы поддержки возможность видеть краткое содержание диалога с клиентом. Это помогает быстрее понять суть запроса и улучшить опыт коммуникации с более, чем 5 млн обращений клиентов в год. Кроме того, у каждого сотрудника банка есть возможность получить доступ к языковой модели в удобном интерфейсе и использовать её для работы или самостоятельного тестирования гипотез. На текущий момент её используют уже более 200 специалистов».

«Сейчас наша компания запустила пилотный проект по генерации описаний товаров с помощью нейросети YandexGPT. По сравнению с человеком, нейросети позволяют значительно быстрее обогащать карточки товаров уникальными описаниями, существенно экономя трудовые и денежные ресурсы. Фактически создание описаний стало в 95 раз дешевле. Также мы тестируем возможности нейросетей для производства медиаконтента — например, генерируем фото наших товаров на релевантных фонах. Этот процесс позволит покупателю представить товар в нескольких интерьерных или экстерьерных сценах и облегчит выбор, положительно повлияв на конверсию в покупку. Система значительно сократит расходы на фотосессии продукта, увеличив при этом общую коллекцию изображений».

По сравнению с моделями предыдущего поколения YandexGPT 4 Pro лучше отвечает на все типы вопросов, а по некоторым из них вплотную приближается по качеству ответов к GPT‑4o. Это стало возможным благодаря новому подходу к обучению. Разработчики усложнили датасет, провели дополнительное обучение на всех этапах и тренировали модель на примерах с пошаговым решением задач.