Третье поколение моделей YandexGPT: новые возможности для бизнеса и снижение цен в 2 раза

Новое поколение языковых моделей лучше понимает пользователей и даёт более точные и полные ответы. Кроме того, YandexGPT 3 Pro можно дообучить, чтобы нейросеть лучше работала с конкретными бизнес‑сценариями компании.

28 марта 2024 г.

10 минут чтения

28 марта 2024 года для пользователей сервиса YandexGPT API стала доступна одна из первых моделей нового поколения YandexGPT 3 Pro. По сравнению с нейросетями Yandex Cloud прошлого поколения, YandexGPT 3 Pro эффективнее решает сложные задачи и лучше учитывает контекст беседы. Кроме того, языковая модель хорошо обрабатывает инструкции с несколькими условиями, а ещё — корректнее работает с фактами, даёт более точные и полные ответы, допускает меньше стилистических ошибок.

Качество работы нейросети уже можно оценить в деморежиме: новым, авторизованным с Яндекс ID пользователям доступно 100 бесплатных запросов в час. А корпоративные пользователи Yandex Cloud могут работать с моделями третьего поколения в Playground.

Улучшенная работа с бизнес‑сценариями

Для дообучения YandexGPT 3 Pro использовали наиболее популярные бизнес‑сценарии текущих пользователей. Теперь нейросеть лучше справляется с задачами для клиентской поддержки, онлайн‑продаж, цифровых коммуникаций, юриспруденции, маркетинга и управления персоналом.

Теперь модель эффективнее извлекает нужные данные и представляет их в формате JSON (JavaScript Object Notation). Это упрощает обработку документов и обращений клиентов

Третья версия модели лучше структурирует данные и упрощает выполнение креативных задач в маркетинге. С её помощью можно создавать более качественный контент для социальных сетей и других каналов

YandexGPT 3 точнее учитывает контекст и понимает семантику большинства слов. Модель может анализировать интересы целевой аудитории и давать подходящие для неё рекомендации

Модель научилась лучше категоризировать данные — теперь компании могут получить более детальные разборы отзывов, которые клиенты оставляют на маркетплейсах или в социальных сетях

Новые тарифы

Мы повышаем доступность нашей нейросети для бизнеса: 25 марта стоимость работы с моделями в YandexGPT API снизилась почти в 2 раза. Цена зависит от версии модели и режима работы — синхронного или асинхронного. Теперь в синхронном режиме YandexGPT Lite будет доступно 1000 токенов за 20 копеек, а в YandexGPT Pro — 1000 токенов за 1 рубль 20 копеек. При этом сохраняется доступ к моделям в асинхронном режиме: они лучше решают сложные текстовые задачи. Так, YandexGPT Lite в асинхронном режиме будет стоить 10 копеек за 1000 токенов, а YandexGPT Pro — 60 копеек за 1000 токенов.

Об обновлённых правилах тарификации можно прочитать по ссылке.

Дообучение моделей под задачи бизнеса

Помимо прочего, компании смогут самостоятельно дообучить модели в YandexGPT API для своих задач в сервисе ML‑разработки Yandex DataSphere. Чтобы запустить процесс, нужно загрузить в сервис файл с параметрами запросов и эталонными ответами на них. После дообучения нейросеть будет точнее работать с задачами в рамках конкретной специфики.

Оценка эффективности новой модели

Для оценки качества работы YandexGPT 3 Pro разработчики использовали несколько тестов. Первый из них — YaMMLU_ru — локализованная версия международного бенчмарка MMLU. В нём модель сравнили с двумя зарубежными нейросетями — ChatGPT‑3.5 и Llama. Кроме этого, разработчики использовали методику тестирования Side by Side (SBS), чтобы оценить, как новая модель справляется с простыми пользовательскими запросами и сложными задачами: генерацией идей, обобщением информации и её классификацией, созданием контента и не только. В среднем YandexGPT Pro отвечала лучше, чем YandexGPT 2 и ChatGPT‑3.5, в 67% и 64% случаев соответственно. При работе с простыми пользовательскими запросами её результаты оказались ещё выше: 69% и 70% соответственно.