Лёгкая версия генеративной текстовой модели нового поколения YandexGPT 3 Lite

YandexGPT 3 Lite, по сравнению с предыдущей версией, лучше справляется с рутинными задачами, для которых важна скорость ответа. Новые пользователи Yandex Cloud могут бесплатно протестировать YandexGPT 3 Lite в демо-режиме. Клиенты Yandex Cloud, которые уже используют в своих продуктах YandexGPT, могут протестировать обновлённую модель без ограничений. YandexGPT 3 Lite можно интегрировать в свои продукты через API в сервисе Foundation Models. Новая модель заменит предыдущую в течение месяца, но попробовать её можно уже сейчас.

Отвечает лучше в 68% случаевОтвечает лучше в 68% случаев

YandexGPT 3 Lite допускает меньше орфографических и фактических ошибок, чем предыдущие версии, включая YandexGPT 2 Lite и GPT 3,5 Turbo. Для оценки ответов использовали сравнение типа side-by-side (SbS), при котором модели отвечали на одни и те же вопросы, а обезличенные ответы оценивали эксперты, выбирая лучший вариант. SbS-сравнение провели по основным категориям запросов.

Оценивали также, насколько хорошо новая модель справляется с задачами классификации, генерации контента, ответами на вопросы и другими основными типами бизнес-задач.

Кроме того, модели сравнивали по количеству допускаемых ошибок — грамматических и фактических.

Как обучали новую модельКак обучали новую модель

Модели третьего поколения, включая YandexGPT 3 Lite, прошли через несколько этапов: предварительное обучение (pretraining) и выравнивание модели (alignment), которое включает дополнительный этап обучения с подкреплением (reinforcement learning, RL).

На этапе предварительного обучения обновили обучающий датасет, сделав его в два раза больше и улучшили его качество. Кроме того, внедрили технологию curriculum learning, которая позволяет модели последовательно обучаться на данных различной сложности: от коротких текстов до более длинных.

На этапе alignment к работе подключили AI-тренеров, которые оценивали ответы модели и предоставляли примеры идеальных ответов. Причём мы усложнили и разнообразили задачи для модели, чтобы повысить её способность обрабатывать широкий спектр запросов и улучшить адаптацию к различным сценариям использования.

На RL-этапе обучения мы использовали усовершенствованную reward-модель. Она оценивала качество ответов основной модели и за счёт механизма наград и штрафов улучшала производительность и качество ответов.

Также мы внесли изменения в архитектуру модели: для повышения эффективности обработки длинных последовательностей и ускорения работы модели без потери качества внедрили технологию Grouped Query Attention (GQA).