Промптинг Zero-Shot
Большие языковые модели (LLM), такие как YandexGPT, настроены на выполнение инструкций и обучены на больших объемах данных. Масштабное обучение дает использовать модели в режиме Zero-shot, который предполагает, что имеющих у модели данных достаточно для решения определенных задач. Рассмотрим простой пример классификации текста с помощью техники Zero-shot.
Промпт
Классифицируйте текст как нейтральный, негативный или позитивный.
Текст: Я думаю, что отпуск был нормальным.
Настроение:
Ответ
Нейтральный
В этом промпте мы не предоставили модели никаких примеров текста с классификациями, но модель уже понимает, что такое «настроение».
Расширить возможности промптинга Zero-shot можно с помощью настройки инструкций — дообучения моделей на наборах данных, описанных через инструкции. Также можно использовать RLHF — обучение с подкреплением на основе обратной связи от человека — для масштабирования настройки инструкций, где модель лучше подстраивается под человеческие предпочтения.