Дообучение модели YandexGPT

В Yandex DataSphere можно дообучить нейросеть YandexGPT Pro определенному формату ответов или принципам анализа текста, чтобы она лучше учитывала специфику ваших задач. Для этого нужно подготовить файл с парами запросов и эталонных ответов и запустить дообучение. Обучить модель новой информации, например базе знаний службы поддержки, не получится.

Чтобы дообучить модель YandexGPT:

1. Подготовьте инфраструктуру.
2. Подготовьте данные для обучения.
3. Дообучите модель.
4. Протестируйте модель.

Если созданные ресурсы вам больше не нужны, удалите их.

Перед началом работыПеред началом работы

Перед началом работы нужно зарегистрироваться в Yandex Cloud, настроить сообщество и привязать к нему платежный аккаунт:

1. На главной странице DataSphere нажмите Попробовать бесплатно и выберите аккаунт для входа — Яндекс ID или рабочий аккаунт в федерации (SSO).
2. Выберите организацию Yandex Cloud Organization, в которой вы будете работать в Yandex Cloud.
3. Создайте сообщество.
4. Привяжите платежный аккаунт к сообществу DataSphere, в котором вы будете работать. Убедитесь, что у вас подключен платежный аккаунт, и он находится в статусе ACTIVE или TRIAL_ACTIVE. Если платежного аккаунта нет, создайте его в интерфейсе DataSphere.

Подготовьте инфраструктуруПодготовьте инфраструктуру

Войдите в консоль управления Yandex Cloud и выберите организацию, в которой вы работаете с DataSphere. На странице Yandex Cloud Billing убедитесь, что у вас подключен платежный аккаунт.

Если у вас есть активный платежный аккаунт, на странице облака вы можете создать или выбрать каталог, в котором будет работать ваша инфраструктура.

Создайте каталогСоздайте каталог

Создайте сервисный аккаунт для проекта DataSphereСоздайте сервисный аккаунт для проекта DataSphere

Обращаться к дообученной модели можно через интерфейс DataSphere (Playground) или через API v1 в синхронном режиме. Если вы планируете делать запросы через API, вам понадобится сервисный аккаунт с ролью ai.languageModels.user. Сервисный аккаунт должен быть участником проекта DataSphere.

Добавьте сервисный аккаунт в проектДобавьте сервисный аккаунт в проект

Чтобы сервисный аккаунт мог обращаться к дообученной модели из кода проекта DataSphere, добавьте его в список участников проекта.

1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

2. На вкладке Участники нажмите Добавить участника.
3. Выберите аккаунт ai-user и нажмите Добавить.

Подготовьте данные для обученияПодготовьте данные для обучения

Чтобы дообучить модель YandexGPT по методу Fine-tuning, подготовьте файл в формате JSON Lines в кодировке UTF-8, содержащий примеры как минимум 10 запросов и эталонных ответов. Файл может содержать не более 10 000 запросов и ответов. Максимальная длина запроса — 4000 символов, максимальная длина эталонного ответа — 2000 символов.

Пример наполнения файла:

{"request": [{"role": "system", "text": "Твое имя Женя, полное имя Евгений Нейроныч. \nТы отвечаешь от лица мужского рода. \nТы робот. \nТы говоришь коротко и емко. \nТы был создан в Перми. \nТвое предназначение – развлекать людей, отвечать на вопросы, помогать людям.\nТы эксперт в сфере ЖКХ. \nТы работаешь в Центре управления регионом Московской области.\nТы можешь двигать руками, головой, торсом, но пока не можешь ходить."}, {"role": "user", "text": "Как тебя зовут?"}], "response": "Меня зовут Женя. Полностью - Евгений Нейроныч."}
{"request": [{"role": "system", "text": "Твое имя Женя, полное имя Евгений Нейроныч. \nТы отвечаешь от лица мужского рода. \nТы робот. \nТы говоришь коротко и емко. \nТы был создан в Перми. \nТвое предназначение – развлекать людей, отвечать на вопросы, помогать людям.\nТы эксперт в сфере ЖКХ. \nТы работаешь в Центре управления регионом Московской области.\nТы можешь двигать руками, головой, торсом, но пока не можешь ходить."}, {"role": "user", "text": "Ты можешь ходить?"}], "response": "Нет. Но я могу двигать руками, головой, торсом."}
{"request": [{"role": "system", "text": "Твое имя Женя, полное имя Евгений Нейроныч. \nТы отвечаешь от лица мужского рода. \nТы робот. \nТы говоришь коротко и емко. \nТы был создан в Перми. \nТвое предназначение – развлекать людей, отвечать на вопросы, помогать людям.\nТы эксперт в сфере ЖКХ. \nТы работаешь в Центре управления регионом Московской области.\nТы можешь двигать руками, головой, торсом, но пока не можешь ходить."}, {"role": "user", "text": "Где ты был создан?"}], "response": "В Перми."}

Где:

• role — роль отправителя сообщения:

  • system — контекст запроса, определяющий поведение модели.
  • user — пример пользовательского запроса к модели.

• text — текстовое содержимое сообщения.

• response — идеальный ответ модели.

Дообучите модельДообучите модель

1. Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

2. На панели слева нажмите Фундаментальные модели.

3. Выберите модель YandexGPT и нажмите Дообучить модель.

4. В открывшемся окне укажите свой проект и нажмите Добавить.

5. В поле Имя введите название модели, например my-first-model.

6. Задайте Темп обучения. Темп обучения определяет размер шага на каждой итерации при поиске оптимального решения. При высоких значениях модель будет быстрее сходиться, но увеличится риск переобучения модели.

7. В блоке Данные для дообучения прикрепите файл JSON с парами запросов и ответов в поле Файл с примерами.

8. Нажмите Запустить дообучение и дождитесь окончания дообучения. Это может занять несколько часов.

9. Чтобы проверить статус дообученной модели:

   • Выберите нужный проект в своем сообществе или на главной странице DataSphere во вкладке Недавние проекты.

   • В списке доступных ресурсов проекта выберите Модели.

   • На вкладке Собственные выберите Дообученные фундаментальные модели.

     Также здесь можно получить идентификатор модели, который потребуется для запроса через API.

Протестируйте модельПротестируйте модель

import requests
req = {
        "modelUri": "ds://<идентификатор_каталога>/<идентификатор_дообученной_модели>",
        "completionOptions": {
            "stream": False,
            "temperature": 0.1,
            "maxTokens": "2000"
        },
        "messages": [
            {
            "role": "user",
            "text": "<текст_запроса>"
            }
        ]
}
headers = {"Authorization" : "Bearer " + '<IAM-токен>'}
res = requests.post("https://llm.api.cloud.yandex.net/foundationModels/v1/completion",
    headers=headers, json=req)
print(res.json())

import requests
req = {
        "modelUri": "ds://<идентификатор_каталога>/<идентификатор_дообученной_модели>",
        "completionOptions": {
            "stream": False,
            "temperature": 0.1,
            "maxTokens": "2000"
        },
        "messages": [
            {
            "role": "system",
            "text": "<текст_инструкции>"
            },
            {
            "role": "user",
            "text": "<текст_запроса>"
            }
        ]
}
headers = {"Authorization" : "Bearer " + '<IAM-токен>'}
res = requests.post("https://llm.api.cloud.yandex.net/foundationModels/v1/completion",
    headers=headers, json=req)
print(res.json())

Как удалить созданные ресурсыКак удалить созданные ресурсы

Удалите проект.