Отключить логирование запросов
По умолчанию модели сохраняют все данные запросов. Если в запросах вы передаете персональные или конфиденциальные данные либо другую чувствительную информацию, отключите логирование. Для этого добавьте в заголовок запроса REST или метаинформацию вызова gRPC опцию x-data-logging-enabled: false. Запросы, переданные с отключенной опцией логирования, не будут сохраняться на серверах Yandex Cloud.
Чтобы отключить логирование запросов:
При инициализации объекта класса YCloudML в параметре enable_server_data_logging установите значение False. В этом случае Yandex Cloud ML SDK будет добавлять опцию x-data-logging-enabled: false в метаинформацию каждого gRPC-вызова.
Например:
...
sdk = YCloudML(
folder_id="<идентификатор_каталога>",
auth="<API-ключ>",
enable_server_data_logging=False,
)
...
Где:
<идентификатор_каталога>— идентификатор каталога, в котором создан сервисный аккаунт.<API-ключ>— API-ключ сервисного аккаунта, необходимый для аутентификации в API. Вы также можете использовать другие варианты аутентификации. Подробнее см. в разделе Аутентификация в Yandex Cloud ML SDK.
Примечание
Чтобы воспользоваться примерами, установите cURL.
Пример ниже разработан для выполнения в операционных системах MacOS и Linux. Чтобы выполнить его в системе Windows, ознакомьтесь с особенностями работы с Bash в Microsoft Windows.
Добавьте к REST-запросу заголовок x-data-logging-enabled: false. Например:
export FOLDER_ID=<идентификатор_каталога>
export IAM_TOKEN=<IAM-токен>
curl \
--request POST \
--header "Content-Type: application/json" \
--header "Authorization: Bearer ${IAM_TOKEN}" \
--header "x-data-logging-enabled: false" \
--header "x-folder-id: ${FOLDER_ID}" \
--data "@<путь_до_файла_json>" \
"<эндпоинт_модели>"
Где:
-
FOLDER_ID— идентификатор каталога, на который у вашего аккаунта есть необходимая роль. -
IAM_TOKEN— IAM-токен, необходимый для аутентификации. -
@<путь_до_файла_json>— путь к файлу JSON, содержащему запрос к модели. -
<эндпоинт_модели>— эндпоинт для обращения к модели. Например:https://llm.api.cloud.yandex.net/foundationModels/v1/completion— для синхронных запросов к YandexGPT.https://llm.api.cloud.yandex.net/foundationModels/v1/completionAsync— для асинхронных запросов к YandexGPT.https://llm.api.cloud.yandex.net:443/foundationModels/v1/textClassification— для дообученных классификаторов.https://llm.api.cloud.yandex.net/foundationModels/v1/fewShotTextClassification— для Zero-shot и Few-shot классификаторов.https://llm.api.cloud.yandex.net/foundationModels/v1/imageGenerationAsync— для YandexART.
Полный список доступных эндпоинтов см. в справочниках API Yandex AI Studio.
from openai import OpenAI
client = OpenAI(
api_key="<API-ключ>",
base_url="https://llm.api.cloud.yandex.net/v1",
project="<идентификатор_каталога>",
default_headers={
"x-data-logging-enabled": "false"
}
)
completion = client.chat.completions.create(
model=f"<URI_модели>",
...
)
...
Где:
<API-ключ>— API-ключ сервисного аккаунта, необходимый для аутентификации в OpenAI API. Вы также можете использовать для аутентификации IAM-токен.<идентификатор_каталога>— идентификатор каталога, в котором создан сервисный аккаунт.<URI_модели>— уникальный идентификатор модели из списка моделей, доступных для работы в синхронном режиме. Содержит идентификатор каталога, в котором создан сервисный аккаунт.