Установка NVIDIA-драйверов
Примечание
В регионе Казахстан доступны только платформы standard-v3 (Intel Ice Lake) и standard-v3-t4i (Intel Ice Lake with T4i). Другие типы платформ, кластеры GPU и выделенные хосты недоступны.
Приложения на ВМ используют CUDA для вычислений на GPU, а доступ к GPU обеспечивает драйвер NVIDIA. Можно использовать образ с предустановленными драйверами, а также установить драйверы самостоятельно — при подготовке образа или изнутри уже созданной ВМ.
Примечание
Compute Cloud проверяет работоспособность и рекомендует устанавливать только LTS версии драйверов.
Выберите драйвер на сайте NVIDIA
На официальном сайте NVIDIA выберите драйвер для GPU и операционной системы вашей ВМ.
- Перейдите на страницу поиска.
- В поле Product Category выберите
Data Center / Tesla. - В поле Product Series выберите
V-Series. - В поле Product выберите
Tesla V100. - В поле Operating System выберите ОС, установленную на ВМ.
- Укажите остальные настройки в соответствии с операционной системой ВМ и требованиями к драйверу.
- Нажмите кнопку Find.
- Перейдите на страницу драйвера. В поле CUDA Toolkit указана максимальная версия CUDA, которую поддерживает драйвер.
- Перейдите на страницу поиска.
- В поле Product Category выберите
Data Center / Tesla. - В поле Product Series выберите
A-Series. - В поле Product выберите
NVIDIA A100. - В поле Operating System выберите ОС, установленную на ВМ.
- Укажите остальные настройки в соответствии с операционной системой ВМ и требованиями к драйверу.
- Нажмите кнопку Find.
- Перейдите на страницу драйвера. В поле CUDA Toolkit указана максимальная версия CUDA, которую поддерживает драйвер.
Установите драйвер
Для NVIDIA® Ampere® A100 можно установить драйвер из официального репозитория. Подключитесь к ВМ по SSH и выполните:
sudo apt update
sudo apt install -y nvidia-driver-<версия_драйвера>-server
Где <версия_драйвера> — мажорная версия драйвера на сайте NVIDIA. Например, версии 580.178.04 соответствует имя пакета nvidia-driver-580-server.
NVIDIA® Tesla® V100 использует более раннюю архитектуру, которую поддерживают не все версии драйверов. Если совместимого пакета нет в подключенных репозиториях или возникают ошибки, установите драйвер с сайта NVIDIA.
Чтобы установить драйвер вручную:
- Подключитесь к ВМ по SSH.
- Скопируйте прямую ссылку на файл установщика со страницы драйвера.
- Скачайте установщик с помощью
wgetи установите по инструкции NVIDIA для Ubuntu.
Если скачать установщик с ВМ не получается, скачайте его на локальный компьютер и скопируйте на ВМ по SCP.
Проверить работу драйвера и версию CUDA
После установки драйвера выполните на ВМ:
nvidia-smi
Если драйвер работает и GPU доступен, команда выведет таблицу с информацией о GPU. Поле Driver Version содержит версию драйвера, а CUDA Version — максимальную версию CUDA, которую он поддерживает.
На ВМ с несколькими GPU проверьте состояние соединений NVLink:
nvidia-smi nvlink -s
Чтобы узнать версию установленного CUDA Toolkit, выполните:
nvcc --version
Версия указана в строке Cuda compilation tools, release ... и должна быть совместима с установленным драйвером. Подробнее об установке и настройке CUDA Toolkit читайте в документации NVIDIA.