Skip to content

Ubuntu Linux'ta NVIDIA Sürücüsü ve CUDA Kurulumu

Bu makalede

Bu kılavuzda, Ubuntu 22.04 ve 24.04 işletim sistemlerinde NVIDIA grafik kartı sürücülerini ve CUDA'yı kurma süreci ayrıntılı bir şekilde ele alınmaktadır.

Dikkat

Tesla serisi grafik kartlarının (örneğin, NVIDIA Tesla T4) düzgün çalışabilmesi için sunucunuzun BIOS'unda 'yukarı 4G kodlama', 'büyük/64bit BAR' veya 'Yukarı 4G MMIO BIOS ataması' etkinleştirilmiş olması gerekir.

Sistem Hazırlığı

  1. Sistemi güncelleyin:

    sudo apt update && sudo apt full-upgrade -y
    
  2. RTX 4xxx, 5xxx serisi, A100 ve H100 için Ubuntu 22.04'te çekirdek sürümünü güncellemeniz gerekecek. Eski grafik kartları için de güncelleme yapabilirsiniz:

    sudo apt install linux-generic-hwe-22.04
    

Depodan CUDA ve Nvidia Sürücülerini Kurma

CUDA, NVIDIA tarafından geliştirilen bir paralel hesaplama platformu ve programlama modelidir. Geliştiricilerin modern GPU'ların gücünü genel amaçlı hesaplama, veri analizi ve makine öğrenimi uygulamalarında kullanmasını sağlar.

Ubuntu çoklu dünya deposunda CUDA sürücü paketleri bulunmakla birlikte, en son sürümde olmayabilirler. Bunları kurmak için aşağıdaki adımları izleyin:

  1. Nvidia sürücülerini kurmak için aşağıdaki komutu kullanın:

    nvidia_driver_download
    
    Kurulum paketleri yüklenirken lisans anlaşmasını kabul etmek için y yazmanız istenecektir. Sonrasında sunucunuz yeniden başlatılacaktır.

  2. Sunucuya döndüğünüzde CUDA paketlerini aşağıdaki komutla kurun:

    sudo apt install nvidia-cuda-toolkit
    
  3. Kurulumu kontrol etmek için nvidia-smi ve nvcc -V komutlarını kullanın, bu konu başlığında daha ayrıntılı olarak açıklanmıştır.

En Son CUDA ve Nvidia Sürücülerini Kurma

En son sürüm veya belirli bir versiyon ihtiyaç duyuyorsanız, Nvidia deposundan kurulum yapmalısınız.

  1. CUDA için gcc derleyicisini kurun:

    sudo apt install gcc
    
  2. Sürücüler ve CUDA'yu indirin ve kurun. Ubuntu 24.04 için ubuntu2204 yolunda bulunan kısmı ubuntu2404 ile değiştirin:

    wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
    sudo dpkg -i cuda-keyring_1.1-1_all.deb
    sudo apt update
    sudo apt install cuda -y
    sudo apt install cuda-toolkit -y
    
  3. Çerçevelerin ve uygulamaların CUDA'yı tanımasını sağlamak için ortam değişkenlerini .bashrc'ye ekleyin:

    echo 'export PATH="/sbin:/bin:/usr/sbin:/usr/bin:${PATH}:/usr/local/cuda/bin"' >> ~/.bashrc
    echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64\${LD_LIBRARY_PATH:+:\${LD_LIBRARY_PATH}}' >> ~/.bashrc
    source ~/.bashrc
    

    Dikkat

    CUDA'yı kullanacak olan tüm kullanıcılar için bu komutları çalıştırmanız gerekmektedir.

  4. Video kartınızda sürücülerin kurulup kurulmadığını kontrol edin:

    sudo nvidia-smi
    

    Bunu yaparak aşağıdaki gibi bir çıktı almanız gerekir:

    user@48567:~$ nvidia-smi
    Fri May 10 15:58:17 2024
    +-----------------------------------------------------------------------------------------+
    | NVIDIA-SMI 550.54.15              Driver Version: 550.54.15      CUDA Version: 12.4     |
    |-----------------------------------------+------------------------+----------------------+
    | GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
    | Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
    |                                         |                        |               MIG M. |
    |=========================================+========================+======================|
    |   0  NVIDIA RTX A4000               Off |   00000000:07:00.0 Off |                  Off |
    | 41%   31C    P8             15W /  140W |       3MiB /  16376MiB |      0%      Default |
    |                                         |                        |                  N/A |
    +-----------------------------------------+------------------------+----------------------+
    
    +-----------------------------------------------------------------------------------------+
    | Processes:                                                                              |
    |  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
    |        ID   ID                                                               Usage      |
    |=========================================================================================|
    |  No running processes found                                                             |
    +-----------------------------------------------------------------------------------------+
    

    Dikkat

    Kurulum sırasında modprobe: ERROR: could not insert 'nvidia': Device or resource busy mesajını aldıysanız, nouveau çekirdek modülünü kaldırmanız ve nvidia modüllerinin kullanımına izin vermeniz gerekmektedir.

    sudo rmmod -f nouveau
    sudo nvidia-smi
    

    Not

    Ubuntu üzerinde Nvidia GPU sürücülerini en son kurma talimatları için buraya bakabilirsiniz: burası.

  5. CUDA kurulumunu kontrol edin:

    nvcc -V
    

    Başarılı bir kurulumdan sonra aşağıdaki gibi bir çıktı almanız gerekir:

    user@48567:~$ nvcc -V
    nvcc: NVIDIA (R) Cuda compiler driver
    Copyright (c) 2005-2024 NVIDIA Corporation
    Built on Thu_Mar_28_02:18:24_PDT_2024
    Cuda compilation tools, release 12.4, V12.4.131
    Build cuda_12.4.r12.4/compiler.34097967_0
    

Dikkat

Kurulumdan sonra Failed to initialize NVML: Driver/library version mismatch gibi bir hatayla karşılaşırsanız, Nvidia çekirdek modüllerini yeniden başlatmanız gerekecektir. Bunları kaldırın ve nvidia-smi'yi tekrar çalıştırın.

sudo rmmod -f nvidia-modeset
sudo rmmod nvidia_uvm
sudo rmmod nvidia_drm
sudo rmmod nvidia-peermem
sudo rmmod nvidia
sudo nvidia-smi 

Docker için NVIDIA Modüllerini Kurma

Docker konteynerleri kullanıyorsanız, nvidia-docker2 paketini unutmayın kurun:

sudo apt install -y nvidia-docker2
sudo systemctl restart docker

Sürücüler ve CUDA 12'yi Tek Tıklamayla Kurma

Sürücüler ve CUDA 12'nin otomatik kurulumu için bu betiği kullanabilirsiniz:

#!/bin/bash

# Apt ile sistemi güncelleyip yükselt
sudo apt update
sudo apt upgrade -y

#Ubuntu 22.04 kontrol et ve çekirdek güncelle
lsb_release=$(lsb_release -a | grep "22.04")
if [[ -n "$lsb_release" ]]; then
    sudo apt install -y linux-generic-hwe-22.04
fi

# CUDA kurulumu için GCC derleyicisini yükle
sudo apt install gcc -y

# Ubuntu ve Nvidia sürücülerine uygun CUDA paketini al
RELEASE_VERSION=$(lsb_release -rs | sed 's/\([0-9]\+\)\.\([0-9]\+\)/\1\2/')
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu${RELEASE_VERSION}/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb

# Sistem güncellemeyi ve yükseltmeyi yeniden çalıştırarak tüm paketlerin doğru kurulduğunu sağla
sudo apt update
sudo apt install cuda -y
sudo apt install cuda-toolkit -y

# CUDA için .bashrc dosyasına PATH ve LD_LIBRARY_PATH ortam değişkenlerini ekle
echo 'export PATH="/sbin:/bin:/usr/sbin:/usr/bin:${PATH}:/usr/local/cuda/bin"' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64\${LD_LIBRARY_PATH:+:\${LD_LIBRARY_PATH}}' >> ~/.bashrc
source ~/.bashrc

#Yeniden başlatmadan kernel modüllerini başlat

sudo rmmod -f nouveau
sudo nvidia-smi

nvcc -V

#Nvidia için Docker bağlantısını kurma

if command -v docker &> /dev/null; then

    if lsb_release -a | grep -q "22.04"; then
    echo "Detected Ubuntu 22.04. Installing nvidia-docker2..."
    sudo apt install -y nvidia-docker2
    sudo systemctl restart docker
    fi

    if lsb_release -a | grep -q "24.04"; then
    echo "Detected Ubuntu 24.04. Installing nnvidia-container-toolkit..."
    sudo apt install -y nvidia-container-toolkit
    sudo systemctl restart docker
    fi

else
  echo "Docker is not installed."
fi

Bu sayfanın bazı içerikleri ya da yazıları AI tarafından oluşturulmuş veya çevrilmiş olabilir.