Skip to Content
DocumentationIAConfiguration du GPU

Configuration du GPU

Note

Cet article a été initialement vérifié par rapport aux notes de version Ubuntu 26.04 LTS d’avril 2026. Le pilote AI/GPU et les versions CUDA/ROCm nécessitent toujours une validation continue par rapport aux matrices de prise en charge des fournisseurs.

Le GPU est le matériel clé pour exécuter la plupart des charges de travail d’IA. Cet article fournit un guide détaillé pour la configuration de l’environnement GPU NVIDIA sur Ubuntu 26.04, y compris l’installation du pilote, la boîte à outils CUDA, cuDNN et les étapes de vérification. Il couvre également brièvement la configuration du GPU AMD.

26.04 Statut du référentiel

Les référentiels Ubuntu 26.04 fournissent désormais la boîte à outils NVIDIA CUDA (sudo apt install cuda-toolkit) et AMD ROCm 7.1.0. (sudo apt install rocm). Ils ne sont pas préinstallés par défaut. Pour la formation en production, les versions spécifiques d’PyTorch/TensorFlow ou les serveurs multi-GPU continuent de traiter les matrices de support des fournisseurs NVIDIA/AMD et les notes de version du framework comme source finale de vérité.

Installation du pilote NVIDIA

Ubuntu 26.04 fournit l’outil pratique ubuntu-drivers pour l’installation du pilote NVIDIA.

Vérifier le matériel

# View NVIDIA GPUs in the system lspci | grep -i nvidia # Check recommended driver versions sudo ubuntu-drivers devices

Exemple de sortie :

== /sys/devices/pci0000:00/0000:00:01.0/0000:01:00.0 == modalias : pci:v000010DEd00002684sv... vendor : NVIDIA Corporation model : AD102 [GeForce RTX 4090] driver : nvidia-driver-560 - third-party non-free recommended driver : nvidia-driver-550 - third-party non-free driver : nvidia-driver-555 - third-party non-free

Installation automatique (recommandée)

# Automatically install the recommended driver version sudo ubuntu-drivers autoinstall # Reboot to activate the driver sudo reboot

Installation manuelle d’une version spécifique

# View available driver versions apt list nvidia-driver-* 2>/dev/null | grep -v "Listing" # Install a specific version sudo apt install -y nvidia-driver-560 # Reboot sudo reboot

Installer à partir du référentiel officiel NVIDIA (dernière version)

# Add the NVIDIA official repository (Ubuntu 26.04 uses ubuntu2604) wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt update # Install the latest driver sudo apt install -y nvidia-open # Reboot sudo reboot

Vérifier l’installation du pilote

# Check driver version and GPU status nvidia-smi

Exemple de sortie normale :

+-----------------------------------------------------------------------------------------+ | NVIDIA-SMI 560.35.03 Driver Version: 560.35.03 CUDA Version: 12.6 | |-----------------------------------------+------------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | |=========================================+========================+======================| | 0 NVIDIA GeForce RTX 4090 Off | 00000000:01:00.0 On | Off | | 0% 35C P8 18W / 450W | 512MiB / 24564MiB | 0% Default | +-----------------------------------------+------------------------+----------------------+
Tip

La « Version CUDA » affichée dans la sortie nvidia-smi indique la version la plus élevée d’CUDA prise en charge par le pilote, et non la version du kit d’outils CUDA réellement installée. Vous devez installer le kit d’outils CUDA séparément.


Installation de la boîte à outils CUDA

La boîte à outils CUDA est la plate-forme de calcul GPU et le modèle de programmation d’NVIDIA, requis par la plupart des frameworks d’IA (PyTorch, TensorFlow, etc.).

Comment les versions du pilote et d’CUDA sont-elles liées

Chaque boîte à outils CUDA nécessite une version minimale du pilote NVIDIA, et la version plus récente de CUDA nécessite un pilote plus récent. Avant l’installation, utilisez les Notes de version de la boîte à outils NVIDIA CUDA  et les matrices de prise en charge de la version de PyTorch  / TensorFlow pour choisir une combinaison compatible avec les trois. Une approche courante : exécutez nvidia-smi pour voir la version la plus élevée de CUDA prise en charge par le pilote, puis choisissez la boîte à outils CUDA et les roues de framework en conséquence.

Méthode 1 (recommandée) : installer à partir du référentiel Ubuntu 26.04

Ubuntu 26.04 fournit le kit d’outils CUDA dans son référentiel. Pour la plupart des projets de développement local, c’est l’option la plus simple :

# Install the CUDA Toolkit from the Ubuntu repository sudo apt install -y cuda-toolkit # Verify nvcc --version

Méthode 2 : installer une version spécifique à partir du référentiel NVIDIA

Si vous avez besoin d’une version spécifique de la boîte à outils CUDA (par exemple, pour correspondre à une roue PyTorch particulière) :

# Add the NVIDIA official repository (Ubuntu 26.04 uses ubuntu2604) wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt update # List available CUDA Toolkit versions in the repository apt-cache search cuda-toolkit # Install a specific version (replace XX-Y with an actual available version, e.g. cuda-toolkit-13-0) sudo apt install -y cuda-toolkit-XX-Y
Note

Ubuntu 26.04 livre désormais la boîte à outils NVIDIA CUDA dans ses référentiels officiels, donc sudo apt install cuda-toolkit fonctionne directement. Le référentiel ubuntu2604 d’NVIDIA reste utile lorsque vous avez besoin d’une version spécifique d’CUDA (par exemple, pour correspondre à une roue PyTorch particulière).

Configurer les variables d’environnement

# Add CUDA to PATH cat >> ~/.bashrc << 'EOF' # CUDA Toolkit export CUDA_HOME=/usr/local/cuda export PATH=$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH EOF source ~/.bashrc

Vérifier l’installation de CUDA

# Check CUDA compiler version nvcc --version # Example output: # nvcc: NVIDIA (R) Cuda compiler driver # Cuda compilation tools, release X.Y, VX.Y.xxx # Run CUDA samples (optional) # Newer CUDA versions no longer ship samples with the Toolkit; clone them from GitHub sudo apt install -y cmake build-essential git git clone https://github.com/NVIDIA/cuda-samples.git cd cuda-samples cmake -B build && cmake --build build -j$(nproc) # Run device query (path may vary by version) ./build/Samples/1_Utilities/deviceQuery/deviceQuery # If output shows "Result = PASS", installation is successful

Installer plusieurs versions d’CUDA

# With the NVIDIA repository you can install multiple versions (replace XX-Y with actual versions) sudo apt install -y cuda-toolkit-XX-Y sudo apt install -y cuda-toolkit-ZZ-W # View installed versions ls /usr/local/ | grep cuda # Switch default version (by updating the symlink; replace X.Y with the target version) sudo rm /usr/local/cuda sudo ln -s /usr/local/cuda-X.Y /usr/local/cuda # Verify current version nvcc --version

Installation de cuDNN

cuDNN (bibliothèque de réseau neuronal profond CUDA) est la bibliothèque d’accélération de l’apprentissage en profondeur d’NVIDIA. PyTorch et TensorFlow en dépendent.

Installer via apt (recommandé)

# Ensure the NVIDIA repository has been added # Install cuDNN for CUDA 12 sudo apt install -y cudnn9-cuda-12 # Or install specific packages sudo apt install -y libcudnn9-cuda-12 libcudnn9-dev-cuda-12 # Verify installation dpkg -l | grep cudnn

Installer via le package tar

# Download cuDNN from the NVIDIA developer website # https://developer.nvidia.com/cudnn-downloads # Requires a free NVIDIA developer account # Extract to the CUDA directory sudo tar -xzf cudnn-linux-x86_64-9.x.x.x_cuda12-archive.tar.xz sudo cp cudnn-linux-x86_64-9.x.x.x_cuda12-archive/include/* /usr/local/cuda/include/ sudo cp cudnn-linux-x86_64-9.x.x.x_cuda12-archive/lib/* /usr/local/cuda/lib64/ sudo ldconfig

Vérifier cuDNN

# Check if cuDNN can be found ldconfig -p | grep cudnn # Verify via Python (requires PyTorch to be installed first) python3 -c "import torch; print('cuDNN version:', torch.backends.cudnn.version()); print('cuDNN enabled:', torch.backends.cudnn.enabled)"

Vérifier la disponibilité du GPU

Après avoir installé tous les composants, effectuez une vérification complète.

Vérification au niveau du système

# 1. Check driver nvidia-smi # 2. Check CUDA nvcc --version # 3. Check cuDNN ldconfig -p | grep cudnn # 4. View detailed GPU information nvidia-smi -q | head -50 # 5. Monitor real-time GPU status watch -n 1 nvidia-smi

Vérification du GPU PyTorch

# Install PyTorch (inside an activated virtual environment) # pip install torch installs the wheel for the current CUDA by default; # older drivers can pin a lower CUDA, e.g. cu126 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126 # Verify GPU availability python3 << 'EOF' import torch print(f"PyTorch version: {torch.__version__}") print(f"CUDA available: {torch.cuda.is_available()}") print(f"CUDA version: {torch.version.cuda}") print(f"cuDNN version: {torch.backends.cudnn.version()}") print(f"GPU count: {torch.cuda.device_count()}") if torch.cuda.is_available(): print(f"Current GPU: {torch.cuda.get_device_name(0)}") print(f"GPU VRAM: {torch.cuda.get_device_properties(0).total_memory / 1024**3:.1f} GB") # Simple GPU compute test x = torch.randn(1000, 1000, device='cuda') y = torch.randn(1000, 1000, device='cuda') z = torch.mm(x, y) print(f"GPU compute test passed! Matrix multiplication result shape: {z.shape}") else: print("Warning: CUDA not available. Please check driver and CUDA installation") EOF

Vérification du GPU TensorFlow

# Install TensorFlow pip install tensorflow # Verify python3 << 'EOF' import tensorflow as tf print(f"TensorFlow version: {tf.__version__}") gpus = tf.config.list_physical_devices('GPU') print(f"Available GPU count: {len(gpus)}") for gpu in gpus: print(f" GPU: {gpu.name}") if gpus: # Simple test with tf.device('/GPU:0'): a = tf.random.normal([1000, 1000]) b = tf.random.normal([1000, 1000]) c = tf.matmul(a, b) print(f"GPU compute test passed! Matrix multiplication result shape: {c.shape}") EOF

ROCm (AMD GPU) Présentation

ROCm (Radeon Open Compute) est la plate-forme informatique GPU open source d’AMD, similaire à CUDA d’NVIDIA.

GPU AMD pris en charge

ROCm prend principalement en charge la série de GPU AMD suivante :

  • Radeon RX 7900 XTX / 7900 XT (RDNA3)
  • Radeon RX 7800 XT / 7700 XT (RDNA3)
  • Radeon PRO W7900 / W7800
  • Instinct MI300X / MI250X / MI210 (centre de données)

Installer ROCm

Ubuntu 26.04 est la première version dans laquelle vous pouvez installer ROCm avec une seule commande apt. Préférez le package livré dans le dépôt 26.04 :

# Method 1 (recommended): use the ROCm packaged in the Ubuntu 26.04 repository # Full runtime stack sudo apt install -y rocm # Or just the libraries and headers for development # sudo apt install -y rocm-dev # Add user to render and video groups sudo usermod -aG render,video $USER # Reboot sudo reboot
Note

Le référentiel Ubuntu 26.04 est livré avec ROCm 7.1.0. Si vous avez besoin d’une version plus récente, utilisez le référentiel officiel d’AMD ci-dessous et suivez le numéro de version actuel dans la documentation officielle d’AMD.

# Method 2: install a newer version from AMD's official repository # Check the current version at https://repo.radeon.com/rocm/apt/ and replace <version> below # Until AMD ships an Ubuntu 26.04 (resolute) repo, the 24.04 (noble) repo can be used as a fallback wget https://repo.radeon.com/rocm/rocm.gpg.key -O - | \ gpg --dearmor | sudo tee /etc/apt/keyrings/rocm.gpg > /dev/null echo "deb [arch=amd64 signed-by=/etc/apt/keyrings/rocm.gpg] https://repo.radeon.com/rocm/apt/<version> noble main" | \ sudo tee /etc/apt/sources.list.d/rocm.list sudo apt update sudo apt install -y rocm sudo usermod -aG render,video $USER sudo reboot

Vérifier ROCm

# View AMD GPU information rocm-smi # Check ROCm version rocminfo | head -20 # Install PyTorch ROCm version pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.2 # Verify python3 -c "import torch; print('ROCm available:', torch.cuda.is_available()); print('Device:', torch.cuda.get_device_name(0) if torch.cuda.is_available() else 'N/A')"
Note

L’écosystème logiciel de AMD ROCm n’est pas aussi mature que celui de NVIDIA CUDA. Certains outils d’IA peuvent ne pas être pris en charge ou bénéficier d’une prise en charge limitée. Si votre utilisation principale est le développement d’IA, les GPU NVIDIA restent le choix le plus sûr. Cependant, ROCm s’améliore continuellement et PyTorch et plusieurs frameworks majeurs bénéficient désormais d’un bon support.


Dépannage courant

Problème 1 : nvidia-smi n’affiche aucune sortie ni erreur

# Check if the driver is loaded lsmod | grep nvidia # If no output, try reloading the driver sudo modprobe nvidia # Check for Secure Boot issues mokutil --sb-state # If Secure Boot is enabled, you may need to sign the driver or disable Secure Boot # Check kernel logs dmesg | grep -i nvidia sudo journalctl -b | grep -i nvidia

Problème 2 : Conflits de versions de pilotes

# Remove all NVIDIA drivers sudo apt purge -y 'nvidia-*' sudo apt purge -y 'libnvidia-*' sudo apt autoremove -y # Reboot sudo reboot # Reinstall sudo ubuntu-drivers autoinstall sudo reboot

Problème 3 : Incompatibilité entre la version CUDA et PyTorch

# Check current CUDA version nvcc --version # Check PyTorch expected CUDA version python3 -c "import torch; print(torch.version.cuda)" # If mismatched, install the PyTorch wheel for the corresponding CUDA version # Default (current CUDA) pip install torch # CUDA 12.6 pip install torch --index-url https://download.pytorch.org/whl/cu126 # CUDA 12.8 pip install torch --index-url https://download.pytorch.org/whl/cu128 # Available cuXXX indexes are listed at https://pytorch.org/get-started/locally/

Problème 4 : Mémoire GPU insuffisante (MOO)

# Check current GPU memory usage nvidia-smi # Find processes using the GPU nvidia-smi --query-compute-apps=pid,name,used_memory --format=csv # Free GPU memory (kill the occupying process) # First confirm the process PID kill -9 <PID> # Clear PyTorch cache python3 -c "import torch; torch.cuda.empty_cache()"

Problème 5 : Conflit de pilotes Nouveau

# Nouveau is the open-source NVIDIA driver, which may conflict with the official driver # Check if nouveau is loaded lsmod | grep nouveau # If there is output, disable nouveau sudo bash -c 'cat > /etc/modprobe.d/blacklist-nouveau.conf << EOF blacklist nouveau options nouveau modeset=0 EOF' # Regenerate initramfs sudo update-initramfs -u # Reboot sudo reboot

Problème 6 : Utilisation du GPU dans les conteneurs Docker

# Install NVIDIA Container Toolkit curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | \ sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \ sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \ sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list sudo apt update sudo apt install -y nvidia-container-toolkit # Configure Docker sudo nvidia-ctk runtime configure --runtime=docker sudo systemctl restart docker # Test Docker GPU access docker run --rm --gpus all nvidia/cuda:12.6.0-base-ubuntu24.04 nvidia-smi # Tip: nvidia/cuda image tags are organized by CUDA version and base OS; # pick an existing tag at https://hub.docker.com/r/nvidia/cuda/tags
Tip

Après avoir installé les pilotes NVIDIA, nous vous recommandons d’installer immédiatement NVIDIA Container Toolkit. Cela vous permet d’utiliser l’accélération GPU lors de l’exécution d’outils d’IA dans des conteneurs Docker (tels que Open WebUI, ComfyUI, etc.) sans configurer les pilotes séparément à l’intérieur du conteneur.


Script d’installation complet

Le script suivant consolide l’intégralité du processus de configuration de l’environnement GPU :

#!/bin/bash # gpu-setup.sh -- Ubuntu 26.04 NVIDIA GPU Environment One-Click Setup set -e echo "=== 1. Install NVIDIA Driver ===" sudo apt update sudo ubuntu-drivers autoinstall echo "=== 2. Install CUDA Toolkit (Ubuntu 26.04 repository) ===" sudo apt install -y cuda-toolkit echo "=== 3. (Optional) For a newer version from the NVIDIA repository, use the following instead ===" # wget -q https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2604/x86_64/cuda-keyring_1.1-1_all.deb # sudo dpkg -i cuda-keyring_1.1-1_all.deb # sudo apt update # sudo apt install -y cuda-toolkit-XX-Y # replace with an actual available version echo "=== 4. Install cuDNN ===" sudo apt install -y cudnn9-cuda-12 echo "=== 5. Configure Environment Variables ===" if ! grep -q "CUDA_HOME" ~/.bashrc; then cat >> ~/.bashrc << 'ENVEOF' # CUDA Environment export CUDA_HOME=/usr/local/cuda export PATH=$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH ENVEOF fi echo "=== 6. Install NVIDIA Container Toolkit ===" curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | \ sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \ sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \ sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list sudo apt update sudo apt install -y nvidia-container-toolkit echo "" echo "=== Installation Complete! ===" echo "Please reboot and then run nvidia-smi and nvcc --version to verify." echo "Reboot command: sudo reboot"
# Save and run the script chmod +x gpu-setup.sh ./gpu-setup.sh