Aller au contenu

CUDA

📝 Définition courte

La plateforme logicielle de NVIDIA qui permet aux programmes d’utiliser les GPU NVIDIA pour calculer, et donc de faire tourner les modèles d’IA sur ces cartes.

📖 Définition détaillée

NVIDIA la définit comme « une plateforme de calcul parallèle et un modèle de programmation » qui accélère les calculs en exploitant le GPU1. Elle comprend le pilote, le compilateur et des bibliothèques optimisées sur lesquelles s’appuient les frameworks (PyTorch) et les moteurs d’inférence (vLLM, SGLang, TensorRT-LLM).

CUDA ne fonctionne que sur du matériel NVIDIA. Les autres constructeurs ont leur propre pile :

ConstructeurPile logicielleRôle
NVIDIACUDAréférence de l’écosystème IA1
AMDROCm« pile logicielle ouverte d’AMD pour le calcul accéléré par GPU »2
AppleMetal, MLXMLX est « un framework de tableaux pour l’apprentissage automatique sur Apple silicon »3

💡 Pourquoi c’est important en IA on-premise

Une nouveauté (modèle, format, optimisation) arrive souvent d’abord sur CUDA. Choisir une machine NVIDIA simplifie l’installation des moteurs ; choisir AMD ou Apple impose de vérifier que le moteur et le modèle visés sont supportés sur ROCm ou MLX.

⚠️ Pièges fréquents

  • Supposer qu’un outil « GPU » marche sur tout GPU : beaucoup ne supportent que CUDA, ou supportent ROCm et Metal avec retard.
  • Ignorer la version : un moteur exige souvent une version minimale de CUDA et du pilote.

📚 Pour comprendre en profondeur

🔗 Voir aussi

Footnotes

  1. NVIDIA, CUDA Programming Guide (« CUDA is a parallel computing platform and programming model developed by NVIDIA… by harnessing the power of the GPU »), consulté le 2026-10-11. https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html ↩ ↩2

  2. AMD, What is ROCm? (« ROCm is the AMD open software stack for GPU-accelerated computing »), consulté le 2026-10-11. https://rocm.docs.amd.com/en/latest/what-is-rocm.html ↩

  3. Apple ml-explore, MLX — dépôt GitHub (« MLX is an array framework for machine learning on Apple silicon », modèle de mémoire unifiée), consulté le 2026-10-11. https://github.com/ml-explore/mlx ↩

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.