Aller au contenu

PCIe

📝 Définition courte

Bus standard reliant CPU, GPU, SSD et autres périphériques.

📖 Définition détaillée

En IA locale, PCIe transporte les données entre RAM système et GPU discret (offloading) et entre GPU dans les setups multi-GPU sans NVLink.

Débits maximaux selon la génération :

GénérationDébit unidirectionnel x16Bidirectionnel x16
PCIe 4.0~32 Go/s~64 Go/s
PCIe 5.0~64 Go/s~128 Go/s
PCIe 6.0~128 Go/s~256 Go/s

À titre de comparaison, NVLink 4 (H100) offre 900 Go/s — soit ~14× plus qu’un lien PCIe 5.0 x16.

💡 Pourquoi c’est important en IA on-premise

Le PCIe pèse sur l’offloading quand des poids sont recopiés vers le GPU (le calcul des couches restées en RAM est, lui, borné par la DDR5) et c’est le facteur limitant du Tensor Parallelism sur des setups bureau sans NVLink.

⚠️ Pièges fréquents

  • Le débit PCIe théorique est divisé par le nombre de GPU partagés sur le même contrôleur CPU.
  • PCIe 5.0 x8 (config courante sur cartes mères mid-range) offre seulement autant que PCIe 4.0 x16.

🔗 Voir aussi

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.