PCIe
📝 Définition courte
Bus standard reliant CPU, GPU, SSD et autres périphériques.
📖 Définition détaillée
En IA locale, PCIe transporte les données entre RAM système et GPU discret (offloading) et entre GPU dans les setups multi-GPU sans NVLink.
Débits maximaux selon la génération :
| Génération | Débit unidirectionnel x16 | Bidirectionnel x16 |
|---|---|---|
| PCIe 4.0 | ~32 Go/s | ~64 Go/s |
| PCIe 5.0 | ~64 Go/s | ~128 Go/s |
| PCIe 6.0 | ~128 Go/s | ~256 Go/s |
À titre de comparaison, NVLink 4 (H100) offre 900 Go/s — soit ~14× plus qu’un lien PCIe 5.0 x16.
💡 Pourquoi c’est important en IA on-premise
Le PCIe pèse sur l’offloading quand des poids sont recopiés vers le GPU (le calcul des couches restées en RAM est, lui, borné par la DDR5) et c’est le facteur limitant du Tensor Parallelism sur des setups bureau sans NVLink.
⚠️ Pièges fréquents
- Le débit PCIe théorique est divisé par le nombre de GPU partagés sur le même contrôleur CPU.
- PCIe 5.0 x8 (config courante sur cartes mères mid-range) offre seulement autant que PCIe 4.0 x16.
🔗 Voir aussi
Lien matériel dédié qui relie les GPU NVIDIA à très haute vitesse en contournant le bus PCIe ; il a disparu des cartes workstation et grand public récentes.Technique qui place une partie du modèle en RAM ou sur SSD quand la VRAM est insuffisante, au prix d'un débit réduit.Architecture à plusieurs GPU dans une machine ou un cluster pour augmenter la mémoire et le débit ; les gains dépendent de l'interconnexion (PCIe, NVLink).Architecture où CPU, GPU et parfois NPU partagent un même pool mémoire, évitant certaines copies via PCIe ; présente sur Apple Silicon et des APU AMD récents.