NVSwitch
📝 Définition courte
Puce NVIDIA qui relie tous les GPU d’un nœud HGX entre eux via NVLink, permettant une bande passante totale uniforme entre chaque paire de GPU.
📖 Définition détaillée
Dans une station multi-GPU classique sur PCIe, les GPU communiquent via le bus CPU — lent et asymétrique. NVSwitch remplace cette topologie par un fabric non bloquant : chaque GPU peut envoyer et recevoir des données à pleine vitesse NVLink simultanément vers tous les autres.
Un nœud HGX B200 (8 GPU) embarque plusieurs NVSwitch qui donnent à chaque GPU 1 800 Go/s de bande passante NVLink bidirectionnelle vers les autres, soit ~14,4 To/s agrégés pour les 8 puces — condition nécessaire au Tensor Parallelism efficace.
NVLink vs NVSwitch : NVLink est le protocole/câble ; NVSwitch est la puce de routage qui forme le fabric complet.
💡 Pourquoi c’est important en IA on-premise
NVSwitch est la frontière architecturale entre une station multi-GPU de bureau (PCIe, communication lente) et un vrai nœud datacenter (HGX, fabric NVLink uniforme). C’est ce qui rend le Scénario D possible.
⚠️ Pièges fréquents
- Deux GPU reliés par NVLink sans NVSwitch (topologie point-à-point) n’ont pas la même bande passante que dans un fabric NVSwitch complet.
- Absent de toutes les cartes grand public — réservé aux gammes professionnelles HGX/DGX.