Aller au contenu

NVSwitch

📝 Définition courte

Puce NVIDIA qui relie tous les GPU d’un nœud HGX entre eux via NVLink, permettant une bande passante totale uniforme entre chaque paire de GPU.

📖 Définition détaillée

Dans une station multi-GPU classique sur PCIe, les GPU communiquent via le bus CPU — lent et asymétrique. NVSwitch remplace cette topologie par un fabric non bloquant : chaque GPU peut envoyer et recevoir des données à pleine vitesse NVLink simultanément vers tous les autres.

Un nœud HGX B200 (8 GPU) embarque plusieurs NVSwitch qui donnent à chaque GPU 1 800 Go/s de bande passante NVLink bidirectionnelle vers les autres, soit ~14,4 To/s agrégés pour les 8 puces — condition nécessaire au Tensor Parallelism efficace.

NVLink vs NVSwitch : NVLink est le protocole/câble ; NVSwitch est la puce de routage qui forme le fabric complet.

💡 Pourquoi c’est important en IA on-premise

NVSwitch est la frontière architecturale entre une station multi-GPU de bureau (PCIe, communication lente) et un vrai nœud datacenter (HGX, fabric NVLink uniforme). C’est ce qui rend le Scénario D possible.

⚠️ Pièges fréquents

  • Deux GPU reliés par NVLink sans NVSwitch (topologie point-à-point) n’ont pas la même bande passante que dans un fabric NVSwitch complet.
  • Absent de toutes les cartes grand public — réservé aux gammes professionnelles HGX/DGX.

🔗 Voir aussi

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.