Aller au contenu

InfiniBand

📝 Définition courte

Réseau dédié à très faible latence et très haute bande passante (jusqu’à 400–800 Gb/s par lien) conçu pour le calcul haute performance et les clusters GPU IA.

📖 Définition détaillée

InfiniBand est à la fois un protocole et un fabric physique (câbles, switches, cartes HCA). Il supporte nativement le RDMA — les GPU peuvent s’envoyer des données directement sans passer par le CPU.

Générations : HDR (200 Gb/s), NDR (400 Gb/s), XDR (800 Gb/s par port).

InfiniBand vs RoCE :

  • InfiniBand : fabric dédié, lossless natif, latence la plus basse (~1 µs), coût élevé.
  • RoCE : RDMA sur Ethernet standard, moins coûteux mais nécessite une configuration réseau stricte (PFC/ECN) pour éviter les pertes de paquets.

💡 Pourquoi c’est important en IA on-premise

Standard de facto pour les clusters GPU de production (datacenters IA, HPC). Condition pour le Tensor Parallelism et Pipeline Parallelism inter-nœuds à plein débit.

⚠️ Pièges fréquents

  • Nécessite du matériel dédié et des compétences réseau HPC spécifiques.
  • Infrastructure propriétaire (essentiellement NVIDIA/Mellanox) : migration vers Ethernet difficile.
  • Le coût total (switchs, câbles, cartes HCA) peut dépasser le coût des serveurs GPU eux-mêmes.

🔗 Voir aussi

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.