Aller au contenu

RDMA

📝 Définition courte

Technique réseau permettant d’écrire/lire en mémoire distante avec faible surcharge CPU.

📖 Définition détaillée

Dans un transfert réseau classique (TCP/IP), les données passent par le CPU (copie en espace user → kernel → carte réseau). RDMA court-circuite ce chemin : la carte réseau accède directement à la mémoire de l’application, avec une latence de ~1–2 µs et une charge CPU quasi nulle.

Deux implémentations principales :

  • InfiniBand : fabric dédié, lossless natif, standard HPC/IA haute performance.
  • RoCE : RDMA sur Ethernet, moins coûteux mais nécessite une configuration lossless (PFC/ECN).

Avec GPUDirect RDMA, le DMA va encore plus loin : la carte réseau accède directement à la VRAM du GPU, sans passer par la RAM CPU.

💡 Pourquoi c’est important en IA on-premise

Dès qu’on distribue des charges IA sur plusieurs nœuds, RDMA est le facteur différenciant entre un cluster efficace et un cluster limité par les latences réseau.

⚠️ Pièges fréquents

  • Comparer RDMA et TCP/IP sans considérer la charge CPU et la latence microseconde.
  • Surévaluer l’impact d’RDMA sur de petits workloads qui sont surtout compute-bound.

🔗 Voir aussi

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.