RDMA
📝 Définition courte
Technique réseau permettant d’écrire/lire en mémoire distante avec faible surcharge CPU.
📖 Définition détaillée
Dans un transfert réseau classique (TCP/IP), les données passent par le CPU (copie en espace user → kernel → carte réseau). RDMA court-circuite ce chemin : la carte réseau accède directement à la mémoire de l’application, avec une latence de ~1–2 µs et une charge CPU quasi nulle.
Deux implémentations principales :
- InfiniBand : fabric dédié, lossless natif, standard HPC/IA haute performance.
- RoCE : RDMA sur Ethernet, moins coûteux mais nécessite une configuration lossless (PFC/ECN).
Avec GPUDirect RDMA, le DMA va encore plus loin : la carte réseau accède directement à la VRAM du GPU, sans passer par la RAM CPU.
💡 Pourquoi c’est important en IA on-premise
Dès qu’on distribue des charges IA sur plusieurs nœuds, RDMA est le facteur différenciant entre un cluster efficace et un cluster limité par les latences réseau.
⚠️ Pièges fréquents
- Comparer RDMA et TCP/IP sans considérer la charge CPU et la latence microseconde.
- Surévaluer l’impact d’RDMA sur de petits workloads qui sont surtout compute-bound.
🔗 Voir aussi
Fabric réseau dédié hautes performances pour les clusters GPU, standard HPC et datacenter IA.Protocole qui apporte les bénéfices du RDMA sur Ethernet standard, sans fabric InfiniBand dédié, au prix d'un réseau lossless à configurer (PFC, ECN).Mécanisme permettant aux GPU d'échanger des données directement avec des périphériques réseau sans copie CPU.Architecture à plusieurs GPU dans une machine ou un cluster pour augmenter la mémoire et le débit ; les gains dépendent de l'interconnexion (PCIe, NVLink).