TFLOPS
📝 Définition courte
Unité qui mesure la capacité de calcul flottant par seconde.
📖 Définition détaillée
TFLOPS est utile pour comparer le potentiel de calcul brut, mais ce n’est pas un prédicteur suffisant des performances LLM. En inférence auto-régressive, la mémoire et les transferts peuvent dominer.
💡 Pourquoi c’est important en IA on-premise
Évite les erreurs de dimensionnement : une machine très forte en TFLOPS peut rester lente si la bande passante mémoire est faible.
🔗 Voir aussi
Situation où le débit mémoire limite la performance plus que la puissance de calcul, surtout en génération auto-régressive ; à ne pas juger sur les TFLOPS.Quantité de données transférées par seconde entre la mémoire et le processeur ou le GPU, en Go/s ; indicateur clé pour estimer la fluidité de la génération.