Aller au contenu

APU

📝 Définition courte

Puce qui intègre CPU, GPU (et souvent NPU) sur un même die ou package, partageant un pool mémoire commun sans copie PCIe.

📖 Définition détaillée

L’APU se distingue d’un PC classique (CPU + GPU discret) par l’absence de séparation physique entre la mémoire processeur et la mémoire graphique. CPU et GPU adressent le même pool LPDDR5X.

Les deux plateformes APU dominantes pour l’inférence LLM en 2026 :

PlateformeExempleVRAM allouableBande passante
Apple SiliconMac Studio M5 Max / M5 Ultra (depuis août 2026)~120 Go (sur 128 Go) / ~240 Go (sur 256 Go), via sysctl614 Go/s / 1,2 To/s
AMD Gorgon HaloRyzen AI Max+ PRO 495160 Go (BIOS, sur 192 Go)~273 Go/s

Ces chiffres permettent de faire tourner un modèle 70B quantifié (~40 Go) avec une grande fenêtre de contexte sur une station silencieuse de bureau — ce qui est impossible avec un GPU grand public même haut de gamme (32 Go de VRAM max en grand public, sur la RTX 5090).

💡 Pourquoi c’est important en IA on-premise

L’APU est la plateforme de référence pour le Scénario B (Appliance PME) : autonome, silencieuse, consommant moins de 60 W en charge légère, elle héberge un assistant local pour une équipe de 10 à 50 personnes (2 à 20 utilisateurs simultanés).

⚠️ Pièges fréquents

  • La mémoire LPDDR5X est soudée : impossible d’upgrader après achat. Prévoyez grand dès le départ.
  • Bande passante partagée CPU + GPU : plus l’OS et les applications chargent la RAM, moins le GPU en bénéficie pendant l’inférence.
  • Les NPU intégrés (Apple Neural Engine, AMD XDNA) ne sont pas utilisés par les moteurs LLM actuels (Ollama, llama.cpp, vLLM) — l’inférence reste sur le GPU iGPU.

📚 Pour comprendre en profondeur

🔗 Voir aussi

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.