Calcul dans votre navigateur · sans compte · aucune donnée envoyée

Guide matériel pour LLM local : quoi acheter en 2026

Combien de VRAM pour les modèles 8B, 32B et 70B, quelles cartes choisir et où l'argent est gaspillé.

Mis à jour 2026-11-10 6 min de lecture

Partez du modèle, pas de la carte

Les choix matériels échouent quand ils partent d'un budget au lieu d'un modèle. Choisissez d'abord le modèle que vous voulez réellement exécuter, calculez la mémoire nécessaire, et décidez de la carte en dernier.

Les chiffres ci-dessous utilisent Q4_K_M. Les poids sont calculés à 0,60 octet par paramètre — la valeur mesurée, pas les 0,50 théoriques. Le cache KV est calculé sur un contexte de 8K.

Ce dont chaque taille a réellement besoin

Taille	Poids (Q4)	KV à 8K	Total	Carte minimale
8B	~4,9 Go	~0,5 Go	~6,9 Go	12 Go
14B	~8,9 Go	~0,7 Go	~11,1 Go	16 Go
24B	~14,2 Go	~0,6 Go	~16,3 Go	24 Go
32B	~19,7 Go	~2,0 Go	~23,2 Go	24 Go (8K)
70B	~42,4 Go	~2,5 Go	~46,4 Go	48 Go

La dernière ligne est la plus sous-estimée. Un 70B en Q4 ne tient pas dans 24 Go, et aucune configuration ne change l'arithmétique. Un guide dédié sur ce site détaille le calcul.

Quatre approches

1. Une carte de 24 Go (RTX 3090 ou 4090)

Le point d'équilibre pour les modèles 8B à 24B. Une 3090 d'occasion est le moyen le moins cher d'obtenir 24 Go, et 936 Go/s suffisent pour environ 55 tok/s sur un 8B Q4. Une 4090 ajoute de la bande passante et de la latence plus faible, pour environ deux fois le prix.

2. Une carte de 32 Go (RTX 5090)

Elle permet des modèles 32B avec un contexte confortable, ou des 8B avec un gros batch. La carte est rapide, mais le prix au gigaoctet est moins bon qu'une 3090 d'occasion : vous payez la bande passante, pas la capacité.

3. Apple Silicon (Mac Studio ou Mac mini)

La mémoire unifiée permet de loger un 70B dans 64 Go sans GPU de 48 Go. Le compromis est la bande passante : 546 Go/s sur un M4 Max, environ la moitié d'une RTX 4090, donc moins de tok/s. Adapté au traitement par lots, aux longs documents et à la faible consommation ; pas au chat interactif rapide.

4. Deux cartes, ou une carte pro de 48 Go

L'entrée du 70B. Deux 3090 d'occasion coûtent moins qu'une carte de 48 Go, mais ajoutent consommation, bruit et contraintes de carte mère et d'alimentation. Pour un usage occasionnel, louer un GPU cloud revient souvent moins cher.

Trois erreurs qui coûtent cher

Acheter sur la taille Q4 théorique. À 0,50 octet, un 32B semble faire 16 Go. À 0,60 mesuré, il fait 19,7 Go, et avec le cache KV vous êtes à la limite d'une carte de 24 Go. Calculez toujours à 0,60.
Ignorer le cache KV. Un modèle qui tient à 4K peut échouer à 32K. Si vous traitez de longs documents, budgétez le cache avant l'achat.
Payer de la bande passante inutile. Une 4090 coûte deux fois une 3090 pour environ 8 % de bande passante en plus. Pour un 8B quelques heures par jour, ce surcoût ne se rentabilise pas.

Quoi acheter d'abord

En cas de doute, achetez une 24 Go d'occasion et exécutez des 8B à 14B pendant un mois. Mesurez votre usage réel, puis décidez s'il vous manque de la mémoire ou de la vitesse. Le calculateur de coût indique le prix par million de tokens à votre volume.

Lire →

LLM local vs API cloud : le vrai coût par million de tokens

Lire →

Questions

Pourquoi 0,60 octet par paramètre en Q4, et non 0,50 ?

Q4_K_M stocke la majorité des poids sur 4 bits, mais conserve les échelles, les zéros et certaines couches en précision supérieure. Les fichiers mesurés tournent autour de 0,60 octet par paramètre — Qwen3-32B fait 19,8 Go pour 32,8 milliards de paramètres. Calculer avec 0,50 sous-estime la mémoire d'environ 20 %, ce qui explique les cartes achetées trop petites.

Pourquoi calculer le cache KV séparément ?

Le cache KV croît avec la longueur du contexte, pas seulement avec la taille du modèle. Qwen3-32B demande 256 Kio par token en FP16, soit 8 Go à 32K. Une carte de 24 Go portant 19,5 Go de poids n'a plus que 3 Go, ce qui plafonne autour de 8K. C'est pourquoi un modèle se charge puis échoue dès qu'on colle un long document.

Les tok/s sont-ils mesurés ?

Non. Ce sont des estimations dérivées de la bande passante mémoire, avec un coefficient de 0,29 tiré des mesures publiées sur RTX 4090 avec Llama 3 8B Q4 (environ 62 tok/s pour un plafond théorique de 214 tok/s). Le débit réel dépend du batch, du backend et de la quantification.

Un modèle 70B ne tient vraiment pas dans 24 Go ?

En Q4_K_M, les poids d'un 70B font déjà environ 42 Go. Sur une carte de 24 Go, le reste doit résider en RAM système et transiter par PCIe, ce qui tombe à 1–3 tok/s. Il tourne techniquement, mais reste inutilisable en interaction.

Les débits sont des estimations issues de la bande passante mémoire et de mesures publiées. Les valeurs de VRAM sont calculées à partir de l'architecture et des hypothèses de quantification. Vérifiez sur votre propre environnement avant d'acheter.