RTX 3090 : ce qui tient réellement dans 24 Go
24 Go de mémoire et 936 Go/s de bande passante. Ci-dessous : besoins par modèle en Q4_K_M, débit estimé et coût des tokens.
| Mémoire | 24 GB GDDR6X |
|---|---|
| Bande passante | 936 GB/s |
| Consommation (TDP) | 350 W |
| Prix de référence | $900 |
| Facteur d'efficacité | 0.29 |
Used-market reference, Nov 2026. Prices vary a lot.
| Modèle | Poids (Q4) | KV à 8K | Total requis | — | tok/s est. | Coût / 1M tokens | Contexte maximal tenant |
|---|---|---|---|---|---|---|---|
| Llama 3.3 70B Meta · Dense · GQA | 42.4 GB | 2.7 GB | 46.5 GB | Non | — | $— | — |
| Qwen3 32B Alibaba · Dense · GQA | 19.7 GB | 2.1 GB | 23.3 GB | Juste | 14 | $4.98 | 7k |
| Mistral Small 24B Mistral AI · Dense · GQA | 14.2 GB | 1.3 GB | 17.0 GB | Tient | 19 | $3.59 | 45k |
| Qwen3 14B Alibaba · Dense · GQA | 8.9 GB | 1.3 GB | 11.7 GB | Tient | 31 | $2.25 | 76k |
| Qwen3 8B Alibaba · Dense · GQA | 4.9 GB | 1.2 GB | 7.6 GB | Tient | 55 | $1.25 | 111k |
| Llama 3.1 8B Meta · Dense · GQA | 4.8 GB | 1.1 GB | 7.4 GB | Tient | 56 | $1.22 | 126k |
Les débits sont des estimations issues de la bande passante mémoire et de mesures publiées. Les valeurs de VRAM sont calculées à partir de l'architecture et des hypothèses de quantification. Vérifiez sur votre propre environnement avant d'acheter.
Ce que ça coûte à l'usage
Le GPU se paie une fois mais s'amortit chaque année, et il consomme même sans générer. À faible volume, le coût fixe domine : une carte à 1 799 $ produisant 978 M de tokens en trois ans revient à environ 2,08 $ par million — compétitif face aux API bon marché, loin derrière les moins chères.
Les débits sont des estimations issues de la bande passante mémoire et de mesures publiées. Les valeurs de VRAM sont calculées à partir de l'architecture et des hypothèses de quantification. Vérifiez sur votre propre environnement avant d'acheter.