Inférence locale vs API : qui est vraiment moins cher ?

Un GPU est un coût fixe. Une API est un coût variable. La réponse dépend du volume de tokens généré — entrez vos propres chiffres.

Comparaison des coûts

Mise à jour à la saisie. Rien ne quitte votre navigateur.

Modèle prédéfini

Matériel

La mémoire utilisable est inférieure au chiffre annoncé : 90 % sur NVIDIA, 85 % sur un Mac 128 Go.

Prix API ($ par million de tokens)3.00

Tokens générés par jour (millions)1.0

Heures d'utilisation par jour4h

Prix de l'électricité ($/kWh)0.12

Local—

Matériel (amorti)—

Électricité—

Coût local par million de tokens—

Point d'équilibre—

API cloud—

Le matériel s'amortit seulement si le volume mensuel de tokens est assez élevé.

Tous les montants sont en USD. Les prix du matériel sont les prix de détail américains et varient.

Pourquoi l'équilibre est plus lointain qu'il n'y paraît

Le GPU se paie une fois mais s'amortit chaque année, et il consomme même sans générer. À faible volume, le coût fixe domine : une carte à 1 799 $ produisant 978 M de tokens en trois ans revient à environ 2,08 $ par million — compétitif face aux API bon marché, loin derrière les moins chères.

Annual electricity = TDP(kW) × hours/day × 365 × price/kWh Annual depreciation = hardware price / depreciation years Tokens per year (M) = tok/s × 3600 × hours/day × 365 / 1,000,000 Cost per 1M tokens = (annual depreciation + annual electricity) / tokens per year

Calculez avec vos chiffres

Modifiez le prix de l'API, le volume quotidien et le matériel dans le calculateur. Chaque hypothèse est visible.

Calculateur → · Lire le guide matériel →

Les débits sont des estimations issues de la bande passante mémoire et de mesures publiées. Les valeurs de VRAM sont calculées à partir de l'architecture et des hypothèses de quantification. Vérifiez sur votre propre environnement avant d'acheter.