Auto-hébergement vs API : calculateur du seuil de rentabilité des coûts pour les LLM

Faut-il acheter un GPU et auto-héberger une LLM open source, ou simplement continuer à payer à l’usage via une API ? Tout dépend du volume. Indiquez votre utilisation mensuelle et votre matériel, et ce calculateur vous indiquera le seuil de rentabilité — le moment précis où posséder le GPU devient moins coûteux que la facture liée à l’API.

N'oubliez pas : l'hébergement local s'exécute modèles open-weight, donc prenez en compte la différence de qualité par rapport à une API de pointe — et utilisez notre Calculateur de VRAM pour vérifier que votre GPU est effectivement capable d'exécuter le modèle souhaité.

Réponse rapide : Est-il moins coûteux d’héberger soi-même un LLM ou d’utiliser une API ?

Cela dépend presque entièrement de votre volume mensuel soutenu de jetons. Pour la plupart des utilisateurs, une API hébergée est moins chère : en dessous d’environ 50 millions de jetons par mois, le prix par jeton est inférieur au coût d’achat et d’exploitation d’un GPU. L’hébergement local n’est rentable qu’à très haut volume, régulier — typiquement des dizaines à des centaines de millions de jetons par mois, destinés à alimenter des agents, des traitements par lots ou une équipe entière — où un GPU en propriété, constamment sollicité, permet d’amortir son coût initial face à une capacité d’inférence pratiquement illimitée. Le seuil de rentabilité est une fourchette, non une ligne fixe : il varie selon la taille du modèle, la gamme du GPU, le prix de l’électricité et, surtout, le taux d’utilisation réel de la carte.

• Faible volume (moins d’environ 50 M de jetons/mois) : l’API l’emporte presque systématiquement.
• Zone de décision (~50 M–500 M de jetons/mois) : un véritable tirage à pile ou face, mais l’hébergement local n’est justifié que si vous disposez d’un temps d’ingénierie dédié pour le faire fonctionner.
• Volume élevé et soutenu (agents, traitements par lots ou équipe entière, 500 M+ de jetons/mois) : un GPU en propriété bien utilisé peut réduire jusqu’à environ 5 fois le coût de l’inférence.
• Un GPU ne se rentabilise que s’il est constamment sollicité — une carte inutilisée continue de coûter l’intégralité de son investissement initial et de sa consommation électrique.
• Les APIs « flash » budgétaires ou celles basées sur des modèles légers sont si peu coûteuses que l’hébergement local est rarement justifié, quel que soit le volume.

Questions fréquemment posées

À partir de quand un GPU local se rentabilise-t-il ?

Un GPU se rentabilise dès lors que vos dépenses mensuelles récurrentes via une API, pour un modèle ouvert équivalent, dépassent régulièrement le coût total de possession d’un tel GPU. Un GPU grand public d’environ 2 000–2 500 $, amorti sur trois ans, revient à environ 55–70 $ par mois, auxquels s’ajoutent 30–60 $ pour l’électricité — soit un coût total d’environ 85–130 $ par mois. Si vos dépenses comparables via une API restent en dessous de ce seuil, l’API est moins chère ; dès qu’elles le dépassent nettement — à hauteur de plusieurs centaines de dollars par mois — la carte récupère son coût initial de 2 000–2 500 $ en environ un an, puis génère des économies par la suite.

De combien de VRAM ai-je besoin pour exécuter un LLM localement ?

À la quantification 4 bits, comptez environ 0,5–0,6 Go de VRAM par milliard de paramètres, plus une marge supplémentaire pour le cache KV, qui augmente avec la longueur du contexte. En pratique, un modèle de 7 milliards de paramètres nécessite environ 8 Go, un modèle de 13 milliards de paramètres 12–16 Go, et un modèle de 70 milliards de paramètres en 4 bits environ 40–48 Go. Cela signifie qu’un modèle de 7–13 milliards de paramètres tient sur une seule carte de 8–16 Go, tandis qu’un modèle de 70 milliards de paramètres en 4 bits est trop volumineux pour une seule carte grand public — même une carte de 32 Go est insuffisante, ce qui implique d’utiliser deux cartes de 24 Go, une carte professionnelle de 48 Go, ou un modèle plus petit et plus fortement quantifié.

Quels sont les coûts cachés de l’hébergement local d’un LLM ?

Le prix du GPU ne représente qu’une partie du coût — une fois ajoutés l’électricité, le refroidissement et surtout le temps d’ingénierie, l’hébergement local coûte généralement 3 à 5 fois le montant brut de la location d’un GPU. Prévoyez 10 à 20 heures par mois pour la configuration, la surveillance et la maintenance ; ce travail, combiné au coût d’une carte inactive entre deux tâches, fait échouer la plupart des estimations naïves de seuil de rentabilité.

La taille du modèle modifie-t-elle le seuil de rentabilité ?

Oui. Les modèles plus volumineux exigent des GPUs plus puissants ou plus coûteux, ce qui augmente le coût en capital à amortir, mais ils comportent aussi les tarifs par jeton les plus élevés via une API, ce qui abaisse le seuil de rentabilité en termes de volume. Un petit modèle de 7–13 milliards de paramètres est peu coûteux à héberger localement, mais aussi peu coûteux via une API, donc l’API l’emporte généralement ; c’est plutôt pour les modèles ouverts de 70 milliards de paramètres et plus que l’utilisation intensive d’un GPU en propriété offre les économies les plus importantes.

L’électricité rend-elle l’hébergement local trop coûteux ?

Pas habituellement — la consommation électrique est une dépense mineure comparée au matériel. Un seul GPU de bureau fonctionnant à pleine charge consomme environ 400–600 W, ce qui, aux tarifs électriques usuels, revient à seulement environ 30–60 $ par mois s’il tourne en continu. Le coût dominant de l’hébergement local est l’investissement initial dans le matériel et le temps d’ingénierie nécessaire à son exploitation, pas l’électricité.

Une petite équipe ou une startup doit-elle héberger localement ou utiliser une API ?

Commencez par une API. Tant que vous n’avez pas un volume élevé et prévisible, et personne pour gérer l’infrastructure, le paiement à l’usage est moins coûteux, plus rapide à mettre en œuvre et sans risque initial. Réévaluez l’hébergement local uniquement lorsque votre facture mensuelle devient importante et stable — typiquement dès que vous dépassez régulièrement les dizaines de millions de jetons par mois avec un modèle ouvert comparable.