Llama 3.3 70B — Spécifications
Rédigé par Mustafa Ihsan d’après la documentation officielle du fournisseur · Dernière mise à jour
| Développeur | Meta |
|---|---|
| Type | LLM (dense) |
| Modalité | Texte → Texte |
| Paramètres | 70B |
| Fenêtre de contexte | 128 K |
| Licence | Llama 3.3 Community (ouverte) |
| Poids ouverts | Oui |
| Publié | 2024 |
| Prix de l’entrée | $0.10 /1M |
| Prix de la sortie | $0.32 /1M |
| Fournisseurs d'API | Together, DeepInfra, OpenRouter, Ollama |
Exécutez-le localement
| VRAM (4 bits) | ~40 Go |
|---|---|
| GPU minimal | 2 × RTX 4090 / 1 × GPU 48 Go |
What is Llama 3.3 70B?
Llama 3.3 70B is Meta’s efficient dense 70B — close to 405B-class quality at a fraction of
the size, with a 128K context. It needs about 40 GB of VRAM at 4-bit, so two RTX 4090s or a
single 48 GB card, and it is among the most-deployed open models for self-hosting.
Dense is the operative word. Nearly every large open model released since is a
mixture-of-experts, which lowers inference compute but keeps the full parameter count
resident in memory — DeepSeek V4-Pro activates 49B parameters but still needs roughly 800 GB
of VRAM to hold. A dense 70B has no such gap: what you load is what you use, so 40 GB is the
whole story. For teams sizing hardware, that predictability is worth a lot, and it is why
3.3 70B remains the default for on-premises deployments even as newer architectures post
better benchmark numbers. At $0.10 in / $0.32 out per million tokens the API is cheap enough
that self-hosting only makes sense for data-residency reasons or at sustained high
volume.
Llama 3.3 70B pricing: API cost per 1M tokens
| Entrée (par million de jetons) | $0.100 |
|---|---|
| Sortie (par million de jetons) | $0.320 |
| Ratio sortie/entrée | 3.2× |
| Moyenne pondérée (4:1 entrée:sortie) | $0.144 par 1 million de jetons |
What Llama 3.3 70B costs per month
Dépense mensuelle réelle pour un ratio entrée-sortie de 4:1 — le rapport effectivement observé dans une charge de travail type (chat ou RAG).
| Charge de travail | Jetons/mois | Coût par mois |
|---|---|---|
| Projet secondaire | 1 million en entrée / 0,25 million en sortie | $0.18 |
| Petite équipe | 20 millions en entrée / 5 millions en sortie | $3.60 |
| Production | 200 millions en entrée / 50 millions en sortie | $36 |
Calculez vos propres coûts dans le Calculateur de coûts pour les API IA.
Cheaper alternatives to Llama 3.3 70B
| Modèle | Coût combiné par million de dollars | Vous économisez |
|---|---|---|
| Mistral 7B ouverte | $0.0220 | 85% cheaper |
| Llama 3.1 8B ouverte | $0.0220 | 85% cheaper |
| Mistral NeMo 12B ouverte | $0.0240 | 83% cheaper |
Hébergement local ou paiement via API ?
Llama 3.3 70B is open-weight, so you can run it yourself. It needs ~40 Go of VRAM at 4-bit (2× RTX 4090 / 1× 48GB). Self-hosting only beats the API once your volume is high enough to keep that hardware busy — the calculateur auto-hébergement vs API calcule le seuil de rentabilité pour votre volume de jetons.
Questions fréquemment posées
How much does Llama 3.3 70B cost per 1M tokens?
Llama 3.3 70B costs $0.100 per 1M input tokens and $0.320 per 1M output tokens. At a typical 4:1 input-to-output mix that blends to about $0.144 per 1M tokens.
How much does Llama 3.3 70B cost per month?
A small-team workload of 20M input and 5M output tokens a month costs about $3.60 on Llama 3.3 70B. A side project (1M in / 0.25M out) costs roughly $0.18.
What is a cheaper alternative to Llama 3.3 70B?
Mistral 7B is the strongest cheaper option in our database at $0.0220 per 1M blended — about 85% less than Llama 3.3 70B. It is also open-weight, so self-hosting is an option.
Can I run Llama 3.3 70B locally?
Yes. Llama 3.3 70B is open-weight and needs about ~40 GB of VRAM at 4-bit quantisation (2× RTX 4090 / 1× 48GB).
Why does Llama 3.3 70B charge more for output than input?
Output tokens are generated one at a time and cannot be batched the way a prompt can, so they cost the provider more to serve. Llama 3.3 70B charges 3.2× more for output, which is why prompt-heavy workloads are far cheaper to run than generation-heavy ones.
Les prix indiqués correspondent aux tarifs publics officiels pour l’API principale du modèle et sont mis à jour régulièrement à mesure que les fournisseurs les modifient. Les remises liées aux volumes, aux traitements par lots ou aux entrées mises en cache ne sont pas prises en compte. Comparez tous les modèles côte à côte dans le Base de données des modèles IA ou le Classement des grands modèles linguistiques (LLM).