Você deve comprar uma GPU e auto-hospedar um LLM de código aberto, ou continuar pagando por token consumido via API? Tudo depende do volume de uso. Insira seu consumo mensal e as especificações do seu hardware, e esta calculadora mostrará o ponto de equilíbrio — o momento exato em que possuir a GPU se torna mais barato do que pagar a fatura da API.
Seu uso
Sua configuração de auto-hospedagem
| Custo da API (seu volume) | — |
| Custo da auto-hospedagem (GPU amortizada) | — |
| Custo da auto-hospedagem (energia elétrica) | — |
| Custo total da auto-hospedagem por mês | — |
A auto-hospedagem executa modelos de código aberto (pesos gratuitos), portanto esta comparação avalia o custo por token da API contra a aquisição de hardware. Assume-se que sua GPU consegue acompanhar o volume exigido (uma única GPU possui um limite máximo de tokens/segundo) e ignora o tempo necessário para configuração e manutenção. Verifique quais modelos uma GPU pode realmente executar em nossa Calculadora de VRAMe os preços atuais das APIs na calculadora de custos.
Lembre-se: a hospedagem própria executa modelos de código aberto, portanto, leve em conta a diferença de qualidade em comparação com uma API de ponta — e use nossa Calculadora de VRAM para confirmar se sua GPU realmente consegue executar o modelo desejado.