Auto-hospedagem versus API: Calculadora de Ponto de Equilíbrio de Custos para LLMs

Você deve comprar uma GPU e auto-hospedar um LLM de código aberto, ou continuar pagando por token consumido via API? Tudo depende do volume de uso. Insira seu consumo mensal e as especificações do seu hardware, e esta calculadora mostrará o ponto de equilíbrio — o momento exato em que possuir a GPU se torna mais barato do que pagar a fatura da API.

Lembre-se: a hospedagem própria executa modelos de código aberto, portanto, leve em conta a diferença de qualidade em comparação com uma API de ponta — e use nossa Calculadora de VRAM para confirmar se sua GPU realmente consegue executar o modelo desejado.

Resposta rápida: É mais barato hospedar uma LLM localmente ou usar uma API?

Isso depende quase inteiramente do seu volume mensal sustentado de tokens. Para a maioria dos usuários, uma API hospedada é mais barata: abaixo de aproximadamente 50 milhões de tokens por mês, o preço por token supera o custo de comprar e operar uma GPU. A hospedagem local só compensa em volumes altos e estáveis — tipicamente dezenas a centenas de milhões de tokens por mês, alimentando agentes, tarefas em lote ou uma equipe inteira — onde uma GPU de propriedade, mantida constantemente ocupada, dilui seu custo inicial contra inferências praticamente ilimitadas. O ponto de equilíbrio é uma faixa, não uma linha fixa: ela varia conforme o tamanho do modelo, a categoria da GPU, o preço da eletricidade e, acima de tudo, o grau de utilização contínua da placa.

• Baixo volume (abaixo de ~50 milhões de tokens/mês): a API quase sempre vence.
• Zona de decisão (~50–500 milhões de tokens/mês): uma escolha genuinamente equilibrada, mas vale a pena hospedar localmente apenas se você tiver tempo de engenharia dedicado para gerenciá-la.
• Alto volume sustentado (agentes, tarefas em lote ou equipe inteira, 500 milhões+ de tokens/mês): uma GPU de propriedade bem utilizada pode reduzir o custo de inferência em até ~5×.
• Uma GPU só se paga se for mantida ocupada — uma placa ociosa ainda incorre em todo o seu custo de capital (capex) e consumo energético.
• APIs orçamentárias "flash" ou de modelos pequenos são tão baratas que hospedar localmente raramente se justifica em qualquer volume.

Perguntas frequentes

Quando uma GPU local se paga?

Uma GPU se paga assim que sua despesa mensal contínua com uma API equivalente para um modelo aberto ultrapassa consistentemente o custo total de possuí-la. Uma GPU de consumo de cerca de US$ 2.000–2.500, distribuída ao longo de três anos, resulta em aproximadamente US$ 55–70 por mês, mais US$ 30–60 em energia elétrica — ou seja, possuir uma GPU custa cerca de US$ 85–130 por mês no total. Se sua despesa equivalente com API permanecer abaixo desse valor, a API é mais barata; assim que ultrapassar significativamente esse patamar — na ordem de algumas centenas de dólares por mês — a placa recupera seu custo inicial de US$ 2.000–2.500 em cerca de um ano e passa a gerar economia após isso.

De quanta VRAM preciso para executar uma LLM localmente?

Na quantização de 4 bits, estime cerca de 0,5–0,6 GB de VRAM por bilhão de parâmetros, além de espaço extra para o cache KV, que cresce com o comprimento do contexto. Na prática, um modelo de 7B precisa de cerca de 8 GB, um modelo de 13B requer 12–16 GB e um modelo de 70B em 4 bits demanda aproximadamente 40–48 GB. Isso significa que um modelo de 7–13B cabe em uma única placa de 8–16 GB, mas um modelo de 70B em 4 bits é grande demais para qualquer GPU de consumo individual — até mesmo uma placa de 32 GB fica aquém, exigindo duas placas de 24 GB, uma placa de workstation de 48 GB ou um modelo menor e mais agressivamente quantizado.

Quais são os custos ocultos de hospedar uma LLM localmente?

O preço da GPU é apenas parte do custo — ao somar eletricidade, refrigeração e, sobretudo, tempo de engenharia, hospedar localmente geralmente custa 3–5× o valor bruto de aluguel da GPU. Planeje de 10 a 20 horas por mês para configuração, monitoramento e manutenção; esse esforço humano, somado ao custo de uma placa ociosa entre tarefas, é o que inviabiliza a maioria das estimativas ingênuas de ponto de equilíbrio.

O tamanho do modelo altera o ponto de equilíbrio?

Sim. Modelos maiores exigem GPUs mais potentes ou mais caras, elevando o capex a ser diluído, mas também têm os preços por token mais altos nas APIs, o que reduz o volume necessário para atingir o ponto de equilíbrio. Um modelo pequeno de 7–13B é barato de hospedar localmente, mas também é barato via API, então as APIs normalmente vencem; já um modelo aberto de 70B ou maior é onde uma GPU de propriedade, bem utilizada, tende a gerar as maiores economias.

A eletricidade torna a hospedagem local muito cara?

Normalmente não — a energia é um item secundário comparado ao hardware. Uma única GPU de desktop funcionando em carga máxima consome cerca de 400–600 W, o que, nas tarifas típicas de eletricidade, representa apenas cerca de US$ 30–60 por mês se operar continuamente. O custo dominante da hospedagem local é o hardware inicial e o tempo de engenharia necessário para operá-lo, não a eletricidade.

Uma pequena equipe ou startup deve hospedar localmente ou usar uma API?

Comece com uma API. Até que você tenha um volume alto e previsível e alguém responsável pela infraestrutura, o pagamento por token é mais barato, mais rápido de implementar e não envolve risco inicial. Reavalie a hospedagem local apenas quando sua conta mensal for alta e estável — tipicamente quando você ultrapassar consistentemente dezenas de milhões de tokens por mês em um modelo aberto comparável.