Executar LLMs localmente deixou de ser um "hobby divertido" para se tornar um "fluxo de trabalho profissional essencial" em 2026. As razões não são sutis: os custos das APIs em nuvem aumentam rapidamente, seus dados permanecem em sua máquina e a lacuna entre modelos de código aberto e sistemas do nível do GPT diminuiu o suficiente para que a maior parte do trabalho profissional possa ser feita com um Llama 3 70B ou Qwen 2.5 72B, ambos compatíveis com hardware consumidor.
A questão é qual hardware para consumidor — e, se você ainda está avaliando os conceitos básicos, nosso Perguntas sobre hardware de IA respondidas abrange o terreno subjacente a esta classificação. Esta lista classifica todas as GPUs que alguém recomenda seriamente em 2026 para LLM local trabalho, com base em benchmarks publicados, requisitos reais de VRAM e preços atuais no varejo — além de uma avaliação honesta sobre qual delas realmente vale a pena comprar.
Principais conclusões
- Melhor no geral: RTX 4090 (usada, US$ 1.200–1.400) — melhor equilíbrio entre VRAM, desempenho e ecossistema em 2026.
- Melhor se o orçamento for irrelevante: RTX 5090 (32 GB, $2.000 MSRP) — mais VRAM em qualquer placa ao consumidor, embora 70B ainda caiba apenas em ~3-bit (Q4_K_M é um arquivo de 42,5 GB).
- Melhor custo-benefício: RTX 3090 usada (24 GB, US$ 700) — metade da velocidade da RTX 4090 ao custo de metade do preço.
- Melhor opção econômica: RTX 3060 12 GB (US$ 280) — executa modelos da classe 7B com desempenho fluido; ponto de entrada ideal.
- Melhor opção não-NVIDIA: Apple M5 Max 128 GB (Mac Studio / MacBook Pro) — paradigma diferente, memória massiva, mas mais lento por token.
Como escolher de fato: a regra que supera qualquer ficha técnica
Escolha para VRAM em primeiro lugar, throughput em segundo, tudo o mais em terceiro.
A inferência de LLMs é dominada pela largura de banda e pela capacidade de memória. Se seu modelo + cache KV + contexto couberem na VRAM, você obterá inferência em velocidade máxima. Caso contrário, pagará uma penalidade de 5–10× devido ao descarregamento para a CPU, e a diferença entre uma GPU "rápida" e uma GPU "lenta" deixa de importar — ambas passam a ser limitadas pela PCIe + RAM do sistema.
Árvore de decisão prática:
- Modelos de 7–13 B (Llama 3 8B, Mistral 7B, Phi-4) → Mínimo de 12 GB de VRAM, 16 GB confortáveis. RTX 3060 12 GB ou superior.
- Modelos de 30–34 B (Qwen 2.5 32B, Yi-34B) → 24 GB VRAM em Q4. RTX 3090, 4090, ou um Mac M5 Pro com 48 GB.
- Modelos de 70–72 B (Llama 3 70B, Qwen 2.5 72B) → baseado nos arquivos GGUF de Llama 3 70B: 24 GB apenas em ~2-bit (IQ2_XS, ~21 GB; bruto), 32 GB em ~3-bit (IQ3_XXS, ~27,5 GB), 48 GB em Q4_K_M (~42,5 GB; limpo), 64 GB+ para Q5_K_M (~50 GB). Dual 3090/4090 ou um Mac de 64 GB+ (M5 Pro ou M5 Max); um único RTX 4090 ou 5090 apenas em quants de bit baixo.
- Modelos de 100 B+ (Mistral Large 2, Command R+ 104B) → 48 GB+ mínimo, e apenas em ~3-bit (Q4_K_M é ~63 GB para Command R+ e ~73 GB para Mistral Large 2). RTX 6000 Ada ou dual 4090 em 3-bit; M5 Max 128 GB ou DGX Spark para Q4_K_M.
- Modelos de 200 B+ (DeepSeek V3 671B MoE, Llama 3.1 405B) → 256 GB+ de memória em 4-bit (o GGUF Q4_K_M é ~245 GB para Llama 3.1 405B e ~404 GB para DeepSeek V3). Um Mac Studio com M5 Ultra e 512 GB de memória unificada, servidores multi-GPU, ou, para modelos classe 405B, dois NVIDIA DGX Spark ligados (256 GB combinados; a NVIDIA classifica o par para modelos de até ~400B parâmetros).
Uma vez identificada a categoria de modelo que lhe interessa, todas as demais especificações além da VRAM são critérios de desempate.
Lista classificada
1. RTX 4090 — melhor opção geral em 2026
A 4090 não é a GPU LLM mais rápida em 2026 — isso é a 5090 — mas a preços usados é a melhor compra por uma margem muito ampla. Vinte e quatro gigabytes de VRAM executa modelos classe 30B em Q4_K_M com espaço para contexto (70B cabe apenas em ~2-bit), a pilha de software CUDA é totalmente madura, e cada framework que você se importa (llama.cpp, vLLM, exllamav2, MLC-LLM, TensorRT-LLM) teve dois anos para otimizar para Ada.
As únicas coisas que você sacrifica em comparação com a 5090 são 8 GB de VRAM e cerca de um terço do throughput. Para a maioria dos fluxos de trabalho locais com LLMs, isso não justifica dobrar o preço.
Compre se: você quer uma GPU que mantenha modelos classe 8B até 32B inteiramente em VRAM (70B apenas em ~2-bit ou com CPU offload) e você tem orçamento para uma compra usada de $1.200+.
Pule se: você precisa de 70B em Q4 ou melhor diariamente (o arquivo Q4_K_M de 42,5 GB não cabe em 24 GB) ou você tem um teto rígido de $800.
2. RTX 5090 — apenas se você realmente precisar de 32 GB
A 5090 é a única placa GeForce com 32 GB, suficiente para manter Llama 3 70B inteiramente em VRAM em ~3-bit (IQ3_XXS, 27,5 GB) — embora não em Q4_K_M (42,5 GB) ou Q5_K_M (~50 GB), que precisam de duas placas ou uma GPU workstation de 48 GB+. Essa memória extra — combinada com sua largura de banda de memória 78% maior que a 4090 — é todo o caso para ela.
Se você não precisa de 32 GB, está pagando um prêmio de $1.000+ por aproximadamente 30–60% mais velocidade em benchmarks publicados em cargas de trabalho que já funcionavam bem na 4090. Se você precisa de 32 GB (70B em ~3-bit, Geração de vídeos por IA, ajuste fino de modelos maiores que 13B), não há concorrência nesse segmento de preços voltado para consumidores.
A análise completa de benchmarks está disponível em nosso aprofundamento comparativo RTX 5090 vs. RTX 4090 para IA.
Compre se: você precisa de 32 GB de VRAM e dispõe de mais de US$ 2.000 para gastar.
Pule se: seus modelos cabem em 24 GB ou você consegue encontrar uma RTX 4090 usada por US$ 1.200.
3. RTX 3090 — a jogada imbatível em relação custo-benefício
A 3090 agora tem cinco anos e continua sendo a melhor compra dólar-por-VRAM em 2026. Vinte e quatro gigabytes de memória a $700 usados é o que permite que milhares de pesquisadores de ML indie executem modelos classe 30B em bons quants, e modelos classe 70B em Q4 uma vez que duas placas sejam emparelhadas.
No placar CUDA da comunidade llama.cpp, gera tokens a cerca de 86% da taxa de uma 4090 (162 vs 189 t/s em Llama 2 7B Q4_0) mas processa prompts a menos de 40% de sua velocidade — para inferência estilo chat, você ainda obtém tokens/seg usáveis em cada modelo que cabe. As principais desvantagens são maior consumo de energia por unidade de trabalho e o risco que vem com a compra de uma placa de cinco anos no mercado secundário.
O movimento clássico dos entusiastas em 2026: duas RTX 3090 usadas com uma fonte de alimentação de qualidade de 1200 W e ponte NVLink, totalizando US$ 1.400, oferecem 48 GB de VRAM que superam uma única RTX 4090 em todos os modelos maiores que 30B. A configuração é incômoda, mas funciona.
Compre se: você dispõe de US$ 700, deseja começar com LLMs locais e está confortável com hardware usado.
Pule se: você precisa de hardware novo com garantia ou seu PC possui restrições rigorosas de energia/espaço.
4. RTX 3060 12 GB — a porta de entrada
Cinco anos após o lançamento, a 3060 12 GB ainda está em produção e ainda é a resposta correta para «como começo com LLMs locais o mais barato possível?» Doze gigabytes é suficiente para qualquer modelo classe 7–13B em quants sólidos, modelos classe 7B geram mais rápido do que você lê (77 t/s em Llama 2 7B Q4_0 no placar CUDA llama.cpp), e toda a placa custa $280 nova.
O que você sacrifica: qualquer modelo com mais de 30 bilhões de parâmetros. A RTX 3060 não consegue executar o Llama 3 70B em velocidade utilizável, mesmo com qualquer técnica de quantização. Trata-se, inequivocamente, de uma GPU para "modelos pequenos".
Compre se: você é novo em LLMs locais e deseja aprender antes de investir mais de US$ 1.000.
Pule se: você já sabe que deseja executar modelos da classe 70B.
5. Radeon RX 7900 XTX — o compromisso da AMD
O ROCm 6.3 combinado à RX 7900 XTX finalmente atingiu um nível suficiente de maturidade em 2026, tornando esta uma recomendação genuína — e não apenas uma alternativa cautelosa. Você obtém 24 GB de VRAM por cerca de US$ 900 (preço de lançamento), desempenho entre o da RTX 3090 e o da RTX 4090, além de suporte completo ao PyTorch e ao llama.cpp.
Ainda assim, a fricção persiste. Alguns frameworks (como o TensorRT-LLM, certos mecanismos de inferência exclusivos para CUDA e algumas implementações experimentais) simplesmente não funcionam. O código de pesquisa de ponta prioriza o CUDA; o suporte à AMD costuma chegar semanas ou meses depois.
Compre se: você tem objeções ideológicas à NVIDIA, é sensível ao preço mas prefere equipamento novo com garantia, ou já possui um sistema baseado majoritariamente em hardware AMD.
Pule se: você busca zero fricção ou realiza pesquisas com lançamentos muito recentes de modelos.
6. Apple M5 Max (Mac Studio / MacBook Pro) — a jogada de memória unificada
O M5 Max não é rápido por token comparado à Nvidia. O que tem é memória que você não consegue obter em nenhum outro lugar a preços acessíveis ao consumidor. Um M5 Max de 128 GB comporta Mistral Large 2 (123B) em Q4_K_M (~73 GB) e até mesmo Llama 3.1 405B em quant de 2-bit (IQ2_XXS, ~107 GB) — algo que um único RTX 5090 simplesmente não consegue fazer. (405B em Q4_K_M é ~245 GB, além de qualquer máquina de 128 GB.)
Para fluxos de trabalho intensivos em inferência onde você se importa mais com o tamanho do modelo do que com a velocidade (análise de documento longo, sistemas de agente, pesquisa), o M5 Max é genuinamente a ferramenta correta. Para treinamento, fine-tuning, geração de imagem, ou qualquer fluxo de trabalho que se baseie em software CUDA-only, é uma escolha frustrante.
Compre se: você precisa executar modelos locais com mais de 100 bilhões de parâmetros, vive no ecossistema Mac ou valoriza operação silenciosa.
Pule se: você ajusta modelos finamente, gera imagens ou seu LLM diário tem menos de 70 bilhões de parâmetros (você estaria pagando por memória que não utilizará).
7. RTX 5070 Ti / RTX 5080 — o intermediário que não funciona
Ambas as placas são rápidas e modernas, mas 16 GB de VRAM em 2026 é um número incômodo para LLMs. Demais para modelos 7B (excessivo), pouco para 70B (não cabe em nenhuma quantização utilizável). Fazem ótimas placas para jogos + IA leve, mas se inferência local de LLM é sua prioridade, você se sairá melhor com uma 3090 usada ($700, 24 GB) ou uma 4090 usada ($1.200, 24 GB).
Compre se: você é um gamer que também quer brincar com LLMs pequenos.
Pule se: inferência de LLM local é seu caso de uso principal.
Tabela de comparação
| GPU | VRAM | Llama 2 7B Q4_0 t/s* | Llama 3 70B: maior quant que cabe | Preço de rua | Veredito |
|---|---|---|---|---|---|
| RTX 5090 | 32 GB | 300 | IQ3_XXS (27,5 GB) | $2,400 | Líder se você precisa de 32 GB |
| RTX 4090 | 24 GB | 189 | IQ2_XS (21,1 GB) | $1,300 | Melhor no geral |
| RTX 3090 | 24 GB | 162 | IQ2_XS (21,1 GB) | $700 | Melhor relação custo-benefício |
| 2× RTX 3090 | 48 GB | — | Q4_K_M (42,5 GB) | $1,400 | Melhor configuração com 48 GB |
| RX 7900 XTX | 24 GB | 170 (ROCm) | IQ2_XS (21,1 GB) | $900 | Escolha AMD (ROCm) |
| M5 Max 128 GB | 128 GB | 120 | Q8_0 (~75 GB) | $3,799+ | Para modelos 100B+ |
| M5 Max 64 GB | 64 GB | 120 | Q4_K_M (42,5 GB) | $3,799 | Opção Mac silenciosa |
| RTX 5080 | 16 GB | 185 | n/a | $999 | Pule para LLMs |
| RTX 5070 Ti | 16 GB | 182 | n/a | $749 | Pule para LLMs |
| RTX 3060 12 GB | 12 GB | 77 | n/a | $280 | Melhor entrada |
| Arc B580 | 12 GB | 72 (Vulkan) | n/a | $249 | Aposta orçamentária |
*Geração de token (tg128) em Llama 2 7B Q4_0 dos placares da comunidade llama.cpp para CUDA (flash attention ativado), ROCm, Vulkan e Apple Silicon. As entradas vêm de diferentes usuários, sistemas e compilações, portanto trate-as como brutas; Convly não fez benchmark dessas placas. «Maior quant que cabe» usa tamanhos de arquivo GGUF Llama 3 70B de bartowski e deixa espaço para um contexto de 8 K.
Stack de software que você realmente vai usar
Qualquer que seja a GPU que você escolha, a stack de inferência em 2026 se consolidou em torno de três opções:
- Ollama — configuração mais fácil, menos parâmetros. Melhor para «Eu só quero conversar com Llama 3.»
- LM Studio — GUI com navegador de modelos, permite ajustar offload de camadas, split de GPU, tamanho do contexto. Melhor para «Estou testando o que roda no meu hardware.»
- llama.cpp + vLLM + exllamav2 — linha de comando, desempenho máximo, controle mais profundo. Melhor para deployments em produção e benchmarking.
Usuários de CUDA têm o caminho mais fácil; tudo funciona. Usuários de ROCm visam llama.cpp e Ollama (ambos totalmente suportados). Usuários de Apple Silicon têm MLX (framework nativo de IA da Apple) que agora é mais rápido que llama.cpp Metal em 2026.
Para VRAM que você não tem, CPU offload permite «emprestar» RAM do sistema com uma penalidade de velocidade pesada (10× mais lento ou pior). Útil para rodar um modelo que você não consegue encaixar, mas doloroso como motorista diário.
Visualização rápida de prós e contras
Compras de 3090 / 4090 usadas
- Melhor VRAM por dólar em 2026
- Stack CUDA completo + software maduro
- Revende bem — perdas são limitadas
- Builds multi-GPU são diretos
Tradeoffs
- Sem garantia do fabricante
- Risco de placa de mineração em 3090s
- Consumo de energia maior que a série 50 mais nova
RTX 5090 + Apple M5 Max
- VRAM de topo (32 GB ou 128 GB unificado)
- Drivers de última geração e janela de suporte
- Sem risco de mercado usado
- Cargas de trabalho únicas (5090: vídeo de IA; M5 Max: modelos 100B+)
Tradeoffs
- 2× o preço de uma compra usada comparável
- Maior consumo de energia (5090) ou mais lento por token (M5 Max)
- M5 Max o prende ao ecossistema Apple
Perguntas frequentes
Qual é a GPU mais barata que pode executar Llama 3 70B localmente?
Uma RTX 3090 usada ($650–800) é a opção de placa única mais barata, mas apenas em ~2-bit: IQ2_XS (21,1 GB) ou IQ2_XXS (19,1 GB) cabe em seus 24 GB com perda clara de qualidade, enquanto Q3_K_S (30,9 GB) não cabe. Q4_K_M é um arquivo de 42,5 GB, portanto precisa de cerca de 48 GB de VRAM — uma construção 2× 3090 é a forma mais barata de chegar lá.
A RTX 4090 é suficiente para trabalho sério com LLMs em 2026?
Para a maioria dos profissionais, sim. 24 GB executa modelos da classe 30B em Q4_K_M com contexto de 8K (Qwen 2.5 32B em Q5_K_M é um arquivo de 23,3 GB, muito apertado uma vez que o KV cache é adicionado), cabe 70B apenas em ~2-bit, e oferece CUDA completo. Os casos em que você sentirá falta de espaço são 70B com quants de qualidade, geração de vídeo com IA, modelos acima de 100B parâmetros, ou fine-tuning de qualquer coisa maior que 13B.
Devo comprar duas RTX 3090s em vez de uma RTX 4090?
Matematicamente, dois 3090s oferecem 48 GB de VRAM por aproximadamente o mesmo custo de um 4090 — uma grande vantagem para cargas de trabalho memory-bound como modelos 70B+. As desvantagens: configuração mais complexa (NVLink, PSU, fluxo de ar do gabinete) e consumo de energia mais alto (700 W combinados). A vantagem que um único 4090 não consegue igualar: 70B em Q4_K_M (um arquivo de 42,5 GB) cabe inteiramente em VRAM. Se você precisa especificamente de 48 GB, faça. Caso contrário, o único 4090 é mais simples.
Posso executar LLMs locais em um MacBook Pro?
Sim — muito bem. O MacBook Pro atual vem com M5 Pro (até 64 GB, 307 GB/s) ou M5 Max (até 128 GB, até 614 GB/s). Um M5 Pro com 48 GB trata 8B–32B confortavelmente; um M5 Max com 64–128 GB trata 70B em Q4_K_M e até mesmo 405B em quantização 2-bit (IQ2_XXS, ~107 GB) no SKU de 128 GB. A geração de tokens é mais lenta do que em um 4090 — cerca de 120 vs 189 t/s para um M5 Max com 40 núcleos vs um 4090 no Llama 2 7B Q4_0 nos scoreboards da comunidade do llama.cpp — mas a operação silenciosa e a portabilidade são pontos de venda únicos.
ROCm finalmente é utilizável para LLMs em 2026?
Para inferência, sim. llama.cpp, vLLM e Ollama têm suporte ROCm sólido na 7900 XTX em 2026. Para treinamento, parcial — PyTorch funciona para a maioria dos casos, mas artigos de ponta ainda vêm com código CUDA-only que precisa ser portado. Se seu fluxo de trabalho é inferência + ajuste fino ocasional com ferramentas estabelecidas, AMD é uma opção real.
Preciso de NVLink para inferência multi-GPU com LLMs?
Para pura inferência, não — PCIe é suficiente. NVLink ajuda principalmente durante treinamento e quando você está transmitindo um modelo entre GPUs durante uma única passada para frente. A maioria das configurações de inferência multi-GPU apenas divide camadas entre placas e a penalidade de PCIe é negligenciável.
Conclusão
Para a maioria dos construtores locais de LLMs em 2026, a resposta é uma RTX 4090 usada a $1.200–1.400. Vinte e quatro gigabytes de VRAM, CUDA completo e drivers testados em batalha cobrem 90% das cargas de trabalho sem pensar.
Se $1.200 é mais do que você quer gastar, desça para uma RTX 3090 usada a $700 — mais lenta, mas os mesmos 24 GB de memória e os mesmos fluxos de trabalho.
Se você precisa especificamente de 32 GB em um cartão — 70B em ~3-bit, geração de vídeo com IA, ou treinamento de modelos maiores que 13B — opte pelo RTX 5090. Esse $1.000 extra compra 8 GB de VRAM e desbloqueia cargas de trabalho que o 4090 não consegue executar. Para 70B em Q4_K_M ou melhor, planeje usar dois cartões de 24 GB ou um Mac com 64 GB ou mais.
E se você precisa executar modelos 100B+ localmente, abandone completamente as GPUs consumer Nvidia e procure por um M5 Max com 128 GB (Mac Studio ou MacBook Pro; ele substituiu o M4 Max, que também chegava ao máximo de 128 GB) ou NVIDIA DGX Spark (128 GB; o nome oficial do Project DIGITS). A arquitetura de memória unificada é o único caminho com preço ao consumidor para tanta memória de modelo endereçável.
Todo o restante — 5080, 5070 Ti, Arc B580, qualquer placa AMD além da 7900 XTX — representa um compromisso para quem não tem como principal caso de uso LLMs locais.
