A H100 definiu o boom da IA generativa. Seu sucessor, a H200, parece quase idêntico em uma ficha técnica de desempenho computacional — porque realmente é. O H200 utiliza o usa a mesma GPU Hopper da H100. O que mudou é a memória: mais capacidade e muito mais rápida.
Para equipes de IA, a pergunta é precisa: quando maior largura de banda de memória supera maior número bruto de FLOPS? Com essas duas placas, isso ocorre com frequência.
Principais conclusões
- A H100 e a H200 compartilham a mesma computação Hopper — com desempenho idêntico em TFLOPS para FP16/FP8.
- A H200 atualiza a memória para 141 GB de HBM3e com largura de banda de 4,8 TB/s, contra os 80 GB de HBM3 e 3,35 TB/s da H100.
- Para inferência de modelos grandes, a H200 é até ~1,6–1,9x mais rápido — exclusivamente graças à memória.
- Para treinamento limitado por poder computacional, os dois ficam muito mais próximos; a vantagem do H200 reduz-se a ~10–20%.
- Se você executa grandes LLMs, a H200 é claramente a melhor escolha. Se seu gargalo está no treinamento de modelos menores, a H100 ainda oferece excelente custo-benefício.
Resumo
| Especificações | NVIDIA H200 | NVIDIA H100 |
|---|---|---|
| Arquitetura | Hopper GH100 | Hopper GH100 |
| VRAM | 141 GB HBM3e | 80 GB HBM3 |
| Largura de banda da memória | 4,8 TB/s | 3,35 TB/s |
| Tensor FP16 | ~990 TFLOPS | ~990 TFLOPS |
| Tensor FP8 | ~1.979 TFLOPS | ~1.979 TFLOPS |
| TDP (SXM) | 700 W | 700 W |
| Preço relativo | Maior | Menor |
Mesmo motor, tanque de combustível maior
O aspecto mais importante a entender: a H200 não calcula mais rapidamente do que a H100. Seus núcleos tensoriais são idênticos, portanto o desempenho máximo em FP16 e FP8 é exatamente igual. A NVIDIA alterou apenas o subsistema de memória — substituindo o HBM3 por HBM3e, elevando a capacidade de 80 GB para 141 GB e largura de banda de 3,35 para 4,8 TB/s.
Isso parece restrito. Na verdade, não é. A execução moderna de LLMs é esmagadoramente limitada por memória: a GPU passa seu tempo movendo pesos e o cache KV, não saturando suas unidades matemáticas. Forneça a essa carga de trabalho 43% mais largura de banda e você obterá grande parte desse ganho de desempenho diretamente.
Inferência: onde o H200 domina
Para a execução de grandes modelos de linguagem, as melhorias de memória do H200 transformam a economia do processo:
- Capacidade. Um modelo de 70B em FP16 requer ~140 GB. Ele não cabe em uma única GPU H100 de 80 GB — são necessárias duas, com a sobrecarga do paralelismo de tensores. Ele cabe em um único H200, eliminando totalmente a comunicação entre GPUs.
- Taxa de transferência. Mesmo quando um modelo cabe em ambas as GPUs, a largura de banda superior do H200 aumenta a geração de tokens em aproximadamente 1,6–1,9x para modelos grandes e contextos longos.
- Margem adicional para o cache KV. Os 61 GB extras permitem atender muito mais usuários simultâneos ou janelas de contexto muito mais longas antes de esgotar a memória.
Para implantações intensivas em inferência — APIs de chat, back-ends RAG, sistemas baseados em agentes — o H200 não é uma melhoria marginal. Ele muda quantas GPUs você precisa.
Treinamento: uma lacuna menor
Para pré-treinamento e ajuste fino, o poder computacional passa a ser mais relevante, e nesse caso os dois modelos convergem. Quando um trabalho de treinamento é limitado por poder computacional em FP8 ou FP16, os núcleos tensoriais idênticos do H200 limitam sua vantagem. A memória ainda ajuda — tamanhos de lote maiores, menos etapas de acumulação de gradientes, espaço para estados de otimizadores maiores —, mas o ganho de desempenho end-to-end geralmente fica na faixa de 10–20% em vez dos 60–90% observados na inferência.
Se seu gargalo for a taxa de transferência no treinamento de modelos que já cabem confortavelmente em 80 GB, o H100 oferece quase o mesmo desempenho por um custo menor.
Escolha o H200 se
- você executa grandes LLMs (70B ou maiores) e deseja executá-los em uma única GPU
- sua carga de trabalho for predominantemente de inferência e limitada por memória
- você precisar de janelas de contexto longas ou alta concorrência
Escolha o H100 se
- suas tarefas forem de treinamento limitadas por poder computacional em modelos que cabem em 80 GB
- você puder comprá-lo ou alugá-lo com desconto significativo
- você escalar horizontalmente e já operar clusters multi-GPU
A perspectiva do aluguel em nuvem
A maioria das equipes nunca compra nenhum desses dois modelos — elas os alugam. Nos mercados de GPU em nuvem, o O H200 tem um preço premium em comparação ao H100. Portanto, a pergunta correta não é o custo por hora, mas sim o custo por token. Para inferência com modelos grandes, a maior taxa de transferência do H200 frequentemente o torna mais barato por token apesar da taxa horária mais elevada. Para modelos menores ou para treinamento, a taxa mais baixa do H100 normalmente é vantajosa. Faça benchmarks com sua carga de trabalho real antes de se comprometer.
Os números revelam: a vantagem de throughput do H200
O H100 e o H200 utilizam o mesmo chip GH100; portanto, seu desempenho bruto de cálculo (FLOPS) é idêntico. Toda a vantagem do H200 provém do subsistema de memória: 141 GB de HBM3e com largura de banda de ~4,8 TB/s contra os 80 GB de HBM3 do H100 com 3,35 TB/s — cerca de 76% mais capacidade e 43% mais largura de banda.
Isso se traduz em uma vantagem real, mas dependente da carga de trabalho. No MLPerf v4.0, o H200 registrou aproximadamente 42% mais throughput no Llama 2 70B (modo offline) — cerca de 31.700 tokens/segundo contra 22.300 do H100 — e, no máximo throughput por GPU individual, pode atingir até 1,9× o desempenho do H100 no Llama 70B. A ressalva é que, para qualquer modelo e cache KV que já caiba confortavelmente nos 80 GB, o ganho reduz-se apenas a 0–11%0–11%
Você deveria esperar pelo Blackwell?
Qualquer decisão entre H100 e H200 em 2026 tem uma terceira opção implícita: o Blackwell B200da NVIDIA. Diferentemente do H200, o B200 é uma arquitetura genuinamente nova, não uma atualização meramente de memória da Hopper. Ele passa para cerca de 192 GB de HBM3e com largura de banda de aproximadamente 8 TB/s e, de forma crítica, adiciona suporte nativo para FP4 FP4 2–2,5× o throughput por GPU do H200 em modelos grandes, e o custo por token pode cair ainda mais assim que a inferência em FP4 for totalmente otimizada.
Então, por que alguém ainda compraria a Hopper? Três razões:
- Potência e densidade. O B200 consome cerca de 1.000 W contra 700 W de ambas as placas Hopper. Isso altera os orçamentos de potência por rack, os requisitos de refrigeração e frequentemente exige resfriamento líquido — um obstáculo real para data centers existentes refrigerados a ar e para a maioria das instalações de colocation.
- Preço e disponibilidade. As tarifas em nuvem para o B200 estão atualmente com um ágio de lançamento (comumente US$ 4–6+ por hora por GPU), comparadas aos cerca de US$ 3 por hora para um H200, além de uma oferta mais restrita. O estoque de chips Hopper já é maduro e fácil de alugar hoje.
- Maturidade de software. As ferramentas de FP8 e CUDA da Hopper já foram amplamente testadas em todos os principais frameworks de treinamento e inferência. O FP4 é mais recente, e extrair os números impressionantes anunciados para o B200 exige esforço de engenharia.
Uma regra prática útil: se sua carga de trabalho for compatível com FP4, operar em grande volume e você tiver infraestrutura capaz de alimentá-la, o Blackwell vence no custo por token. Se você precisa de capacidade imediata, executa uma pilha madura em FP8/FP16 ou não consegue acomodar 1.000 W por acelerador, o H200 continua sendo a escolha pragmática — e o H100, a opção mais econômica. Além disso, o H200 se encaixa perfeitamente em sistemas HGX H100 existentes, tornando-o a atualização de menor complexidade para equipes já consolidadas na arquitetura Hopper. O Blackwell representa um salto maior, mas o H200 é aquele que você pode implantar ainda hoje à tarde, sem precisar reestruturar sua infraestrutura.
Perguntas frequentes
O H200 é mais rápido que o H100?
Para cargas de trabalho limitadas por memória, como inferência com grandes LLMs, sim — até ~1,9x mais rápido. Para treinamento limitado por poder computacional, praticamente não há diferença — ambos compartilham núcleos tensoriais idênticos, portanto a vantagem do H200 reduz-se a 10–20%.
Por que o H200 é mais rápido se possui o mesmo desempenho computacional?
Porque a maioria das cargas de trabalho de execução de LLMs é limitada pela largura de banda de memória, não pelas operações matemáticas. O HBM3e do H200 oferece 4,8 TB/s contra os 3,35 TB/s do H100, e esse ganho de 43% na largura de banda se traduz quase diretamente em uma geração mais rápida de tokens.
O H200 consegue executar um modelo de 70B em uma única GPU?
Sim. Com 141 GB de HBM3e, um modelo de 70B em FP16 (~140 GB) cabe em um único H200. O H100 de 80 GB não consegue armazená-lo sozinho e exige uma configuração com duas GPUs.
O H100 ainda vale a pena usar em 2026?
Absolutamente. O H100 continua sendo uma GPU de ponta para treinamento. É a opção com melhor custo-benefício para tarefas limitadas por poder computacional e para cargas de trabalho que cabem dentro dos 80 GB. Ele só é superado quando a capacidade ou a largura de banda de memória se tornam gargalos.
Quão mais rápido é o H200 em comparação ao H100 para o Llama 70B?
Aproximadamente 42% mais throughput no modo offline do MLPerf v4.0 (~31.700 vs ~22.300 tokens/segundo), e até 1,9× no máximo throughput por GPU individual. A vantagem é maior em inferências com grandes batches e longos contextos, que ultrapassam os limites de memória do H100.
O H200 possui mais poder de processamento que o H100?
Não. Ambos são construídos sobre o mesmo chip GH100, com FLOPS idênticos. A atualização consiste inteiramente na memória — mais capacidade (141 GB contra 80 GB) e mais largura de banda (4,8 TB/s contra 3,35 TB/s). Se sua carga de trabalho não for limitada por memória, os dois desempenham quase da mesma forma.
Quando o H100 ainda é a melhor opção de compra?
Quando seu modelo somado ao cache KV couber inteiramente dentro dos 80 GB. Nesse cenário, a vantagem do H200 cai para apenas 0–11%, tornando o H100, mais barato e amplamente disponível, geralmente superior em relação ao custo por desempenho.
O H200 é mais eficiente energeticamente que o H100?
Sim. Ambas as placas compartilham o mesmo TDP de 700 W, mas o H200 realiza mais trabalho dentro desse limite. Para inferência em LLMs de grande porte, a NVIDIA cita até cerca de 50% menos energia consumida por inferência, e, com orçamento de potência equivalente, o H200 gera mais tokens por segundo que o H100. Mesmos watts, mais saída — razão pela qual reduz o custo total de propriedade para frotas intensivas em inferência.
Como o B200 se compara ao H200 para inferência?
O B200 representa um avanço geracional: cerca de 192 GB de HBM3e, largura de banda de aproximadamente 8 TB/s e suporte nativo para FP4 — recurso ausente na Hopper. Em modelos grandes, isso eleva o throughput por GPU para cerca de 2–2,5× o do H200, com custo por token significativamente menor na inferência em FP4. As contrapartidas são um consumo de potência mais alto (~1.000 W), um ágio de preço no lançamento e uma pilha de software para baixa precisão menos madura.
Posso substituir um H100 por um H200 em um servidor existente?
Geralmente sim. O H200 SXM utiliza a mesma arquitetura Hopper e o mesmo envelope de 700 W, sendo projetado para se encaixar diretamente nas placas-base e sistemas HGX H100 existentes com mínima interrupção. Essa compatibilidade reversa é uma das principais razões pelas quais equipes já padronizadas na Hopper optam pelo H200 em vez de migrar diretamente para o Blackwell, que normalmente exige novos chassi e, muitas vezes, resfriamento líquido.
Veredito
O H200 é o mesmo chip Hopper com uma atualização transformadora de memória — e, para as cargas de trabalho de inferência que dominam os gastos com IA em 2026, essa atualização é decisiva. Execução de modelos de 70B em uma única GPU, contextos mais longos, maior concorrência: o H200 possibilita tudo isso. O H100 está longe de estar obsoleto; para treinamento limitado por poder computacional e qualquer tarefa que caiba nos 80 GB, ele continua sendo uma excelente e mais acessível opção. Escolha a GPU conforme seu gargalo — largura de banda ou FLOPS.
