Il NVIDIA A100 è stata il cavallo da lavoro che ha addestrato la prima generazione di grandi modelli di linguaggio. La H100 lo ha sostituito con un chip che è, da qualsiasi misura grezza, drasticamente più veloce. Eppure nel 2026 l'A100 è ancora ovunque — perché sui marketplace del cloud si affitta per una frazione del prezzo dell'H100.
La vera domanda, dunque, non è «quale è più veloce» — chiaramente l’H100 — ma «quando l'A100 è ancora la scelta più efficiente dal punto di vista dei costi?»
Punti chiave
- L'H100 è approssimativamente 2–3 volte più veloce rispetto all'A100 per l'addestramento e l'inferenza.
- L'H100 aggiunge il supporto nativo a FP8, il Transformer Engine e una larghezza di banda della memoria molto superiore.
- L’A100 (80 GB, ~2 TB/s) rimane comunque una scheda capace — semplicemente di una generazione precedente.
- Nel noleggio cloud l'A100 costa molto meno per ora, il che può renderlo più economico per ogni job nei carichi di lavoro minori.
- Usa l'H100 per l'addestramento serio di LLM e l'inferenza FP8; usa l'A100 per la sperimentazione economica e modelli più piccoli.
A colpo d'occhio
| Specifiche | NVIDIA H100 | NVIDIA A100 (80 GB) |
|---|---|---|
| Architettura | Hopper GH100 | Ampere GA100 |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| Larghezza di banda della memoria | 3,35 TB/s | ~2.0 TB/s |
| Tensor FP16 | ~990 TFLOPS | ~312 TFLOPS |
| Tensor FP8 | ~1.979 TFLOPS | Non supportato |
| TDP (SXM) | 700 W | 400 W |
| Costo del noleggio cloud | Maggiore | Molto inferiore |
Il divario di prestazioni è reale e significativo
Non è un semplice passo generazionale. L'architettura Hopper dell'H100 ha portato un vero salto in avanti:
- Throughput FP16 aumenta circa di tre volte — ~990 TFLOPS contro ~312.
- Larghezza di banda della memoria aumenta da ~2.0 a 3,35 TB/s, accelerando direttamente l'inferenza limitata dalla memoria.
- Il Transformer Engine e il supporto nativo a FP8 consentono all'H100 di addestrare e servire modelli transformer a precisioni che l'A100 semplicemente non può eseguire.
Complessivamente, attendersi che l'H100 sia 2x più veloce in un job FP16 equivalente e fino a 3x più veloce quando FP8 è in gioco. Per il pre-addestramento su larga scala, questo divario si amplifica in settimane di tempo reale e in un cluster materialmente più piccolo.
Dove FP8 cambia le carte in tavola
Il più grande limite dell'A100 nel 2026 è l'assenza di FP8. L'addestramento e l'inferenza moderni lo presuppongono sempre più: FP8 dimezza il traffico di memoria rispetto a FP16 e raddoppia approssimativamente il throughput effettivo su hardware supportato. L'A100 deve ripiegare su FP16/BF16, quindi perde non solo in velocità grezza ma anche nelle ricette moderne più efficienti.
Se il tuo flusso di lavoro dipende dall’FP8 — stack moderni per il serving di LLM, pipeline di addestramento più recenti — l’A100 non è lento, è incompatibile con il percorso veloce. Solo questo spinge il lavoro serio verso l'H100.
Quando l'A100 vince ancora
Nonostante quanto sopra, l'A100 rimane un noleggio intelligente in casi specifici:
- Sperimentazione economica. Prototipazione, debug dei loop di addestramento e esecuzioni su piccola scala non necessitano della velocità dell'H100. Pagare il premio dell'H100 per sviluppare codice è uno spreco.
- Modelli più piccoli. Il fine-tuning di un modello da 7B a 13B parametri, o l’inferenza su modelli ben inferiori agli 80 GB, funziona perfettamente sull’A100 — spesso con un rapporto costo-per-lavoro migliore grazie al costo orario molto più basso.
- Job imbarazzantemente paralleli. I sweep degli iperparametri e l'inferenza in batch possono scalare su molti A100 economici invece di pochi H100 costosi.
La metrica decisiva è il costo per job completato, non il costo per ora. Per il pre-addestramento FP8 su larga scala l'H100 di solito vince anche al suo prezzo premium; per il lavoro FP16 piccolo l'A100 frequentemente risulta vincente.
Scegli l'H100 se
- Addestri modelli grandi e il tempo di risultato è importante
- Il tuo stack dipende da FP8 o dal Transformer Engine
- Il tuo carico di lavoro è limitato dalla larghezza di banda della memoria
Scegli l'A100 se
- Stai facendo prototipazione, debugging o eseguendo job piccoli
- Esegui fine-tuning o servizio di modelli sotto i ~13B parametri
- La tariffa di noleggio molto più bassa batte la velocità grezza per il tuo budget
Una nota sulla disponibilità
L'A100 vince anche su un asse pratico: disponibilità. La capacità di H100 e H200 è costantemente richiesta, e la disponibilità spot può essere limitata sui principali cloud. La capacità di A100 è abbondante e raramente in coda. Se hai bisogno di una GPU adesso per un lavoro non critico, l'A100 è la scheda che puoi effettivamente ottenere.
Costo totale di proprietà: perché la scheda più economica può costare di più
Il prezzo più elevato dell’H100 e il suo consumo energetico, circa il doppio rispetto a quello dell’A100, fanno sembrare quest’ultimo l’opzione più economica. Su base oraria, di solito lo è effettivamente. Ma il dato che conta davvero per un budget AI è il costo per unità di lavoro — dollari per milione di token generati, oppure dollari per training completato — e su questa metrica i calcoli spesso si ribaltano.
Il motivo è semplice: se un H100 completa lo stesso carico di lavoro basato su transformer in una frazione del tempo reale, lo si noleggia per meno ore. Una scheda che costa di più all’ora ma è significativamente più veloce può portare a una bolletta totale inferiore, ancor prima di considerare il tempo ingegneristico risparmiato grazie a cicli di iterazione più brevi. L’A100 vince sul costo totale solo quando il suo tasso orario più basso è non bilanciato da un divario di velocità proporzionale — condizione che si verifica tipicamente con modelli più piccoli, job batch non sensibili alla latenza o carichi legati al collo di bottiglia della memoria, che nessuna delle due schede accelera in modo significativo.
| Fattore costo | A100 80 GB | H100 80 GB |
|---|---|---|
| Tariffa cloud tipica (inizio 2026) | ~1,50–2,50 $/GPU-ora | ~2–4 $/GPU-ora |
| Potenza SXM (TDP) | 400 W | 700 W |
| Ciò per cui si ottimizza | Costo orario più basso | Costo più basso per task |
Per i team che proprio l’hardware, il calcolo cambia nuovamente. Il consumo di 700 W dell’H100 in configurazione SXM rispetto ai circa 400 W dell’A100 non è solo una voce sulla bolletta elettrica: determina la densità rack, la capacità di distribuzione dell’energia e il sistema di raffreddamento. Un data center progettato per le caratteristiche termiche dell’A100 potrebbe non essere in grado di ospitare una flotta di schede da 700 W senza aggiornamenti elettrici e HVAC, e questa spesa in conto capitale va inclusa in ogni confronto onesto. Conta anche l’ammortamento: entrambe le schede appartengono ormai alla generazione precedente, superata dall’architettura Blackwell; pertanto, acquistare un A100 nuovo significa bloccarsi sull’architettura più vecchia ancora ragionevolmente disponibile, riducendo ulteriormente la finestra utile di rivendita.
La conclusione pratica è: calcolare il costo dell’intero lavoro, non dell’ora. Stimare il numero di token o di step di training necessari, moltiplicarli per il throughput reale di ciascuna scheda sul tuo modello e nella precisione specificata, quindi confrontare i costi totali. Chi noleggia dovrebbe eseguire un breve benchmark su entrambe le schede prima di impegnarsi in una prenotazione di diverse settimane; chi acquista deve includere nel foglio di calcolo anche i costi relativi a energia, raffreddamento e ammortamento. La scheda «economica» lo è davvero solo se il proprio carico di lavoro non riesce a sfruttare appieno le prestazioni di quella più veloce.
Domande frequenti
Vale la pena il premio di prezzo dell'H100 rispetto all'A100?
Per l’addestramento su larga scala e l’inferenza in FP8, sì — è 2–3 volte più veloce, quindi spesso completa i lavori a un costo complessivo inferiore nonostante il costo orario più elevato. Per lavori piccoli e prototipazione, il costo orario più basso dell’A100 di solito prevale.
Può l'A100 eseguire LLM moderni nel 2026?
Sì. L'A100 da 80 GB continua a servire e affina bene i modelli. La sua limitazione è la mancanza di FP8, il che significa che non può utilizzare le ricette attuali più efficienti ed esegue tutto in FP16/BF16.
Perché l'A100 è ancora così ampiamente utilizzato?
Due motivi: costa molto meno da noleggiare ed è molto più facile da ottenere. La capacità di H100 è fortemente richiesta, mentre gli A100 sono abbondanti — rendendo la scheda più vecchia la scelta pratica per lavori a budget contenuto o su richiesta immediata.
Dovrei addestrare un modello di grandi dimensioni su A100 per risparmiare denaro?
Di solito no. Per l’addestramento su larga scala, il vantaggio di velocità dell’H100 (2–3 volte) significa che i lavori vengono completati prima e spesso costano meno per singolo lavoro. L’A100 consente un risparmio solo su modelli più piccoli e sul lavoro di sviluppo.
Quanta energia e raffreddamento in più richiede un H100 rispetto a un A100?
All’incirca il doppio, nel caso peggiore. Un modulo A100 SXM è certificato a 400 W (la versione PCIe consuma 300 W), mentre l’H100 SXM5 arriva fino a 700 W (350 W per la versione PCIe). Per una singola scheda da workstation la differenza è gestibile, ma su un intero server o rack si traduce in un consumo elettrico sensibilmente maggiore e in una quantità di calore molto più elevata da dissipare. I data center progettati attorno alle caratteristiche termiche dell’A100 spesso necessitano di upgrade nei sistemi di alimentazione e raffreddamento — talvolta addirittura di raffreddamento a liquido — prima di poter ospitare nodi H100 ad alta densità, un costo reale e frequentemente trascurato durante la fase di deployment.
Dovrei saltare entrambe e acquistare invece un H200?
Solo se la capacità o la larghezza di banda della memoria rappresentano il vostro collo di bottiglia. L’H200 utilizza lo stesso die computazionale Hopper dell’H100, ma lo abbinata a circa 141 GB di HBM3e più veloce, anziché agli 80 GB dell’H100. Questo margine di riserva è utile per modelli con oltre 100 miliardi di parametri, inferenza su contesti molto lunghi e dimensioni di batch maggiori, consentendo un miglioramento significativo delle prestazioni di inferenza rispetto all’H100. Per carichi di lavoro che rientrano comodamente negli 80 GB, l’H200 non è un upgrade automatico: paghereste per memoria che non utilizzereste. Scegliete l’H200 quando vi imbattete ripetutamente in errori di memoria esaurita (OOM), non come regola generale.
La scelta cambia se devo collegare tra loro molti GPU?
Sì — su scala multi-nodo, l’interconnessione spesso conta più della velocità di ogni singola GPU. L’H100 offre una larghezza di banda NVLink superiore rispetto all’A100 (900 GB/s contro 600 GB/s), riducendo l’overhead di comunicazione durante la suddivisione di modelli di grandi dimensioni o il training distribuito su molti dispositivi. Se il vostro carico di lavoro si adatta su una o due GPU, questo vantaggio è sostanzialmente irrilevante e prevalgono le considerazioni economiche per singola scheda. Ma per il training distribuito su larga scala, un’interconnessione più veloce può fare la differenza tra uno scaling quasi lineare e un cluster che stalla in attesa del traffico cross-GPU, rendendo la generazione più recente la base più sicura.
Verdetto
Il H100 è inequivocabilmente la GPU migliore — più veloce, abilitata all’FP8 e lo strumento giusto per qualsiasi progetto serio su modelli di grandi dimensioni nel 2026. Ma l’ A100 si è guadagnato una lunga seconda vita come opzione di budget e disponibilità. Per il prototipo, modelli più piccoli e lavoro batch parallelo, il suo costo di noleggio molto più basso lo rende genuinamente conveniente. Decidi in base al costo per lavoro, non al costo per ora, e la scheda giusta di solito si sceglie da sola.