Le migliori GPU per eseguire modelli linguistici locali nel 2026: classifica di Llama 3, Mistral e Qwen

L’esecuzione locale di LLM è passata, nel 2026, da «hobby divertente» a «flusso di lavoro professionale essenziale». Le ragioni non sono affatto sottili: i costi delle API cloud aumentano rapidamente, i tuoi dati rimangono sul tuo dispositivo e il divario prestazionale tra modelli open-weight e sistemi di classe GPT si è ridotto a sufficienza perché la maggior parte dei compiti professionali possa essere svolta con un Llama 3 da 70 miliardi di parametri o un Qwen 2.5 da 72 miliardi di parametri, entrambi eseguibili su hardware consumer.

La domanda è quale hardware consumer — e se stai ancora valutando le basi, il nostro Domande sull’hardware per l’IA risposte copre il terreno su cui si basa questa classifica. Questa classifica include tutte le GPU seriamente consigliate nel 2026 per LLM locale lavoro, basata su benchmark pubblicati, effettive esigenze di VRAM e prezzi di mercato attuali — con un verdetto onesto su quale acquistare effettivamente.

Come scegliere davvero: la regola che batte ogni scheda tecnica

Scelta per VRAM prima di tutto, throughput al secondo posto, tutto il resto al terzo.

L'inferenza su modelli linguistici di grandi dimensioni (LLM) è dominata dalla larghezza di banda e dalla capacità della memoria. Se il tuo modello più la cache KV e il contesto rientrano nella VRAM, ottieni un'inferenza alla massima velocità. Se non ci stanno, paghi un overhead 5–10× dovuto all'offload sulla CPU, e la differenza tra una GPU "veloce" e una "lenta" smette di contare: entrambe diventano ora collegate al collo di bottiglia di PCIe e RAM di sistema.

L'albero decisionale pratico:

• Modelli da 7 a 13 miliardi di parametri (Llama 3 8B, Mistral 7B, Phi-4) → minimo 12 GB di VRAM, 16 GB comodi. RTX 3060 12 GB o superiore.
• Modelli da 30 a 34 miliardi di parametri (Qwen 2.5 32B, Yi-34B) → 24 GB VRAM a Q4. RTX 3090, 4090, o un Mac M5 Pro con 48 GB.
• Modelli da 70 a 72 miliardi di parametri (Llama 3 70B, Qwen 2.5 72B) → secondo i file GGUF di Llama 3 70B: 24 GB solo a ~2-bit (IQ2_XS, ~21 GB; grezzo), 32 GB a ~3-bit (IQ3_XXS, ~27,5 GB), 48 GB a Q4_K_M (~42,5 GB; pulito), 64 GB+ per Q5_K_M (~50 GB). Dual 3090/4090 o un Mac da 64 GB+ (M5 Pro o M5 Max); una singola RTX 4090 o 5090 solo con quantizzazioni a bit bassi.
• Modelli da 100 miliardi in su (Mistral Large 2, Command R+ 104B) → minimo 48 GB+, e solo a ~3-bit (Q4_K_M è ~63 GB per Command R+ e ~73 GB per Mistral Large 2). RTX 6000 Ada o dual 4090 a 3-bit; M5 Max 128 GB o DGX Spark per Q4_K_M.
• modelli da 200 miliardi di parametri in su (DeepSeek V3 671B MoE, Llama 3.1 405B) → 256 GB+ di memoria a 4-bit (il GGUF Q4_K_M è ~245 GB per Llama 3.1 405B e ~404 GB per DeepSeek V3). Un Mac Studio con M5 Ultra e 512 GB di memoria unificata, server multi-GPU, oppure, per modelli di classe 405B, due NVIDIA DGX Spark collegati (256 GB combinati; NVIDIA valuta la coppia per modelli fino a ~400B parametri).

Una volta identificata la categoria di modelli che ti interessa, ogni specifica diversa dalla VRAM serve solo a dirimere eventuali pareggi.

La classifica

1. RTX 4090 — la migliore in assoluto nel 2026

La 4090 non è la GPU LLM più veloce nel 2026 — quella è la 5090 — ma ai prezzi usati è il miglior acquisto di gran lunga. Ventiquattro gigabyte di VRAM eseguono modelli di classe 30B a Q4_K_M con spazio per il contesto (70B sta solo a ~2-bit), lo stack software CUDA è completamente maturo, e ogni framework che interessa (llama.cpp, vLLM, exllamav2, MLC-LLM, TensorRT-LLM) ha avuto due anni per ottimizzare per Ada.

Gli unici compromessi rispetto alla 5090 sono 8 GB di VRAM in meno e una velocità ridotta di circa un terzo. Per la maggior parte dei flussi di lavoro locali con LLM, questo non basta a giustificare un raddoppio del prezzo.

Acquista se: vuoi una GPU che mantiene modelli di classe 8B fino a 32B interamente in VRAM (70B solo a ~2-bit o con offload CPU) e hai il budget per un acquisto usato a $1.200+.

Salta se: hai bisogno di 70B a Q4 o meglio ogni giorno (il file Q4_K_M da 42,5 GB non sta nei 24 GB) oppure hai un tetto massimo rigoroso di $800.

2. RTX 5090 — solo se hai davvero bisogno di 32 GB

La 5090 è l'unica scheda GeForce con 32 GB, abbastanza per contenere Llama 3 70B interamente in VRAM a ~3-bit (IQ3_XXS, 27,5 GB) — sebbene non a Q4_K_M (42,5 GB) o Q5_K_M (~50 GB), che necessitano due schede o una GPU workstation da 48 GB+. Quella memoria extra — combinata con la sua larghezza di banda di memoria del 78% superiore alla 4090 — è l'intera argomentazione per essa.

Se non hai bisogno di 32 GB, stai pagando un premio di $1.000+ per approssimativamente il 30–60% di velocità in più nei benchmark pubblicati su carichi di lavoro che già funzionavano bene sulla 4090. Se hai bisogno di 32 GB (70B a ~3-bit, Generazione di video con IAfine-tuning di modelli superiori ai 13 miliardi di parametri), non c'è concorrenza a prezzi consumer.

L'analisi completa dei benchmark è disponibile nel nostro approfondimento RTX 5090 vs RTX 4090 per l'IA.

Acquista se: hai bisogno di 32 GB di VRAM e disponi di un budget di $2.000 o superiore.

Salta se: i tuoi modelli rientrano nei 24 GB di VRAM oppure riesci a trovare una RTX 4090 usata a $1.200.

3. RTX 3090 — la scelta imbattibile per rapporto qualità-prezzo

La 3090 ha ormai cinque anni e rimane il miglior acquisto dollarі-per-VRAM nel 2026. Ventiquattro gigabyte di memoria a $700 usato è quello che consente a migliaia di ricercatori ML indie di eseguire modelli di classe 30B con buone quantizzazioni e modelli di classe 70B a Q4 una volta che due schede sono accoppiate.

Nella community CUDA scoreboard di llama.cpp genera token a circa l'86% della velocità di una 4090 (162 vs 189 t/s su Llama 2 7B Q4_0) ma elabora prompt a meno del 40% della sua velocità — per inferenza in stile chat, ottieni ancora token/sec utilizzabili su ogni modello che sta. I principali inconvenienti sono il consumo energetico più elevato per unità di lavoro e il rischio che viene dal comprare una scheda di cinque anni dal mercato secondario.

La mossa classica per gli appassionati nel 2026: due RTX 3090 usate con una PSU da 1200 W di qualità e un ponte NVLink: costo totale $1.400, per ottenere 48 GB di VRAM che superano una singola 4090 su ogni modello superiore ai 30 miliardi di parametri. La configurazione è fastidiosa, ma funziona.

Acquista se: hai un budget di $700, vuoi iniziare con gli LLM locali e sei a tuo agio con hardware usato.

Salta se: hai bisogno di hardware nuovo con garanzia oppure il tuo PC ha vincoli stringenti di potenza/spazio.

4. RTX 3060 12 GB — la porta d'ingresso

Cinque anni dopo il rilascio, la 3060 12 GB è ancora in produzione ed è ancora la risposta giusta a «come inizio con gli LLM locali nel modo più economico possibile?» Dodici gigabyte bastano per qualsiasi modello di classe 7–13B con quantizzazioni solide, i modelli di classe 7B generano token più velocemente di quanto leggi (77 t/s su Llama 2 7B Q4_0 nella CUDA scoreboard di llama.cpp), e l'intera scheda costa $280 nuova.

Ciò che sacrifichi: qualsiasi modello da 30 miliardi di parametri in su. La RTX 3060 non è in grado di eseguire Llama 3 da 70 miliardi di parametri a una velocità utilizzabile, nemmeno con alcuna quantizzazione. È inequivocabilmente una GPU per modelli "piccoli".

Acquista se: sei nuovo agli LLM locali e vuoi imparare prima di investire oltre 1.000 dollari.

Salta se: sai già di voler eseguire modelli della classe da 70 miliardi di parametri.

5. Radeon RX 7900 XTX — il compromesso AMD

ROCm 6.3 insieme alla 7900 XTX è finalmente sufficientemente performante nel 2026, rendendo questa una raccomandazione concreta e non più una semplice opzione di riserva. Offre 24 GB di VRAM a 900 dollari di prezzo di listino, prestazioni approssimativamente intermedie tra quelle di una RTX 3090 e di una RTX 4090, e supporto completo per PyTorch e llama.cpp.

La frizione rimane comunque tangibile: alcuni framework (TensorRT-LLM, determinati motori d'inferenza esclusivamente CUDA, alcune implementazioni di ricerca) semplicemente non funzionano. Il codice di ricerca più avanzato punta innanzitutto a CUDA; il supporto AMD arriva settimane o mesi dopo.

Acquista se: hai obiezioni ideologiche verso NVIDIA, sei sensibile al prezzo ma desideri un prodotto nuovo con garanzia, oppure possiedi già un sistema basato prevalentemente su componenti AMD.

Salta se: vuoi zero frizione o svolgi attività di ricerca con rilasci di nuovi modelli appena usciti.

6. Apple M5 Max (Mac Studio / MacBook Pro) — la puntata su memoria unificata

L'M5 Max non è veloce per-token rispetto a Nvidia. Quello che ha è una quantità di memoria irraggiungibile altrove a prezzi consumer. Un M5 Max da 128 GB contiene Mistral Large 2 (123B) a Q4_K_M (~73 GB) e persino Llama 3.1 405B con quantizzazione a 2-bit (IQ2_XXS, ~107 GB) — qualcosa che una singola RTX 5090 semplicemente non può fare. (405B a Q4_K_M è ~245 GB, oltre qualsiasi macchina da 128 GB.)

Per flussi di lavoro ad alta intensità di inferenza dove importa più la dimensione del modello che la velocità (analisi di documenti lunghi, sistemi di agenti, ricerca), l'M5 Max è genuinamente lo strumento giusto. Per training, fine-tuning, generazione di immagini, o qualsiasi flusso di lavoro che si affida a software CUDA-only, è una scelta frustrante.

Acquista se: hai bisogno di eseguire localmente modelli da 100 miliardi di parametri in su, vivi nell'ecosistema Mac oppure dai grande valore al funzionamento silenzioso.

Salta se: effettui fine-tuning di modelli, generi immagini o il tuo LLM quotidiano ha meno di 70 miliardi di parametri (stai pagando per una memoria che non ti serve).

7. RTX 5070 Ti / RTX 5080 — il modello intermedio che non funziona

Entrambe le schede sono veloci e moderne, ma 16 GB di VRAM nel 2026 rappresentano una quantità poco pratica per gli LLM: troppa per i modelli da 7 miliardi di parametri (sovradimensionamento), troppo poca per quelli da 70 miliardi (non entrano in memoria con alcuna quantizzazione utilizzabile). Sono ottime per gaming e per attività AI leggere, ma se l'inferenza locale di LLM è la tua priorità, sarai meglio servito da una RTX 3090 usata (700 dollari, 24 GB) o da una RTX 4090 usata (1.200 dollari, 24 GB).

Acquista se: sei un gamer che vuole anche sperimentare con piccoli LLM.

Salta se: l'inferenza locale di LLM è il tuo caso d'uso principale.

Tabella comparativa

GPU	VRAM	Llama 2 7B Q4_0 t/s*	Llama 3 70B: quantizzazione più grande che sta	Prezzo di mercato	Verdetto
RTX 5090	32 GB	300	IQ3_XXS (27,5 GB)	$2,400	La migliore se hai bisogno di 32 GB
RTX 4090	24 GB	189	IQ2_XS (21,1 GB)	$1,300	Migliore in assoluto
RTX 3090	24 GB	162	IQ2_XS (21,1 GB)	$700	Miglior rapporto qualità-prezzo
2× RTX 3090	48 GB	—	Q4_K_M (42,5 GB)	$1,400	La migliore configurazione da 48 GB
RX 7900 XTX	24 GB	170 (ROCm)	IQ2_XS (21,1 GB)	$900	Scelta AMD (ROCm)
M5 Max 128 GB	128 GB	120	Q8_0 (~75 GB)	$3,799+	Per modelli da 100 miliardi di parametri in su
M5 Max 64 GB	64 GB	120	Q4_K_M (42,5 GB)	$3,799	Opzione Mac silenziosa
RTX 5080	16 GB	185	n/d	$999	Da evitare per gli LLM
RTX 5070 Ti	16 GB	182	n/d	$749	Da evitare per gli LLM
RTX 3060 12 GB	12 GB	77	n/d	$280	Miglior ingresso
Arc B580	12 GB	72 (Vulkan)	n/d	$249	Scommessa economica

*Generazione di token (tg128) su Llama 2 7B Q4_0 dalle community scoreboards di llama.cpp per CUDA (flash attention on), ROCm, Vulkan e Apple Silicon. Le voci provengono da utenti, sistemi e build diversi, quindi trattale come approssimative; Convly non ha benchmarkato queste schede. «Quantizzazione più grande che sta» utilizza le dimensioni dei file GGUF di bartowski per Llama 3 70B e lascia spazio per un contesto da 8 K.

Stack software che userai effettivamente

Qualunque GPU tu scelga, lo stack d'inferenza nel 2026 si è consolidato intorno a tre opzioni:

• Ollama — installazione più semplice, minor numero di impostazioni avanzate. Ideale per chi pensa: «Voglio solo chattare con Llama 3».
• LM Studio — Interfaccia grafica con browser integrato per modelli, che consente di regolare l’offload dei layer, la suddivisione della GPU e la dimensione del contesto. Ideale per chi vuole semplicemente verificare quali modelli girano sul proprio hardware.
• llama.cpp + vLLM + exllamav2 — Interfaccia a riga di comando, massime prestazioni e controllo avanzato. Ottimale per distribuzioni in produzione e test di benchmark.

Gli utenti CUDA hanno il percorso più facile; tutto funziona. Gli utenti ROCm puntano su llama.cpp e Ollama (entrambi completamente supportati). Gli utenti Apple Silicon hanno MLX (il framework nativo per l’intelligenza artificiale di Apple), che nel 2026 è più veloce della versione Metal di llama.cpp.

Per la VRAM che non si possiede, l’offload sulla CPU consente di «prendere in prestito» la RAM di sistema con un pesante penalità in termini di velocità (fino a 10 volte più lento o peggio). Utile per eseguire un modello che non entra completamente nella VRAM disponibile, ma scomodo come strumento quotidiano.

Vantaggi e svantaggi a colpo d’occhio

Domande frequenti

Qual è la GPU più economica in grado di eseguire localmente Llama 3 70B?

Una RTX 3090 usata ($650–800) è l'opzione single-card più economica, ma solo a ~2-bit: IQ2_XS (21,1 GB) o IQ2_XXS (19,1 GB) stanno nei suoi 24 GB con evidente perdita di qualità, mentre Q3_K_S (30,9 GB) non sta. Q4_K_M è un file da 42,5 GB, quindi ha bisogno di circa 48 GB di VRAM — un build 2× 3090 è il modo più economico per arrivarci.

La RTX 4090 è sufficiente per un lavoro serio con LLM nel 2026?

Per la maggior parte dei professionisti, sì. 24 GB esegue modelli di classe 30B a Q4_K_M con contesto 8K (Qwen 2.5 32B a Q5_K_M è un file da 23,3 GB, troppo stretto una volta aggiunto il KV cache), adatta 70B solo a ~2-bit e ti dà accesso completo a CUDA. I casi in cui ti sentirai limitato sono 70B con quant di qualità, generazione video IA, modelli sopra 100B parametri, o fine-tuning di qualsiasi cosa più grande di 13B.

Devo acquistare due RTX 3090 invece di una sola RTX 4090?

Matematicamente, due 3090 ti danno 48 GB di VRAM a circa lo stesso costo di una 4090 — una grande vittoria per i carichi di lavoro memory-bound come modelli 70B+. Gli svantaggi: setup più complesso (NVLink, PSU, flusso d'aria del case) e consumo energetico maggiore (700 W combinati). Il vantaggio che una singola 4090 non può eguagliare: 70B a Q4_K_M (un file da 42,5 GB) entra interamente in VRAM. Se hai specificamente bisogno di 48 GB, fallo. Altrimenti la singola 4090 è più semplice.

Posso eseguire LLM locali su un MacBook Pro?

Sì — molto bene. Il MacBook Pro attuale viene fornito con M5 Pro (fino a 64 GB, 307 GB/s) o M5 Max (fino a 128 GB, fino a 614 GB/s). Un M5 Pro con 48 GB gestisce comodamente 8B–32B; un M5 Max con 64–128 GB gestisce 70B a Q4_K_M e persino 405B a quantizzazione 2-bit (IQ2_XXS, ~107 GB) sulla SKU da 128 GB. La generazione di token è più lenta rispetto a una 4090 — circa 120 vs 189 t/s per un M5 Max 40-core vs una 4090 su Llama 2 7B Q4_0 nelle classifiche della comunità di llama.cpp — ma il funzionamento silenzioso e la portabilità sono vantaggi unici.

ROCm è finalmente utilizzabile per gli LLM nel 2026?

Per l’inferenza, sì. llama.cpp, vLLM e Ollama offrono tutti un solido supporto ROCm sulla Radeon RX 7900 XTX nel 2026. Per il training, il supporto è parziale: PyTorch funziona nella maggior parte dei casi, ma articoli di ricerca all’avanguardia continuano a rilasciare codice esclusivamente CUDA, richiedendo adattamenti manuali. Se il tuo flusso di lavoro prevede principalmente inferenza e occasionali fine-tuning con strumenti consolidati, AMD è una valida alternativa.

Ho bisogno di NVLink per l’inferenza multi-GPU sugli LLM?

Per l’inferenza pura, no — PCIe è più che sufficiente. NVLink è utile soprattutto durante il training e quando si trasferisce uno stesso modello tra GPU durante un’unica passata forward. Nella maggior parte delle configurazioni multi-GPU per inferenza, i layer vengono semplicemente suddivisi tra le schede e la penalità introdotta da PCIe è trascurabile.

Conclusione

Per la maggior parte degli utenti che costruiscono sistemi locali per LLM nel 2026, la risposta è una RTX 4090 usata a $1.200–1.400. I 24 GB di VRAM, il pieno supporto CUDA e driver collaudati coprono il 90% dei carichi di lavoro senza doverci pensare troppo.

Se $1.200 supera il tuo budget, passa a una RTX 3090 usata a $700 — più lenta, ma con gli stessi 24 GB di memoria e gli stessi flussi di lavoro.

Se hai specificamente bisogno di 32 GB su una sola scheda — 70B a ~3-bit, generazione video IA, o training di modelli più grandi di 13B — passa a una RTX 5090. Quel $1.000 extra ti compra 8 GB di VRAM e sblocca carichi di lavoro che la 4090 non può affrontare. Per 70B a Q4_K_M o meglio, prevedi due schede da 24 GB oppure un Mac con 64 GB o più.

E se hai bisogno di eseguire modelli 100B+ localmente, abbandona completamente le GPU consumer Nvidia e guarda un M5 Max con 128 GB (Mac Studio o MacBook Pro; ha sostituito l'M4 Max, che aveva anche un massimo di 128 GB) oppure NVIDIA DGX Spark (128 GB; il nome commerciale del Project DIGITS). L'architettura a memoria unificata è l'unico percorso con prezzo accessibile ai consumatori per tanta memoria di modello indirizzabile.

Tutto il resto — RTX 5080, RTX 5070 Ti, Intel Arc B580, qualsiasi GPU AMD tranne la 7900 XTX — rappresenta un compromesso per chi non ha come uso principale gli LLM locali.