11,2 t\/s<\/span><\/div>\n<\/div>\nLa RTX 3090 ha ormai cinque anni, ma rimane ancora nel 2026 l'acquisto pi\u00f9 conveniente in termini di VRAM per dollaro speso. Ventiquattro gigabyte di memoria a $700 usati permettono a migliaia di ricercatori indipendenti di ML di eseguire modelli da 70 miliardi di parametri.<\/p>\n
Le prestazioni sono circa il 60% di quelle della 4090, ma per l'inferenza si ottengono comunque token\/sec utilizzabili su ogni modello rilevante. I principali svantaggi sono un maggiore consumo energetico per unit\u00e0 di lavoro e i rischi legati all'acquisto di una scheda di cinque anni fa sul mercato secondario.<\/p>\n
La mossa classica per gli appassionati nel 2026: due RTX 3090 usate<\/strong> con una PSU da 1200 W di qualit\u00e0 e un ponte NVLink: costo totale $1.400, per ottenere 48 GB di VRAM che superano una singola 4090 su ogni modello superiore ai 30 miliardi di parametri. La configurazione \u00e8 fastidiosa, ma funziona.<\/p>\nAcquista se:<\/strong> hai un budget di $700, vuoi iniziare con gli LLM locali e sei a tuo agio con hardware usato.<\/p>\nSalta se:<\/strong> hai bisogno di hardware nuovo con garanzia oppure il tuo PC ha vincoli stringenti di potenza\/spazio.<\/p>\n4. RTX 3060 12 GB \u2014 la porta d'ingresso<\/h3>\n\n
VRAM<\/strong>12 GB GDDR6<\/span><\/div>\nLarghezza di banda<\/strong>360 GB\/s<\/span><\/div>\nTDP<\/strong>170 W<\/span><\/div>\nPrezzo nuovo<\/strong>$280<\/span><\/div>\nLlama 3 8B Q4<\/strong>48 t\/s<\/span><\/div>\nLlama 3 8B Q8<\/strong>32 t\/s<\/span><\/div>\n<\/div>\nCinque anni dopo il lancio, la RTX 3060 12 GB \u00e8 ancora in produzione ed \u00e8 tuttora la risposta ideale alla domanda \u00abCome posso iniziare con gli LLM locali nel modo pi\u00f9 economico possibile?\u00bb. Dodici gigabyte sono sufficienti per qualsiasi modello da 7 a 13 miliardi di parametri con buone quantizzazioni; Llama 3 8B raggiunge 48 t\/s (pi\u00f9 veloce della lettura umana) e l'intera scheda costa $280 nuova.<\/p>\n
Ci\u00f2 che sacrifichi: qualsiasi modello da 30 miliardi di parametri in su. La RTX 3060 non \u00e8 in grado di eseguire Llama 3 da 70 miliardi di parametri a una velocit\u00e0 utilizzabile, nemmeno con alcuna quantizzazione. \u00c8 inequivocabilmente una GPU per modelli \"piccoli\".<\/p>\n
Acquista se:<\/strong> sei nuovo agli LLM locali e vuoi imparare prima di investire oltre 1.000 dollari.<\/p>\nSalta se:<\/strong> sai gi\u00e0 di voler eseguire modelli della classe da 70 miliardi di parametri.<\/p>\n5. Radeon RX 7900 XTX \u2014 il compromesso AMD<\/h3>\n\n
VRAM<\/strong>24 GB GDDR6<\/span><\/div>\nLarghezza di banda<\/strong>960 GB\/s<\/span><\/div>\nTDP<\/strong>355 W<\/span><\/div>\nPrezzo nuovo<\/strong>$900<\/span><\/div>\nLlama 3 8B Q4<\/strong>98 token\/s (ROCm)<\/span><\/div>\nLlama 3 70B Q4<\/strong>13,6 token\/s (ROCm)<\/span><\/div>\n<\/div>\nROCm 6.3 insieme alla 7900 XTX \u00e8 finalmente sufficientemente performante nel 2026, rendendo questa una raccomandazione concreta e non pi\u00f9 una semplice opzione di riserva. Offre 24 GB di VRAM a 900 dollari di prezzo di listino, prestazioni approssimativamente intermedie tra quelle di una RTX 3090 e di una RTX 4090, e supporto completo per PyTorch e llama.cpp.<\/p>\n
La frizione rimane comunque tangibile: alcuni framework (TensorRT-LLM, determinati motori d'inferenza esclusivamente CUDA, alcune implementazioni di ricerca) semplicemente non funzionano. Il codice di ricerca pi\u00f9 avanzato punta innanzitutto a CUDA; il supporto AMD arriva settimane o mesi dopo.<\/p>\n
Acquista se:<\/strong> hai obiezioni ideologiche verso NVIDIA, sei sensibile al prezzo ma desideri un prodotto nuovo con garanzia, oppure possiedi gi\u00e0 un sistema basato prevalentemente su componenti AMD.<\/p>\nSalta se:<\/strong> vuoi zero frizione o svolgi attivit\u00e0 di ricerca con rilasci di nuovi modelli appena usciti.<\/p>\n6. Apple M4 Max (Mac Studio \/ MacBook Pro) \u2014 la scelta della memoria unificata<\/h3>\n\n
Memoria unificata<\/strong>fino a 128 GB<\/span><\/div>\nLarghezza di banda<\/strong>546 GB\/s<\/span><\/div>\nTDP<\/strong>~75 W<\/span><\/div>\nPrezzo nuovo<\/strong>3.499\u20134.999 dollari (Mac Studio)<\/span><\/div>\nLlama 3 da 8 miliardi di parametri Q4 (MLX)<\/strong>78 token\/s<\/span><\/div>\nLlama 3 da 70 miliardi di parametri Q4 (MLX)<\/strong>9,4 token\/s<\/span><\/div>\n<\/div>\nIl M4 Max non \u00e8 veloce per token rispetto alle soluzioni NVIDIA. Ci\u00f2 che offre invece \u00e8 una quantit\u00e0 di memoria irraggiungibile altrove a prezzi consumer<\/strong>. Un M4 Max da 128 GB pu\u00f2 ospitare agevolmente Llama 3 da 405 miliardi di parametri in Q4 \u2014 qualcosa che neppure una singola RTX 5090 riesce a fare.<\/p>\nPer flussi di lavoro incentrati sull'inferenza in cui la dimensione del modello conta pi\u00f9 della velocit\u00e0 (analisi di documenti lunghi, sistemi agenti, ricerca), il M4 Max \u00e8 effettivamente lo strumento giusto. Per l'addestramento, il fine-tuning, la generazione di immagini o qualsiasi altro flusso di lavoro che dipenda da software esclusivamente CUDA, rappresenta invece una scelta frustrante.<\/p>\n
Acquista se:<\/strong> hai bisogno di eseguire localmente modelli da 100 miliardi di parametri in su, vivi nell'ecosistema Mac oppure dai grande valore al funzionamento silenzioso.<\/p>\nSalta se:<\/strong> effettui fine-tuning di modelli, generi immagini o il tuo LLM quotidiano ha meno di 70 miliardi di parametri (stai pagando per una memoria che non ti serve).<\/p>\n7. RTX 5070 Ti \/ RTX 5080 \u2014 il compromesso centrale che non funziona<\/h3>\n\n
VRAM<\/strong>16 GB GDDR7 (entrambe)<\/span><\/div>\nLarghezza di banda<\/strong>896 \/ 960 GB\/s<\/span><\/div>\nTDP<\/strong>300 \/ 360 W<\/span><\/div>\nPrezzo al pubblico consigliato (MSRP)<\/strong>$749 \/ $999<\/span><\/div>\n<\/div>\nEntrambe le schede sono veloci e moderne, ma 16 GB di VRAM nel 2026 rappresentano una quantit\u00e0 poco pratica per gli LLM: troppa per i modelli da 7 miliardi di parametri (sovradimensionamento), troppo poca per quelli da 70 miliardi (non entrano in memoria con alcuna quantizzazione utilizzabile). Sono ottime per gaming e per attivit\u00e0 AI leggere, ma se l'inferenza locale di LLM \u00e8 la tua priorit\u00e0, sarai meglio servito da una RTX 3090 usata (700 dollari, 24 GB) o da una RTX 4090 usata (1.200 dollari, 24 GB).<\/p>\n
Acquista se:<\/strong> sei un giocatore che vuole anche sperimentare con piccoli LLM.<\/p>\nSalta se:<\/strong> l'inferenza locale di LLM \u00e8 il tuo caso d'uso principale.<\/p>\n