Un tempo, eseguire il fine-tuning di un modello linguistico sui propri dati richiedeva una GPU da data center. Nel 2026, grazie a tecniche efficienti dal punto di vista della memoria, è effettivamente possibile farlo su un computer domestico — se purché si scelga correttamente la GPU. E per il fine-tuning, «correttamente» significa innanzitutto una cosa sola: VRAM. Il fine-tuning è l’operazione più esigente in termini di memoria VRAM che la maggior parte delle persone chiederà mai a una GPU di eseguire.
This guide ranks the best GPUs for fine-tuning LLMs at home and explains exactly how much memory you need.
Punti chiave
- Migliore in assoluto: RTX 5090 (32 GB) — la scheda singola più performante per il fine-tuning domestico.
- Miglior rapporto qualità-prezzo: un’RTX 3090 usata (24 GB) — il minimo pratico, al miglior prezzo.
- QLoRA cambia tutto — rende possibile il fine-tuning sulla VRAM consumer.
- 24 GB rappresenta il limite realistico per il fine-tuning di modelli di dimensioni utili.
- Due RTX 3090 usate (48 GB complessivi) costituiscono la soluzione ideale per utenti avanzati con budget limitato.
Perché il fine-tuning richiede così tanta VRAM
Eseguire un modello (inferenza) richiede memoria per i pesi del modello. Affinamento (fine-tuning) Il fine-tuning ne richiede molto di più: memoria per i pesi, oltre che per i gradienti, lo stato dell’ottimizzatore e le attivazioni. In modo ingenuo, il fine-tuning completo può richiedere diverse volte la dimensione del modello in VRAM, rendendolo irraggiungibile per qualsiasi GPU consumer, tranne che per i modelli più piccoli.
Questo è il motivo per cui QLoRA (e in generale i metodi basati su LoRA) sono così importanti. Invece di aggiornare tutti i pesi, queste tecniche caricano il modello in forma compressa (quantizzata) e addestrano solo un piccolo insieme di parametri aggiuntivi. Il risparmio di VRAM è notevole — ed è proprio questo il motivo per cui il fine-tuning domestico è realistico nel 2026. Tutti i consigli riportati di seguito presuppongono l’utilizzo di questi metodi efficienti dal punto di vista della memoria.
Quanta VRAM è necessaria?
Una guida pratica al fine-tuning nello stile QLoRA:
| VRAM | Cosa puoi fine-tunare |
|---|---|
| 16 GB | Modelli piccoli (fino a ~7–8 miliardi di parametri) — possibile, ma con poca margine |
| 24 GB | Comodo per modelli da ~7–13 miliardi; il minimo pratico per l’uso domestico |
| 32 GB | Modelli più grandi e batch più ampi; la scelta ideale per l’uso domestico |
| 48 GB (2× schede) | Fine-tuning avanzato, fino a modelli della classe ~30 miliardi |
La conclusione: 24 GB è il limite minimo per il fine-tuning di qualcosa di realmente utile, mentre 32 GB o più rappresentano l’obiettivo ideale.
La classifica
1. RTX 5090 — la migliore per il fine-tuning domestico
La 32 GB di GDDR7 dell’RTX 5090 la rende la migliore GPU consumer singola per il fine-tuning. Quella memoria in più rispetto a una scheda da 24 GB si traduce direttamente in modelli più grandi, contesti più lunghi e dimensioni di batch maggiori — tutti fattori che rendono il fine-tuning più veloce e più potente. Anche la potenza computazionale Blackwell riduce la durata dei cicli di addestramento. È costosa ed energivora, ma per un fine-tuning domestico serio è la scelta da privilegiare.
2. RTX 3090 usata — il miglior rapporto qualità-prezzo, il minimo pratico
La RTX 3090 usata è la scelta più conveniente, e la sua 24 GB è il minimo realistico per il fine-tuning domestico. Con QLoRA è possibile effettuare il fine-tuning di modelli della classe 7–13 miliardi di parametri in tutta comodità. A circa 700–900 dollari usata, rappresenta il punto di ingresso serio più accessibile. La mossa classica degli utenti esperti consiste nell’utilizzare due di queste schede per ottenere 48 GB di memoria complessiva: un notevole salto di capacità a un costo molto inferiore rispetto a una singola scheda di fascia alta.
3. RTX 4090 — eccellente se il prezzo è conveniente
Anche la RTX 4090 dispone di 24 GB e di un’ottima potenza computazionale. I nuovi stock sono scarsi e i prezzi variano, ma una RTX 4090 ben quotata (nuova o usata) è una scheda eccellente per il fine-tuning: più veloce di una RTX 3090 pur avendo la stessa quantità di memoria. Acquistatela se il prezzo è competitivo rispetto a una RTX 5090 o a una coppia di RTX 3090.
4. RTX 5080 / 5070 Ti (16 GB) — solo per l’ingresso base
Le schede da 16 GB possono effettuare il fine-tuning di modelli piccoli, ma i 16 GB costituiscono un vero limite: sarete costretti a utilizzare i modelli più piccoli, con contesti brevi e batch ridotti al minimo. Sono adatte per imparare il flusso di lavoro del fine-tuning, ma se il fine-tuning è il vostro obiettivo reale, puntate a una scheda da 24 GB.
Una singola scheda potente contro due schede più piccole
Una scelta cruciale per chi effettua il fine-tuning:
- Una RTX 5090 (32 GB) — configurazione più semplice, velocità massima per singolo lavoro, nessuna complessità legata al multi-GPU. La scelta migliore se il budget lo consente.
- Due RTX 3090 usate (48 GB totali) — maggiore memoria VRAM complessiva a minor costo, consentendo il fine-tuning di modelli più grandi; richiede però la configurazione multi-GPU, un maggiore assorbimento di potenza e una dissipazione termica superiore.
Se cercate la massima dimensione del modello per ogni dollaro speso, due RTX 3090 vincono. Se invece privilegiate semplicità e velocità, vince una singola RTX 5090.
Non dimenticate: il cloud è un’opzione valida
Il fine-tuning è un’attività intermittente: lo si esegue occasionalmente, non in modo continuativo. Se lo fate solo di tanto in tanto, affittare una GPU cloud per poche ore può risultare più economico rispetto all’acquisto di una scheda di fascia alta. Acquistate l’hardware se effettuate il fine-tuning regolarmente o desiderate la massima privacy sui vostri dati di addestramento; optate per il noleggio se si tratta di un’operazione occasionale.
Gli errori che sprecano una buona GPU
Avere abbastanza VRAM è necessario, ma non è ciò che determina il successo di un fine-tuning. Il modo più comune in cui le persone perdono un intero weekend su una scheda performante è sbagliando lo stack software, l’hardware di supporto o il dataset. Ecco le trappole da conoscere prima di iniziare.
Utilizzare direttamente la libreria Transformers anziché un trainer ottimizzato. I valori di VRAM indicati in precedenza in questa guida presuppongono uno stack efficiente dal punto di vista della memoria. Strumenti come Unsloth utilizzano kernel CUDA scritti a mano per ridurre la memoria necessaria all’addestramento di circa il 70% ed eseguire i processi da due a diverse volte più velocemente rispetto alla versione standard di Hugging Face sulla stessa scheda; Axolotl è l’alternativa più configurabile. Con QLoRA su Unsloth, un modello da 7 miliardi di parametri può essere sottoposto a fine-tuning con soli ~6 GB di VRAM, motivo per cui perfino una vecchia RTX 3060 entra in considerazione. Seguire l’approccio non ottimizzato potrebbe far fallire completamente lo stesso processo.
Dimenticare che la lunghezza del contesto, non solo la dimensione del modello, influisce sulla VRAM. La memoria per le attivazioni scala con la lunghezza della sequenza. Una configurazione che funziona agevolmente con 512 token potrebbe generare un errore di memoria insufficiente a 4K. Prima di passare a una scheda più potente, abilitate il checkpointing del gradiente, utilizzate un ottimizzatore paginato per assorbire i picchi di memoria e riducete la lunghezza della sequenza al minimo indispensabile per i vostri dati.
Privare il resto del sistema di risorse. Non appena i pesi o lo stato dell’ottimizzatore vengono spostati sulla CPU, la RAM di sistema diventa il collo di bottiglia. Considera una quantità abbondante di RAM di sistema come parte integrante della configurazione hardware, non come un’aggiunta successiva, e memorizza i tuoi dataset e i checkpoint su unità NVMe ad alte prestazioni, in modo che il caricamento dei dati non lasci inattiva la GPU.
Confondere una maggiore quantità di dati con una migliore qualità dei dati. Questo è l’errore più costoso, e nessuna GPU può correggerlo. Dataset troppo piccoli spingono il modello a memorizzare invece che apprendere, e la qualità prevale nettamente sulla quantità. Per compiti di generazione, considera circa mille esempi ben curati come soglia ragionevole; poche centinaia di esempi puliti e coerenti superano regolarmente migliaia di esempi rumorosi. Anche LoRA aiuta in questo senso, contrastando il sovradattamento cui espone il fine-tuning completo su dataset ridotti.
La conclusione onesta: scegli il trainer giusto, dimensiona l’intero sistema e investi nella qualità del tuo dataset. Una scheda grafica di fascia media con una pipeline pulita batte una scheda top di gamma che elabora dati disordinati.
Domande frequenti
Qual è la migliore GPU per il fine-tuning di LLM a casa?
La RTX 5090, con 32 GB di VRAM, è la migliore GPU consumer singola per il fine-tuning domestico. Per rapporto qualità-prezzo, una RTX 3090 usata (24 GB) rappresenta il minimo pratico al miglior prezzo, mentre due RTX 3090 insieme (48 GB) costituiscono la soluzione economica per il fine-tuning di modelli più grandi.
Di quanta VRAM ho bisogno per effettuare il fine-tuning di un LLM?
Con metodi efficienti dal punto di vista della memoria come QLoRA, 24 GB è il minimo realistico per il fine-tuning di modelli di dimensioni utili (circa 7–13 miliardi di parametri). 32 GB o più garantiscono maggiore comodità, consentendo modelli e batch più grandi. I 16 GB funzionano solo per i modelli più piccoli ed è meglio usarli esclusivamente per apprendere il flusso di lavoro.
Posso effettuare il fine-tuning di un LLM su una GPU consumer?
Sì — questo è uno dei grandi cambiamenti degli ultimi anni. Tecniche come QLoRA caricano il modello in forma compressa e addestrano solo un piccolo insieme di parametri, riducendo drasticamente le esigenze di VRAM. Con una GPU consumer da 24 GB o superiore, il fine-tuning di modelli a casa è davvero praticabile.
Cos’è QLoRA e perché è importante?
QLoRA è una tecnica di fine-tuning efficiente dal punto di vista della memoria che carica il modello in forma quantizzata (compressa) e addestra solo un numero limitato di parametri aggiuntivi anziché tutti i pesi. Riduce così le esigenze di VRAM fino al punto di rendere possibile il fine-tuning su GPU consumer anziché su hardware per data center.
È più economico effettuare il fine-tuning nel cloud?
Può esserlo, dato che il fine-tuning è un’attività occasionale e non continua. Se lo fate solo di tanto in tanto, affittare una GPU cloud per poche ore potrebbe costare meno rispetto all’acquisto di una scheda di fascia alta. Acquistate l’hardware se effettuate il fine-tuning regolarmente o avete bisogno della massima privacy sui vostri dati di addestramento.
Ho bisogno di software specifico per eseguire il fine-tuning su una GPU consumer?
Di fatto, sì. Le cifre amichevoli relative alla VRAM dipendono da uno stack ottimizzato per l’uso della memoria, non semplicemente dalla libreria Hugging Face Transformers in versione standard. Unsloth rappresenta il punto di partenza più semplice e può ridurre il consumo di memoria durante l’addestramento di circa il 70%, accelerando contemporaneamente il processo; Axolotl offre maggiore controllo per configurazioni complesse. Entrambi si integrano naturalmente con QLoRA, che consente addirittura alle GPU con soli 8–12 GB di VRAM di eseguire il fine-tuning di modelli della classe 7B.
Quanta RAM di sistema mi serve per il fine-tuning, oltre alla VRAM?
Molto di più di quanto la maggior parte delle persone si aspetti. Non appena si ricorre all’offloading sulla CPU per far rientrare un addestramento più grande, i parametri e lo stato dell’ottimizzatore vengono allocati nella memoria di sistema, rendendo quindi una RAM insufficiente il vero limite massimo. Come regola generale, prevedi una quantità di RAM di sistema comodamente superiore alla VRAM della tua GPU e conserva i dataset e i checkpoint su unità NVMe veloci, in modo che l’archiviazione non rallenti mai la GPU.
Quanto tempo richiede effettivamente un fine-tuning su una singola GPU?
Per un addestramento basato su tecniche parametricamente efficienti come LoRA o QLoRA, su un dataset modesto, puoi attenderti un tempo di esecuzione misurabile in ore anziché giorni su una moderna GPU consumer. Il tempo necessario scala con le dimensioni del dataset, la lunghezza delle sequenze e il numero di passaggi effettuati sui dati; un trainer ottimizzato come Unsloth può ridurlo approssimativamente della metà. Il fine-tuning completo richiede tempi molto più lunghi ed è raramente la scelta più opportuna in ambito domestico.
Conclusione
Il fine-tuning di LLM a casa è una realtà nel 2026 — e dipende tutto dalla VRAM. La RTX 5090 (32 GB) è la migliore scheda singola per questo compito. Una RTX 3090 usata (24 GB) è la scelta più conveniente e il minimo pratico, mentre due RTX 3090 rappresentano la via economica per modelli più grandi.
Qualunque sia la vostra scelta, affidatevi a metodi come QLoRA, considerate i 24 GB come soglia minima e ricordate che, per il fine-tuning occasionale, il cloud è un’alternativa legittima all’acquisto della scheda più potente disponibile.
