Come eseguire Llama in locale sul proprio laptop nel 2026 (guida completa alla configurazione)

In passato, eseguire un modello linguistico di grandi dimensioni sul proprio laptop era un progetto di ricerca; nel 2026 richiede soltanto 15 minuti di configurazione. È possibile disporre di un assistente AI davvero performante che funzioni interamente sul proprio dispositivo — senza abbonamento, senza connessione internet e senza che alcun dato lasci mai il computer.

Questa guida illustra l'intero processo: quali componenti hardware sono necessari, quale strumento utilizzare, quale modello scaricare e come avviarlo.

Perché eseguire un modello linguistico in locale?

L'IA basata su cloud è comoda, quindi perché eseguire un modello autonomamente? Tre motivi concreti:

• Privacy. Nulla di ciò che digiti lascia il tuo dispositivo. Per lavori sensibili, riservati o personali, questo rappresenta un vero vantaggio.
• Costo. È gratuito. Nessun abbonamento, nessun costo per token elaborato, nessun limite di utilizzo — puoi generare quanta output desideri.
• Funzionamento offline e disponibilità continua. Funziona anche in volo, senza connessione internet, ed è immune a limitazioni di frequenza o interruzioni del servizio.

Il compromesso: un modello che gira su un laptop è più piccolo e meno capace rispetto ai modelli cloud all'avanguardia. Tuttavia, i moderni modelli leggeri sono sufficientemente performanti per molte attività reali — stesura testi, riassunti, supporto alla programmazione, brainstorming, domande e risposte.

Passo 1: Verificare le caratteristiche hardware

Le prestazioni dei modelli linguistici locali dipendono principalmente dalla memoria. Ecco una panoramica realistica:

I due fattori determinanti: memoria totale (RAM o VRAM su una GPU) determina il modello più grande che puoi caricare, mentre una GPU o una CPU Apple Silicon determina la velocità di esecuzione. Un laptop moderno con 16 GB di RAM è un ottimo punto di partenza.

Passo 2: Scegli il tuo strumento

Non interagisci direttamente con il modello grezzo, ma utilizzi uno strumento che lo scarica, gestisce ed esegue. Le migliori opzioni nel 2026 sono:

• Ollama — la scelta più popolare. Uno strumento pulito da riga di comando (con una semplice app grafica) che scarica ed esegue modelli con un singolo comando ed espone un’API locale per consentire ad altre applicazioni di connettersi. La scelta migliore in assoluto.
• LM Studio — un’applicazione grafica curata. Puoi sfogliare e scaricare modelli, chattare tramite un’interfaccia integrata, senza dover usare la riga di comando. Ideale per i principianti che preferiscono un’esperienza visiva.
• Jan — un’app desktop open source focalizzata sulla privacy, un’alternativa pulita a LM Studio.
• llama.cpp — il motore ad alte prestazioni su cui si basano molti di questi strumenti. Usalo direttamente se desideri il massimo controllo ed efficienza.

Per la maggior parte degli utenti: Ollama se ti trovi a tuo agio con il terminale, LM Studio se preferisci invece un’interfaccia grafica con clic.

Passo 3: Installa ed esegui il tuo primo modello

La configurazione con Ollama è davvero così breve:

1. Scarica e installa Ollama dal suo sito ufficiale.
2. Apri un terminale.
3. Esegui un singolo comando:

ollama run llama3.1

Questo comando scarica il modello alla prima esecuzione (qualche gigabyte) e quindi ti inserisce direttamente in una finestra di chat. È tutto qui: ora hai un assistente AI privato in esecuzione localmente. La volta successiva, partirà istantaneamente.

Con LM Studio l’equivalente è: apri l’app, cerca un modello, clicca su «Scarica», quindi clicca per iniziare a chattare — interamente tramite l’interfaccia grafica.

Passo 4: Scegli il modello giusto e la sua dimensione

Due elementi da scegliere: la famiglia del modello e la sua dimensione.

Famiglia del modello — tra i modelli open source performanti che funzionano bene in locale figurano la serie Llama di Meta, i modelli Qwendi Alibaba, i modelli Gemma, i modelli di Mistral e DeepSeekle versioni più leggere di. Sono tutti validi; provane alcuni e scopri quale preferisci.

Dimensione — i modelli sono identificati da un numero di parametri come 3B, 8B, 14B (B = miliardi):

• 1–3B — estremamente veloci, poco impegnativi in termini di memoria, adatti a compiti semplici. Ottimi per macchine con 8 GB di RAM.
• 7–8 miliardi — il punto ideale per i laptop. Realisticamente capaci di svolgere attività di scrittura, supporto alla programmazione e risposte a domande, e funzionano bene su sistemi con 16 GB di RAM.
• 13–14B e superiori — sensibilmente più intelligenti, ma richiedono 32 GB di RAM o una GPU potente.

Inizia con un modello da 8B. Offre il miglior compromesso tra capacità e velocità per la maggior parte dei laptop.

Passo 5: Comprendi la quantizzazione

Nei nomi dei modelli vedrai spesso etichette come Q4_K_M o Q8. Questa è la quantizzazione — una tecnica di compressione che riduce la precisione dei numeri del modello, permettendo di utilizzare molta meno memoria con solo una lieve perdita di qualità.

• Q8 — qualità più alta, dimensione maggiore.
• Q4 — occupa circa metà della memoria di Q8, mantenendo una qualità molto vicina. Questa è la raccomandazione standard.
• Q2/Q3 — dimensione minima, ma con una degradazione della qualità facilmente percettibile; usala solo se la scarsità di memoria lo impone.

Regola pratica: scegli una versione quantizzata del modello più grande che la tua memoria può contenere comodamente. Strumenti come Ollama selezionano automaticamente una quantizzazione ragionevole, quindi spesso non devi preoccupartene. Q4 version of the largest model your memory can comfortably hold. Tools like Ollama pick a sensible quantization by default, so you often don’t have to think about it.

Approfondimenti

Una volta avviato, puoi fare molto di più che chattare da terminale:

• Collega un’interfaccia più intuitiva — applicazioni come Open WebUI offrono una finestra simile a quella di ChatGPT per il tuo modello locale.
• Usa l’API locale — Ollama fornisce un'API sulla tua macchina, quindi puoi creare script e applicazioni che interagiscono con il tuo modello locale esattamente come faresti con un modello basato sul cloud.
• Prova il recupero — punta una configurazione RAG ai tuoi documenti personali per ottenere un assistente completamente privato per la "conversazione con i tuoi file".

Perché è lento — e come risolvere il problema

La lamentela più comune dopo la prima installazione non è che il modello non si avvii, bensì che proceda estremamente lentamente. Su un laptop, un output lento dipende quasi sempre dal fatto che il modello non sta effettivamente sfruttando la tua GPU. Il modo più rapido per verificare è eseguire un modello e, in un altro terminale, lanciare ollama ps. L’output mostra come il modello viene distribuito: se indica il 100% GPU, tutto va bene; se mostra il 100% CPU o una suddivisione tra CPU e GPU, hai individuato il problema.

I tre motivi più comuni, in ordine di frequenza, sono:

• La GPU non è mai stata rilevata. Su Windows e Linux con scheda NVIDIA, ciò significa generalmente che i driver della GPU sono stati installati dopo dopo il runtime, impedendogli così di rilevare il supporto CUDA — Ollama verifica la presenza della GPU al momento dell’installazione, non durante l’esecuzione. Verifica innanzitutto che nvidia-smi funzioni correttamente, quindi reinstalla il runtime affinché rilevi la GPU. Questa singola correzione risolve la maggior parte dei casi segnalati come "sta usando la mia CPU".
• Il modello è troppo grande per la tua VRAM. Quando un modello non entra interamente nella VRAM, i livelli in eccesso vengono automaticamente e silenziosamente spostati nella RAM di sistema e sulla CPU, rallentando drasticamente l’intero processo. La soluzione consiste nell’optare per un modello più piccolo o in una quantizzazione più aggressiva (una versione con valore Q inferiore), in modo che l’intero modello risieda nella VRAM.
• La finestra contestuale è troppo ampia. Un contesto lungo consuma anch’esso memoria, poiché la cache KV cresce proporzionalmente. Se impostata troppo alta, può causare il trasferimento di alcuni livelli sulla CPU. Se non hai bisogno di un prompt molto lungo, riduci la lunghezza del contesto (8K è più che sufficiente per la maggior parte dei casi): il modello si adatterà così più agevolmente.

Due problemi sono specifici dei laptop. Primo, la politica di gestione dell’alimentazione a batteria: la maggior parte dei laptop Windows riduce drasticamente le prestazioni della GPU dedicata quando non collegati all’alimentazione, e il distacco dalla presa può dimezzare o peggio la velocità di inferenza. Questo comportamento è determinato dal firmware, non da un bug: tieni il laptop collegato all’alimentazione per lavori impegnativi. Secondo, il throttling termico: dopo circa 10–20 minuti di generazione continua, un laptop sottile si surriscalda e riduce automaticamente le frequenze di clock. Sollevare il laptop di qualche centimetro su un supporto per migliorare la circolazione dell’aria e preferire una quantizzazione più leggera (che genera meno calore) ritardano l’insorgere del throttling. Ciò non trasforma un laptop in una workstation, ma fa la differenza tra pochi token al secondo e un assistente realmente utilizzabile.

Domande frequenti

Posso eseguire Llama su un normale laptop?

Sì. Un laptop con 16 GB di RAM esegue agevolmente modelli da 7 a 8 miliardi di parametri (7–8B), che sono effettivamente utili. Anche i dispositivi con soli 8 GB di RAM possono eseguire modelli più piccoli, da 1 a 3 miliardi di parametri (1–3B). I Mac con chip Apple Silicon e i laptop dotati di GPU dedicata eseguono particolarmente bene i modelli locali.

Eseguire un LLM in locale è gratuito?

Sì. I modelli possono essere scaricati gratuitamente e non comportano alcun costo d’uso: puoi generare quanta output vuoi. L’unico "costo" è rappresentato dall’hardware che utilizzi e dallo spazio su disco occupato dai file del modello (qualche gigabyte ciascuno).

Qual è lo strumento migliore per eseguire LLM in locale?

Ollama è lo strumento più popolare e la scelta più versatile: un semplice comando consente di scaricare ed eseguire qualsiasi modello, fornendo anche un’API locale. LM Studio è invece l’opzione migliore se preferisci un’applicazione grafica senza dover usare la riga di comando.

Di quanta RAM ho bisogno per eseguire un LLM locale?

16 GB rappresentano il minimo confortevole per modelli davvero performanti da 7 a 8 miliardi di parametri. Con 8 GB sei limitato a modelli più piccoli, da 1 a 3 miliardi di parametri. Con 32 GB puoi eseguire modelli da 13 a 14 miliardi di parametri. Maggiore è la memoria disponibile, più grandi e intelligenti saranno i modelli che potrai eseguire.

Gli LLM locali sono all’altezza di ChatGPT?

Non raggiungono le prestazioni dei modelli cloud più avanzati: i modelli adatti ai laptop sono più piccoli e meno potenti. Tuttavia, sono sufficientemente efficaci per molte attività quotidiane: stesura testi, sintesi, supporto alla programmazione e risposte a domande. Si rinuncia parzialmente alle capacità in cambio di privacy totale, assenza di costi e funzionamento offline.

Perché il mio LLM locale è così lento?

Nove volte su dieci, il modello non sta sfruttando la tua GPU. Esegui ollama ps mentre un modello è caricato: se mostra il 100% CPU o una suddivisione tra CPU e GPU, questo è il motivo. Le cause più comuni sono driver GPU installati dopo il runtime (reinstalla il runtime affinché rilevi CUDA), un modello troppo grande per la VRAM (opta per un modello più piccolo o una quantizzazione più aggressiva) o una finestra contestuale talmente ampia da costringere alcuni livelli a passare sulla CPU (riducila).

Devo tenere il mio laptop collegato all’alimentazione mentre eseguo un LLM locale?

Sì, per qualsiasi operazione oltre a una semplice domanda. La maggior parte dei laptop Windows limita in modo aggressivo le prestazioni della GPU dedicata quando alimentati a batteria, per prolungarne l’autonomia: ciò può ridurre di circa la metà la velocità di generazione (token al secondo). Questo rallentamento è dovuto alla politica di gestione dell’energia implementata nel firmware, non a un difetto. Collegare il laptop all’alimentazione ripristina le frequenze massime della GPU; un supporto di raffreddamento per migliorare la circolazione dell’aria aiuta a prevenire il throttling termico che insorge dopo sessioni prolungate.

Posso utilizzare un LLM locale completamente offline?

Sì. L’unica operazione che richiede una connessione Internet è il download iniziale del modello. Una volta che il modello è salvato sul disco, funziona interamente offline: puoi disconnetterti completamente e continuerà a rispondere. Questo è il principale vantaggio in termini di privacy: i tuoi prompt non lasciano mai il tuo dispositivo, rendendo un LLM locale una scelta sensata per appunti riservati, bozze di lavoro o qualsiasi contenuto che non vorresti inviare a un servizio cloud.

Conclusione

Eseguire un modello di intelligenza artificiale sul proprio laptop non è più difficile. Installa Ollama o LM Studio, scarica un modello da 8 miliardi di parametri in una Q4 quantizzazione adeguata e, entro 15 minuti, avrai un assistente performante, gratuito, completamente privato e funzionante offline.

Non sostituirà un modello cloud di ultima generazione per i compiti più impegnativi, ma per la stesura quotidiana di testi, l’aiuto nella programmazione e le domande private, un modello locale è davvero utile. E una volta avviato, è interamente sotto il tuo controllo: nessun abbonamento, nessun limite e nessun dato che lascia il tuo dispositivo.