- Jan è un'app desktop gratuita e open-source (licenza AGPL) che esegue i LLM interamente sul tuo hardware — nessun account, nessun cloud, nessun dato che lascia la tua macchina.
- Include un'interfaccia chat, un hub di modelli per scaricare Modelli GGUFe un server API locale compatibile con OpenAI (porta predefinita 1337).
- Scarica da jan.ai o il pagina GitHub Releases — build per Windows, macOS (Apple Silicon e Intel) e Linux.
- Best for privacy-focused users who want a full GUI experience; developers wanting a headless API-first workflow may prefer Ollama invece.
Jan è un'applicazione desktop open-source per eseguire modelli di linguaggio di grandi dimensioni in locale, sviluppata da Homebrew Research (janhq). Raggruppa un'interfaccia di chat, un hub di modelli e un motore di inferenza in un'unica app installabile. Tutto viene eseguito offline: non è richiesto alcun account, nessun dato viene inviato a server esterni e, dopo il download dei tuoi modelli, non è affatto necessaria alcuna connessione a Internet. Il codice sorgente si trova su github.com/janhq/jan secondo la licenza AGPL-3.0.
Requisiti hardware
Jan può essere eseguito solo su CPU, ma una GPU fa una differenza significativa nella velocità di risposta. La risorsa limitante è la VRAM — la quantità di memoria GPU della tua scheda determina quali modelli puoi caricare a velocità utilizzabili.
| Componente | Minimo | Consigliato |
|---|---|---|
| RAM di sistema | 8 GB | 16 GB+ |
| GPU VRAM | Nessuno richiesto | 8 GB+ per modelli 7B |
| Archiviazione | 10 GB liberi | 50 GB+ (i modelli sono file di grandi dimensioni) |
| Sistema operativo | Windows 10, macOS 12, Ubuntu 20.04 | Ultime versioni stabili |
Un modello di parametri 7B in quantizzazione 4-bit (Q4_K_M) richiede approssimativamente 4–5 GB di VRAM; un modello 13B necessita di circa 8–9 GB. Usa il Convly VRAM calculator per stimare i requisiti di memoria per il tuo modello specifico e la quantizzazione prima di scaricare. Se stai scegliendo l'hardware, il guida ai migliori GPU per LLM locali copre le opzioni attuali su diversi livelli di prezzo.
Su Mac Apple Silicon, Jan attiva l'accelerazione Metal automaticamente. Su Windows e Linux con una scheda NVIDIA, utilizza CUDA. Il supporto GPU AMD è disponibile tramite Vulkan su Linux.
Installazione di Jan
Scarica l'installer da jan.ai o il pagina GitHub Releases. Jan raggruppa il suo motore di inferenza llama.cpp — nessuna dipendenza separata richiesta.
Windows
Esegui il .exe installer. Jan installa a %LOCALAPPDATA%\Programmi\Jan per impostazione predefinita. Non sono richiesti diritti di amministratore.
macOS
Scarica .dmg. Esistono build separate per Apple Silicon e Intel — scegli quello che corrisponde al tuo Mac. Trascina Jan in /Applications. Al primo avvio, fai clic con il pulsante destro sull'icona e scegli Apri per aggirare l'avviso di Gatekeeper.
Linux
Jan fornisce un .AppImage, un .deb, e un .rpm nella pagina delle versioni.
# AppImage
chmod +x jan-linux-x86_64-*.AppImage
./jan-linux-x86_64-*.AppImage
# Debian/Ubuntu
sudo dpkg -i jan-linux-amd64-*.debDownload del tuo primo modello
All'apertura di Jan, la Hub mostra un browser curato di modelli GGUF da Hugging Face: Llama, Mistral, Qwen, Gemma, Phi e altri in molteplici quantizzazioni.
- Fai clic Hub nella barra laterale sinistra.
- Cerca un modello — «Llama 3.2» è un buon punto di partenza per la maggior parte dell'hardware.
- Seleziona una quantizzazione. Q4_K_M è la raccomandazione predefinita: più piccolo di Q6/Q8 con una perdita di qualità accettabile.
- Fai clic Scarica e attendi il completamento del trasferimento del file.
Jan memorizza i modelli scaricati in ~/jan/models/ su macOS e Linux, e in C:Users<username>janmodels su Windows. Ogni modello risiede in una sua sottocartella denominata contenente il .gguf file e un model.json file di metadati. Puoi anche aggiungere qualsiasi .gguf file di terze parti in una nuova cartella lì — Jan lo rileva al prossimo avvio. I file GGUF da LM Studio sono direttamente compatibili.
Il server API locale
Jan include un server REST API compatibile con OpenAI, che consente a qualsiasi strumento che supporta la libreria client OpenAI — il Python SDK, LangChain, Continue.dev e altri — di usare Jan come backend locale. openai SDK, LangChain, Continue.dev e altri — utilizzano Jan come backend locale.
Per iniziarlo: apri Impostazioni → Server API locale, attiva il server. Ascolta sulla porta 1337 per impostazione predefinita; questo è configurabile nello stesso pannello.
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:1337/v1",
api_key="jan" # any non-empty string
)
response = client.chat.completions.create(
model="llama3.2-3b-instruct", # matches folder name under ~/jan/models/
messages=[{"role": "user", "content": "Hello"}]
)
print(response.choices[0].message.content)Il nome del modello nelle chiamate API deve corrispondere al nome della cartella che Jan utilizza internamente — visibile nell'Hub o nel menu a discesa dei modelli nella vista Chat.
Jan vs LM Studio vs Ollama
Tutti e tre gli strumenti eseguono modelli GGUF localmente. Le differenze risiedono nella filosofia e nel flusso di lavoro.
| Jan | LM Studio | Ollama | |
|---|---|---|---|
| Interfaccia | GUI completa, incentrata sulla chat | GUI completa, incentrata sulla chat | Solo CLI (GUI di terze parti disponibili) |
| Licenza | AGPL-3.0 (open source) | Freeware proprietario | MIT (open source) |
| API locale | Sì, compatibile con OpenAI (porta 1337) | Sì, compatibile con OpenAI (porta 1234) | Sì, API proprietaria + endpoint compatibile con OpenAI |
| Gestione dei modelli | Hub integrato (Hugging Face) | Ricerca integrata (Hugging Face) | CLI pull dal registro Ollama |
| Formato modello | GGUF | GGUF | Formato Ollama (wraps GGUF internamente) |
| Utilizzo headless/server | Limitato | Limitato | Eccellente — progettato per questo |
| System prompt / persona | Sì, per assistente | Sì, preset per modello | Via Modelfile |
| Piattaforma | Windows, macOS, Linux | Windows, macOS, Linux | Windows, macOS, Linux |
Scegli Jan se vuoi uno strumento GUI completamente open-source e tieni al vincolo AGPL che garantisce che nessuno stia costruendo un prodotto closed-source sopra il codice che usi. L'interfaccia chat di Jan è pulita e il sistema di estensioni ti permette di aggiungere funzionalità senza toccare file di configurazione.
Scegli LM Studio se la qualità dell'interfaccia conta più della licenza open-source. LM Studio ha un'interfaccia più raffinata e documentazione di compatibilità hardware leggermente più ampia. Vedi Guida completa di LM Studio per una procedura dettagliata.
Scegli Ollama se sei uno sviluppatore che vuole un backend veloce e scriptabile senza overhead della GUI. Ollama è più facile da integrare in pipeline CI, script shell o container Docker. Guida completa di Ollama copre quel percorso in dettaglio.
Se stai confrontando i costi dell'inferenza locale rispetto all'uso di un'API cloud, Calcolatore del break-even self-hosting vs API aiuta a quantificare il compromesso in base al tuo effettivo volume di utilizzo e ai costi hardware.
Privacy e utilizzo offline
La garanzia di privacy principale di Jan è architettonica: l'inferenza avviene dentro llama.cpp sulla tua macchina locale. Non viene inviata telemetria durante l'inferenza, nessuna query di modello viene registrata su un server remoto e non è richiesto alcun account. Una volta scaricato un file di modello, puoi eseguire Jan senza connessione di rete indefinitamente.
Questo rende Jan adatto per lavorare con documenti che non possono lasciare la tua macchina — testo legale, medico o commercialmente sensibile — in un modo che gli strumenti API cloud non possono eguagliare indipendentemente dalle loro politiche sulla privacy.
Jan controlla gli aggiornamenti dell'app e recupera l'elenco dei modelli del Hub da internet quando una connessione è disponibile. Entrambi possono essere disabilitati: vai a Impostazioni → Avanzate per disattivare i controlli degli aggiornamenti, e il Hub semplicemente non mostra nuovi modelli quando offline senza interrompere il resto dell'app.
Domande frequenti
Jan AI è completamente gratuito?
Sì. Jan è gratuito da scaricare e usare senza abbonamento, senza limiti di utilizzo e senza funzionalità bloccate da paywall. Il codice sorgente è pubblicato sotto AGPL-3.0 su GitHub. L'unico costo è il tuo hardware e l'elettricità.
Quali modelli può eseguire Jan?
Jan esegue qualsiasi modello in formato GGUF. Questo include la maggior parte dei modelli open-weight popolari: la famiglia Llama, Mistral, Mixtral, Qwen, Gemma, Phi, DeepSeeke molti altri. L'Hub integrato mostra un sottoinsieme curato; puoi aggiungere qualsiasi file GGUF manualmente posizionandolo nella directory dei modelli.
Quanta VRAM mi serve?
Dipende dalle dimensioni del modello e dalla quantizzazione. Un modello da 7B a Q4_K_M ha bisogno di circa 4–5 GB di VRAM; un modello da 13B ha bisogno di 8–9 GB. L'inferenza solo CPU funziona ma è lenta — aspettati 2–5 token al secondo su una CPU moderna rispetto a 30–80+ su una GPU di fascia media. Guida ai requisiti di VRAM elenca figure per i modelli principali.
Posso usare Jan con VS Code o altri strumenti di programmazione?
Sì. Abilita il server API locale di Jan e indirizza qualsiasi strumento compatibile con OpenAI a http://localhost:1337/v1. Continue.dev, Aider e assistenti di codifica simili supportano tutti URL di base personalizzati. Imposta il nome del modello in modo che corrisponda al nome della cartella che Jan usa per il tuo modello scaricato.
Qual è la differenza tra Jan e Ollama?
Jan è un'applicazione GUI desktop — interagisci tramite un'interfaccia chat e gestisci i modelli attraverso un hub visivo. Ollama è uno strumento CLI e un servizio in background progettato per sviluppatori che vogliono chiamare modelli da script o integrarli in applicazioni. Entrambi espongono un'API compatibile con OpenAI. Jan è adatto a utenti non tecnici e flussi di lavoro GUI-first; Ollama è adatto ad automazione e distribuzioni su server.
Jan supporta modelli multimodali (immagini)?
Jan ha aggiunto supporto sperimentale per modelli di visione nelle release recenti, a seconda della versione installata. Controlla l'Hub per i modelli etichettati con capacità di visione o multimodale. Il supporto e la disponibilità dei modelli variano per release, quindi consulta le note di release su GitHub per la tua versione installata piuttosto che dare per scontato che un modello specifico funzionerà.