Ogni laptop, telefono e scheda grafica venduti nel 2026 ora pubblicizza un numero «AI». Alcuni citano TOPS, altri TFLOPS, e il marketing raramente spiega che si tratta di unità diverse che misurano chip diversi che svolgono lavori diversi. L'NPU nel tuo nuovo laptop e la GPU nel tuo desktop sono entrambi tecnicamente «acceleratori AI», ma sono stati progettati per vincere ai poli opposti dello stesso problema.
Questo articolo chiarisce cos'è effettivamente un NPU, come differisce da una GPU a livello architetturale, e quale importa per quello che stai cercando di fare. Usiamo numeri reali e verificati dal silicio che sta spedendo adesso: il Neural Engine di Apple, l'Hexagon di Qualcomm, gli NPU di Intel e AMD dentro i Copilot+ PC, e le parti RTX e Blackwell di NVIDIA per i data center. Niente chip teorici, niente hype.
Punti chiave
- Lavori diversi, non migliori o peggiori. I NPU sono costruiti per l'inferenza a bassa potenza e sempre attiva su un dispositivo; i GPU sono costruiti per la massima velocità di elaborazione parallela e per l'addestramento.
- TOPS e TFLOPS non sono la stessa unità. Gli NPU sono classificati in INT8 TOPS; le GPU sono solitamente quotate in TFLOPS in virgola mobile. Non puoi confrontare i due numeri direttamente.
- Il divario di scala è enorme. Un NPU per laptop 2026 si aggira intorno a 45-80 TOPS. Un RTX 5090 di NVIDIA è classificato a 3.352 AI TOPS, e un B200 per data center raggiunge approssimativamente 4.500 TFLOPS in FP8.
- Gli NPU vincono sull'efficienza, non sulla velocità. Eseguono AI in background (fotocamera, trascrizione, funzioni Copilot) con una frazione della potenza di una GPU, motivo per cui ogni Copilot+ PC ha bisogno di 40+ TOPS di NPU.
- Per gli LLM locali oggi, la GPU (e la larghezza di banda della memoria) vince ancora. Il supporto software degli NPU è immaturo; un modello 7B su un NPU Snapdragon gira intorno a 9-12 token/secondo a metà 2026, mentre una GPU discreta è molto più veloce.
- La linea si sta sfumando. Apple M5 posiziona gli acceleratori neurali all'interno di ogni core GPU, e AMD Strix Halo abbina un NPU da 50-TOPS a 128GB di memoria unificata per eseguire localmente modelli con 120B parametri.
Che cos'è effettivamente un NPU
Un NPU, o Neural Processing Unit, è un blocco di chip costruito per fare una sola cosa in modo estremamente efficiente: la matematica multiply-accumulate al cuore delle reti neurali. Non è un processore general-purpose. Non può eseguire il tuo sistema operativo o un gioco. Quello che può fare è spingere enormi volumi di matematica intera a bassa precisione (tipicamente INT8 o INT4) attraverso hardware dedicato a bassissima potenza.
Quella efficienza è l'intero punto. Un NPU esiste affinché il tuo telefono possa sfumare lo sfondo di un video, trascrivere una nota vocale o eseguire un piccolo modello linguistico senza scaricare la batteria o accendere una ventola. Su Windows, Microsoft ha reso questa una classe hardware esplicita: un Copilot+ PC richiede un NPU capace di più di 40 trilioni di operazioni al secondo (40+ TOPS), specificamente affinché funzioni on-device come didascalie in tempo reale e generazione di immagini vengano eseguite sull'NPU anziché sulla CPU o GPU. Windows 11 ora pianifica il lavoro AI tra CPU, GPU e NPU e visualizza persino l'utilizzo dell'NPU in Task Manager.
La parola chiave è inferenza. Gli NPU eseguono modelli già addestrati. Non vengono quasi mai utilizzati per addestrare modelli da zero, il che è un carico di lavoro fondamentalmente diverso e molto più pesante.
Come differisce architettonicamente una GPU
Una GPU ha iniziato la vita rendendo triangoli, e questo retaggio l'ha plasmata in un motore massicciamente parallelo a virgola mobile con migliaia di core. Le GPU moderne hanno aggiunto Tensor Cores (il termine di NVIDIA) dedicati alla matematica matriciale, il che le rende lo strumento predefinito per l'AI. Un RTX 5090 ha 21.760 CUDA core più Tensor Cores di quinta generazione sopra.
Tre differenze architettoniche sono importanti:
- Precisione. Le GPU sono felici di fare virgola mobile ad alta precisione (FP16, FP32) necessaria per l'addestramento, e quelle recenti aggiungono livelli di precisione inferiore. Le GPU Blackwell sono le prime schede consumer a supportare FP4. Gli NPU si affidano quasi interamente alla matematica intera a bassa precisione, il che è ottimo per l'inferenza ma inadatto per l'addestramento.
- Memoria. Questo è il differenziatore silenzioso. Una GPU ha la sua propria VRAM veloce e dedicata (l'RTX 5090 viene fornito con 32GB di GDDR7 a circa 1,79 TB/s). Un NPU condivide la memoria principale del sistema con tutto il resto, il che limita quanto grande un modello possa contenere e quanto velocemente possa alimentarlo.
- Energia. Un RTX 5090 consuma fino a 575W. Un NPU portatile esegue la stessa classe di inferenza in pochi watt. Questo singolo fatto spiega perché entrambi i chip esistono.
Se vuoi eseguire modelli di grandi dimensioni localmente, la memoria e la larghezza di banda spesso contano più del calcolo puro, il che è esattamente il motivo per cui gli acquirenti di GPU sono ossessionati dalla VRAM. La nostra guida a migliori GPU per LLM locali approfondisce quel compromesso.
TOPS vs TFLOPS: perché i numeri non coincidono
È qui che la maggior parte dei datasheet inganna. TOPS conta trilioni di operazioni al secondo, e su NPU significa quasi sempre operazioni in numeri interi INT8. TFLOPS conta trilioni di operazioni in virgola mobile al secondo, l'unità usata per GPU e per l'addestramento. Non sono intercambiabili.
INT8 raddoppia approssimativamente il throughput rispetto a FP16 sullo stesso hardware, quindi un produttore può pubblicare un numero più grande semplicemente citando il formato a precisione inferiore. Per questo le valutazioni TOPS tendono a essere INT8: sembra meglio. Entrambi i dati sono anche numeri teorici massimi misurati in condizioni ideali, non il throughput reale sostenuto nel mondo reale.
C'è una seconda trappola: TOPS di piattaforma rispetto a TOPS solo NPU. Lunar Lake di Intel, ad esempio, è commercializzato come 120 TOPS di «piattaforma», ma questo raggruppa 67 TOPS dalla GPU, 48 dall'NPU e 5 dalla CPU. L'NPU da solo è 48 TOPS. Quando confronti chip, assicurati di confrontare lo stesso blocco.
Dove vince ciascuno
NPU è lo strumento giusto quando…
- Il carico di lavoro è sempre attivo o in background (effetti della fotocamera, soppressione del rumore, didascalie live, Windows Studio Effects).
- L'autonomia della batteria e i termali sono la priorità, su un telefono o un laptop sottile.
- Stai eseguendo modelli piccoli e quantizzati costruiti per il dispositivo.
- Vuoi funzionalità AI senza che una ventola si accenda mai.
La GPU è lo strumento giusto quando…
- Stai addestrando o fine-tuning di un modello.
- Vuoi eseguire grandi LLM locali (13B, 30B, 70B+) a velocità utilizzabili.
- Hai bisogno di throughput grezzo per generazione di immagini, video o 3D.
- Stai servendo modelli a molti utenti contemporaneamente in un data center.
Un modello mentale pulito: l'NPU gestisce l'AI di cui non pensi, e la GPU gestisce l'AI che deliberatamente decidi di eseguire. La maggior parte dei laptop 2026 spedisce entrambi, e Windows decide quale usare per ogni attività.
I chip del 2026, in numeri
Ecco dove il vero silicio atterra. Tutte le figure qui sotto sono verificate rispetto a fonti vendor e primarie a metà 2026. Nota bene le unità: il primo gruppo è NPU INT8 TOPS, il secondo è GPU AI compute.
| Chip | Classe | Valutazione acceleratore AI | Dove si trova |
|---|---|---|---|
| Apple A18 / A18 Pro Neural Engine | Phone NPU | 35 TOPS (16-core) | iPhone 16 series |
| Apple M4 Neural Engine | Laptop NPU | 38 TOPS | MacBook Air/Pro |
| Qualcomm Snapdragon X Elite (Hexagon) | Laptop NPU | 45 TOPS | Copilot+ PCs (wave 1) |
| Intel Core Ultra 200V (Lunar Lake) | Laptop NPU | 48 TOPS | Copilot+ PCs |
| AMD Ryzen AI 300 (XDNA 2) | Laptop NPU | 50 TOPS | Copilot+ PCs |
| Qualcomm Snapdragon X2 Elite (Hexagon) | Laptop NPU | 80 TOPS (fino a 85 su top SKU) | Copilot+ PCs (2026 wave) |
| NVIDIA RTX 5080 | Consumer GPU | 1.801 AI TOPS | Desktop / workstation |
| NVIDIA RTX 5090 | Consumer GPU | 3.352 AI TOPS | Desktop / workstation |
| NVIDIA H100 | Data-center GPU | 1.979 TFLOPS (FP8 dense) | Cloud / servers |
| NVIDIA B200 (Blackwell) | Data-center GPU | ~4.500 TFLOPS FP8 dense (9.000 FP4) | Cloud / servers |
Il salto dalle righe NPU alle righe GPU non è un errore di battitura. Un NPU laptop di fascia alta a 80 TOPS e un RTX 5090 a 3.352 AI TOPS sono all'incirca due ordini di grandezza separati, prima ancora di considerare i 32GB di memoria ad alta larghezza di banda dedicata della GPU. Questo divario è l'intera storia: gli NPU non hanno mai cercato di vincere sulla performance assoluta. Vincono sulla performance per watt.
L'approccio di Apple si sta evolvendo
Apple merita una nota separata perché ha smesso di giocare al gioco dei TOPS. L'Apple M4 Neural Engine era valutato a 38 TOPS, ma per l'M5 (che è stato spedito nel MacBook Pro 14 pollici a fine 2025, con M5 Pro e M5 Max seguiti a marzo 2026) Apple non ha pubblicato alcuna valutazione TOPS del Neural Engine. Invece ha riprogettato la GPU per mettere un Neural Accelerator dentro ognuno dei 10 core GPU, e dichiara fino a 3,5x di performance AI più veloce rispetto all'M4. Questa è una scommessa deliberata che l'AI integrato nella GPU importa più di un numero NPU standalone, e offusca la netta divisione NPU-vs-GPU. Se stai pesando Mac contro Windows per l'AI, il Snapdragon X Elite vs Apple M4 comparison analizza come i due ecosistemi si sentono effettivamente nell'uso.
Cosa significa questo per eseguire AI localmente
Here is the honest part the spec sheets skip. In mid-2026, the NPU is still the weakest link for running local LLMs, not because the silicon is slow but because the software stack is immature. Independent testing of a Snapdragon X Elite running a quantized 7B model through Qualcomm’s QNN path lands around 9-12 tokens per second. Smooth, tool-like interaction starts closer to 30 tokens per second. Worse, popular runtimes like Ollama still have no NPU compute backend, so on many machines that powerful NPU sits idle while the CPU does the work.
Quindi se il tuo obiettivo oggi è effettivamente eseguire un modello di dimensioni notevoli a casa, una GPU discreta con molta VRAM rimane la risposta pratica, e lo stack software di AMD si è maturo abbastanza da essere una vera alternativa che vale la pena valutare nel nostro Analisi comparativa ROCm vs CUDA. Lo spazio interessante di mezzo è i design con memoria unificata: l'AMD Ryzen AI Max («Strix Halo») abbina un NPU XDNA 2 da 50-TOPS con fino a 128GB di memoria unificata e può allocare fino a 96GB come VRAM, abbastanza per caricare localmente modelli con parametri 120B. Questo è molto più modello di quello che qualsiasi GPU da 32GB può contenere, e sta riconfigurando il mini-PC market for local AI.
Per i telefoni, il calcolo è diverso e l'NPU chiaramente vince: non c'è alternativa GPU che consuma milliwatt, e le funzionalità on-device sono sintonizzate sull'NPU. Se l'AI mobile è la tua priorità, vedi i best phones for on-device AI.
Una rapida considerazione su CPU e TPU
Due altri acronimi completano il quadro. La CPU può eseguire AI ma è l'opzione più lenta per farlo; in Lunar Lake la CPU contribuisce solo 5 dei TOPS della piattaforma. Per lo più orchestras e gestisce le parti che gli NPU e le GPU non possono.
I TPU (Tensor Processing Units) sono gli ASIC personalizzati di Google, concettualmente più vicini a un gigantesco NPU data-center che a una GPU. Vivono nel cloud, non nei tuoi dispositivi. Il TPU «Ironwood» di settima generazione di Google fornisce 4.614 FP8 TFLOPS per chip con 192GB di HBM3e, e un pod completo si scala a migliaia di chip per l'addestramento e il servizio di modelli frontier. Non ne avrai mai uno sulla scrivania, ma molti dell'AI che usi sono serviti da loro.
Domande frequenti
Un NPU è più veloce di una GPU?
No, non in termini assoluti. Una GPU di fascia alta come l'RTX 5090 (3.352 AI TOPS) calcola di gran lunga più di qualsiasi NPU consumer (45-80 TOPS). Il vantaggio dell'NPU è l'efficienza: fa il lavoro AI a pochi watt invece che a centinaia, il che importa per l'autonomia della batteria e le funzionalità always-on, non per la velocità di picco.
Posso eseguire modelli in stile ChatGPT sul mio NPU?
Puoi eseguire modelli locali piccoli e quantizzati su un NPU da 40+ TOPS, ma a metà 2026 l'esperienza è limitata. Un modello 7B gira attorno a 9-12 token al secondo su un NPU Snapdragon, e molti runtime non riescono ancora a indirizzare l'NPU affatto. Per un'esperienza smooth con modelli grandi, una GPU con molta VRAM è ancora lo strumento migliore.
Perché i laptop hanno bisogno di un NPU da 40 TOPS per Copilot+?
Microsoft ha impostato 40+ TOPS come limite minimo in modo che le funzionalità AI on-device (live captions, Studio Effects, Recall, image generation) vengono eseguite sull'NPU piuttosto che sulla CPU o GPU. Ciò mantiene queste funzionalità always-on dal martellare la durata della batteria, e garantisce una capability di baseline che gli sviluppatori possono indirizzare.
Qual è la differenza tra TOPS e TFLOPS?
TOPS misura trilioni di operazioni intere al secondo (solitamente INT8) e viene utilizzato per gli NPU. TFLOPS misura trilioni di operazioni in virgola mobile al secondo e viene utilizzato per GPU e training. Poiché utilizzano precisioni e unità diverse, non puoi confrontare direttamente un numero TOPS con un numero TFLOPS.
L'M5 di Apple ha un NPU?
Sì. L'M5 ha un Neural Engine a 16 core, ma Apple non pubblica più una cifra TOPS per esso. Apple ha invece aggiunto Neural Accelerators a ogni core della GPU e dichiara un'IA fino a 3,5 volte più veloce rispetto all'M4, segnalando uno spostamento verso l'IA integrata nella GPU piuttosto che verso una specifica NPU autonoma.
Una TPU è migliore di una GPU per l'IA?
Per il training e l'inferenza su larga scala di Google, le TPU sono altamente competitive e convenienti a livello di pod. Ma le TPU sono ASIC solo cloud che non puoi acquistare per un PC, mentre le GPU sono general-purpose e funzionano ovunque. Per la maggior parte delle persone la scelta pratica è NPU rispetto a GPU, non TPU.
Gli NPU sostituiranno GPU per l'IA?
No per i carichi di lavoro pesanti. Gli NPU stanno assumendo il controllo dell'inferenza efficiente on-device, e questa impronta continuerà a crescere. Ma il training, i modelli locali grandi e la generazione ad alto throughput hanno ancora bisogno di GPU (o TPU). La realtà del 2026 è la convergenza, con NPU, GPU e design a memoria unificata che possiedono ciascuno una fetta.
Conclusione
NPU rispetto a GPU è una cornice sbagliata se lo tratti come una competizione. Sono due risposte a due domande diverse. Se vuoi un'IA efficiente e sempre attiva che non tocchi la tua batteria, l'NPU sta facendo il suo lavoro invisibilmente dentro il tuo telefono e laptop, e la generazione 2026 (80 TOPS su Snapdragon X2, 48-50 TOPS su Intel e AMD) è genuinamente capace. Se vuoi addestrare modelli, eseguire grandi LLM locali o generare media ad alta velocità, la GPU è ancora l'unica opzione seria, e niente nel mondo NPU si avvicina a un RTX 5090 o a un B200 per il throughput grezzo.
Lo sviluppo più interessante è che il confine si sta dissolvendo. Apple sta integrando l'accelerazione neurale nella GPU, AMD sta dando agli NPU una memoria di classe GPU, e il software sta lentamente recuperando. Per ora, acquista in base al carico di lavoro: NPU per l'efficienza e l'IA ambientale, GPU per la potenza e la dimensione del modello locale. Non lasciare che un singolo numero TOPS su un'etichetta decida per te.