Chaque ordinateur portable, téléphone et carte graphique vendu en 2026 fait désormais la publicité d'un nombre « IA ». Certains citent les TOPS, d'autres les TFLOPS, et le marketing explique rarement que ce sont des unités différentes mesurant des puces différentes effectuant des travaux différents. Le NPU de votre nouvel ordinateur portable et le GPU de votre bureau sont techniquement tous deux des « accélérateurs IA », mais ils ont été conçus pour exceller aux extrémités opposées du même problème.
Cet article clarifie ce qu'est réellement un NPU, comment il diffère d'un GPU au niveau de l'architecture, et lequel importe pour ce que vous essayez de faire. Nous utilisons des nombres réels et vérifiés provenant des puces actuellement commercialisées : le Neural Engine d'Apple, le Hexagon de Qualcomm, les NPU Intel et AMD présents dans les PC Copilot+, et les parties RTX et Blackwell de data-center de NVIDIA. Pas de puces théoriques, pas de battage publicitaire.
Points clés
- Des travaux différents, pas mieux ou pire. Les NPU sont conçus pour l'inférence peu gourmande en énergie et toujours active sur un appareil ; les GPU sont conçus pour le débit parallèle brut et l'entraînement.
- TOPS et TFLOPS ne sont pas la même unité. Les NPU sont évalués en INT8 TOPS ; les GPU sont généralement cotés en TFLOPS en virgule flottante. Vous ne pouvez pas comparer directement les deux nombres.
- L'écart d'échelle est énorme. Un NPU d'ordinateur portable 2026 atteint environ 45-80 TOPS. Une NVIDIA RTX 5090 est évaluée à 3 352 AI TOPS, et un B200 de data-center atteint environ 4 500 TFLOPS en FP8.
- Les NPU gagnent en efficacité, pas en vitesse. Ils exécutent l'IA en arrière-plan (appareil photo, transcription, fonctionnalités Copilot) à une fraction de la consommation électrique d'un GPU, c'est pourquoi chaque PC Copilot+ a besoin de 40+ TOPS de NPU.
- Pour les LLM locaux aujourd'hui, le GPU (et la bande passante mémoire) l'emporte toujours. Le support logiciel NPU est immature ; un modèle 7B sur un NPU Snapdragon fonctionne à environ 9-12 tokens/seconde mi-2026, tandis qu'un GPU discret est bien plus rapide.
- La ligne s'estompe. Le M5 d'Apple place des accélérateurs neuronaux à l'intérieur de chaque cœur GPU, et le Strix Halo d'AMD associe un NPU de 50 TOPS à 128 Go de mémoire unifiée pour exécuter localement des modèles de 120B paramètres.
Ce qu'est réellement un NPU
Un NPU, ou Neural Processing Unit, est un bloc de puce construit pour faire une seule chose de manière extrêmement efficace : les mathématiques de multiplication-accumulation au cœur des réseaux neuronaux. Ce n'est pas un processeur polyvalent. Il ne peut pas exécuter votre système d'exploitation ou un jeu. Ce qu'il peut faire, c'est traiter d'énormes volumes de mathématiques entières à faible précision (généralement INT8 ou INT4) via du matériel dédié à très faible puissance.
Cette efficacité est le point entier. Un NPU existe pour que votre téléphone puisse flouter l'arrière-plan d'une vidéo, transcrire un mémo vocal, ou exécuter un petit modèle de langage sans décharger la batterie ni faire tourner un ventilateur. Sous Windows, Microsoft a fait de cela une classe matérielle explicite : un Copilot+ PC nécessite un NPU capable de plus de 40 milliards d'opérations par seconde (40+ TOPS), spécifiquement pour que les fonctionnalités sur appareil comme les sous-titres en direct et la génération d'images s'exécutent sur le NPU au lieu du CPU ou du GPU. Windows 11 planifie désormais le travail IA entre CPU, GPU et NPU et affiche même l'utilisation du NPU dans le Gestionnaire des tâches.
Le mot clé est inférence. Les NPU exécutent des modèles déjà entraînés. Ils sont presque jamais utilisés pour entraîner des modèles à partir de zéro, ce qui est une charge de travail fondamentalement différente et bien plus lourde.
Comment un GPU diffère architecturalement
Un GPU a commencé sa vie en rendant des triangles, et cet héritage l'a transformé en moteur parallèle massif en virgule flottante avec des milliers de cœurs. Les GPU modernes ont ajouté des Tensor Cores (le terme d'NVIDIA) dédiés aux mathématiques matricielles, ce qui en fait l'outil par défaut pour l'IA. Un RTX 5090 dispose de 21 760 cœurs CUDA plus des Tensor Cores de cinquième génération par-dessus.
Trois différences architecturales importent :
- Précision. Les GPU font volontiers de la virgule flottante haute précision (FP16, FP32) nécessaire pour l'entraînement, et les récents ajoutent des niveaux de précision inférieure. Les GPU Blackwell sont les premières cartes grand public à supporter FP4. Les NPU s'appuient presque entièrement sur les mathématiques entières à faible précision, ce qui est excellent pour l'inférence mais inadapté à l'entraînement.
- Mémoire. C'est le différenciateur silencieux. Un GPU dispose de sa propre VRAM rapide et dédiée (le RTX 5090 est livré avec 32 Go de GDDR7 à environ 1,79 To/s). Un NPU partage la mémoire principale du système avec tout le reste, ce qui limite la taille du modèle qu'il peut contenir et la vitesse à laquelle il peut l'alimenter.
- Puissance. Un RTX 5090 consomme jusqu'à 575 W. Un NPU d'ordinateur portable exécute la même classe d'inférence à l'intérieur de quelques watts. Ce seul fait explique pourquoi les deux puces existent.
Si vous voulez exécuter de grands modèles localement, la mémoire et la bande passante comptent souvent plus que le calcul brut, c'est exactement pourquoi les acheteurs de GPU s'obsèdent sur la VRAM. Notre guide sur le meilleurs GPUs pour les LLMs locaux approfondit ce compromis.
TOPS vs TFLOPS : pourquoi les nombres ne correspondent pas
C'est là que la plupart des fiches techniques trompent. TOPS compte des milliards de opérations par seconde, et sur les NPU cela signifie presque toujours des opérations entières INT8. TFLOPS compte des milliards d' opérations en virgule flottante par seconde, l'unité utilisée pour les GPU et pour l'entraînement. Ils ne sont pas interchangeables.
INT8 double grossièrement le débit par rapport à FP16 sur le même matériel, donc un fournisseur peut publier un plus grand nombre de titre simplement en citant le format de précision inférieure. C'est pourquoi les évaluations TOPS ont tendance à être INT8 : cela fait meilleure impression. Les deux chiffres sont aussi des nombres théoriques maximaux mesurés dans des conditions idéales, pas le débit réel soutenu dans le monde réel.
Il existe un deuxième piège : les TOPS de plateforme par rapport aux TOPS réservés au NPU. Le Lunar Lake d'Intel, par exemple, est commercialisé comme 120 « plateforme » TOPS, mais cela regroupe 67 TOPS du GPU, 48 du NPU et 5 du CPU. Le NPU seul est 48 TOPS. Lorsque vous comparez des puces, assurez-vous de comparer le même bloc.
Où chacun excelle
NPU est le bon outil quand…
- La charge de travail est toujours active ou en arrière-plan (effets de caméra, suppression du bruit, sous-titres en direct, Windows Studio Effects).
- La durée de vie de la batterie et les thermiques sont la priorité, sur un téléphone ou un ordinateur portable mince.
- Vous exécutez de petits modèles quantifiés conçus pour l'appareil.
- Vous voulez des fonctionnalités IA sans jamais faire tourner un ventilateur.
GPU est le bon outil quand…
- Vous entraînez ou réglez finement un modèle.
- Vous voulez exécuter de grands LLM locaux (13B, 30B, 70B+) à des vitesses utilisables.
- Vous avez besoin du débit brut pour la génération d'images, de vidéos ou 3D.
- Vous servez des modèles à de nombreux utilisateurs à la fois dans un data-center.
Un modèle mental clair : le NPU gère l'IA à laquelle vous ne pensez pas, et le GPU gère l'IA que vous vous asseyez délibérément pour exécuter. La plupart des ordinateurs portables 2026 en sont équipés des deux, et Windows décide lequel utiliser par tâche.
Les puces 2026, par les chiffres
C'est là que le vrai silicium atterrit. Tous les chiffres ci-dessous sont vérifiés par rapport aux sources des fournisseurs et primaires à partir de mi-2026. Notez bien les unités : le premier groupe est NPU INT8 TOPS, le second est le calcul IA GPU.
| Puce | Classe | Évaluation de l'accélérateur IA | Où il se trouve |
|---|---|---|---|
| Apple A18 / A18 Pro Neural Engine | NPU de téléphone | 35 TOPS (16 cœurs) | Série iPhone 16 |
| Apple M4 Neural Engine | NPU portable | 38 TOPS | MacBook Air/Pro |
| Qualcomm Snapdragon X Elite (Hexagon) | NPU portable | 45 TOPS | Copilot+ PCs (vague 1) |
| Intel Core Ultra 200V (Lunar Lake) | NPU portable | 48 TOPS | Copilot+ PCs |
| AMD Ryzen AI 300 (XDNA 2) | NPU portable | 50 TOPS | Copilot+ PCs |
| Qualcomm Snapdragon X2 Elite (Hexagon) | NPU portable | 80 TOPS (jusqu'à 85 sur les meilleurs SKU) | Copilot+ PCs (vague 2026) |
| NVIDIA RTX 5080 | GPU grand public | 1 801 AI TOPS | Bureau/station de travail |
| NVIDIA RTX 5090 | GPU grand public | 3 352 AI TOPS | Bureau/station de travail |
| NVIDIA H100 | GPU centre de données | 1 979 TFLOPS (FP8 dense) | Cloud/serveurs |
| NVIDIA B200 (Blackwell) | GPU centre de données | ~4 500 TFLOPS FP8 dense (9 000 FP4) | Cloud/serveurs |
Le saut des lignes NPU aux lignes GPU n'est pas une erreur. Un NPU portable haut de gamme à 80 TOPS et un RTX 5090 à 3 352 AI TOPS sont séparés par à peu près deux ordres de grandeur, avant même de tenir compte de la mémoire haute bande passante dédiée de 32 Go du GPU. Cet écart raconte toute l'histoire : les NPU n'ont jamais cherché à gagner sur les performances absolues. Ils gagnent sur la performance par watt.
L'approche d'Apple change
Apple mérite une note à part car elle a arrêté de jouer au jeu des TOPS. Le M4 Neural Engine était évalué à 38 TOPS, mais pour le M5 (lancé dans le MacBook Pro 14 pouces fin 2025, avec M5 Pro et M5 Max suivant en mars 2026), Apple n'a pas publié de chiffre de TOPS pour le Neural Engine. Au lieu de cela, elle a repensé le GPU pour intégrer un Neural Accelerator dans chacun des 10 cœurs GPU, et revendique jusqu'à 3,5 fois plus rapide en performances IA que le M4. C'est un choix délibéré que l'IA intégrée au GPU compte plus qu'un chiffre de NPU autonome, et cela brouille la séparation nette NPU-vs-GPU. Si vous comparez Mac et Windows pour l'IA, la comparaison Snapdragon X Elite vs Apple M4 détaille le ressenti réel des deux écosystèmes.
Ce que cela signifie pour exécuter l'IA localement
Here is the honest part the spec sheets skip. In mid-2026, the NPU is still the weakest link for running local LLMs, not because the silicon is slow but because the software stack is immature. Independent testing of a Snapdragon X Elite running a quantized 7B model through Qualcomm’s QNN path lands around 9-12 tokens per second. Smooth, tool-like interaction starts closer to 30 tokens per second. Worse, popular runtimes like Ollama still have no NPU compute backend, so on many machines that powerful NPU sits idle while the CPU does the work.
Donc si votre objectif aujourd'hui est réellement d'exécuter un modèle de taille respectable à la maison, un GPU discret avec beaucoup de VRAM reste la réponse pratique, et la pile logicielle d'AMD a assez mûri pour être une véritable alternative à peser dans notre Comparaison ROCm / CUDA. Le terrain d'entente intéressant, ce sont les designs à mémoire unifiée : le Ryzen AI Max d'AMD (« Strix Halo ») associe un NPU XDNA 2 de 50 TOPS à jusqu'à 128 Go de mémoire unifiée et peut allouer jusqu'à 96 Go en tant que VRAM, assez pour charger des modèles avec 120 milliards de paramètres localement. C'est bien plus de modèle que n'importe quel GPU de 32 Go peut contenir, et cela remodèle le marché des mini-PC pour l'IA locale.
Pour les téléphones, le calcul est différent et le NPU gagne clairement : il n'y a pas d'alternative GPU consommant des milliwatts, et les fonctionnalités on-device sont réglées sur le NPU. Si l'IA mobile est votre priorité, consultez la meilleure sélection de téléphones pour l'IA on-device.
Un mot rapide sur les CPU et TPU
Deux autres acronymes complètent le tableau. Le CPU peut exécuter l'IA mais c'est l'option la plus lente ; dans Lunar Lake, le CPU contribue seulement 5 des TOPS de la plateforme. Il orchestre surtout et gère les parties que les NPU et GPU ne peuvent pas.
Les TPU (Tensor Processing Units) sont les ASIC personnalisés de Google, conceptuellement plus proches d'un giant NPU de centre de données qu'à un GPU. Ils vivent dans le cloud, pas sur vos appareils. Le TPU de septième génération « Ironwood » de Google délivre 4 614 TFLOPS FP8 par puce avec 192 Go de HBM3e, et un pod complet monte à des milliers de puces pour l'entraînement et le déploiement de modèles de pointe. Vous n'en aurez jamais un sur votre bureau, mais une grande partie de l'IA que vous utilisez est servie par eux.
FAQ
Un NPU est-il plus rapide qu'un GPU ?
Non, pas en termes absolus. Un GPU haut de gamme comme le RTX 5090 (3 352 AI TOPS) surpasse largement n'importe quel NPU grand public (45-80 TOPS). L'avantage du NPU est l'efficacité : il fait du travail IA à quelques watts au lieu de centaines, ce qui compte pour l'autonomie et les fonctionnalités toujours actives, pas pour la vitesse de pointe.
Puis-je exécuter des modèles de style ChatGPT sur mon NPU ?
Vous pouvez exécuter de petits modèles locaux quantifiés sur un NPU de 40+ TOPS, mais mi-2026, l'expérience est limitée. Un modèle 7B tourne autour de 9-12 jetons par seconde sur un NPU Snapdragon, et de nombreux runtimes ne peuvent pas du tout cibler le NPU pour le moment. Pour une expérience fluide de grand modèle, un GPU avec beaucoup de VRAM est toujours le meilleur outil.
Pourquoi les portables ont-ils besoin d'un NPU de 40 TOPS pour Copilot+ ?
Microsoft a fixé 40+ TOPS comme plancher afin que les fonctionnalités IA on-device (sous-titres en direct, Studio Effects, Recall, génération d'images) s'exécutent sur le NPU plutôt que sur le CPU ou le GPU. Cela évite que ces fonctionnalités toujours actives ne décharger la batterie, et cela garantit une capacité de base que les développeurs peuvent cibler.
Quelle est la différence entre TOPS et TFLOPS ?
TOPS mesure les trillions d'opérations entières par seconde (généralement INT8) et est utilisé pour les NPU. TFLOPS mesure les trillions d'opérations en virgule flottante par seconde et est utilisé pour les GPU et l'entraînement. Parce qu'ils utilisent des précisions et des unités différentes, vous ne pouvez pas comparer directement un chiffre TOPS à un chiffre TFLOPS.
Le M5 d'Apple a-t-il un NPU ?
Oui. Le M5 a un Neural Engine de 16 cœurs, mais Apple ne publie plus de chiffre TOPS pour lui. Apple a plutôt ajouté des Neural Accelerators à chaque cœur GPU et revendique jusqu'à 3,5 fois plus rapide en IA que le M4, signalant un virage vers l'IA intégrée au GPU plutôt qu'une spec NPU autonome.
Un TPU est-il meilleur qu'un GPU pour l'IA ?
Pour l'entraînement et l'inférence à grande échelle de Google, les TPU sont hautement compétitifs et rentables à l'échelle du pod. Mais les TPU sont des ASIC cloud uniquement que vous ne pouvez pas acheter pour un PC, tandis que les GPU sont d'usage général et s'exécutent n'importe où. Pour la plupart des gens, le choix pratique est NPU versus GPU, pas TPU.
Les NPU vont-ils remplacer Cartes graphiques pour l'IA?
Non pour les charges de travail lourdes. Les NPU reprennent l'inférence efficace on-device, et cet empreinte va continuer de croître. Mais l'entraînement, les grands modèles locaux et la génération haute débit ont toujours besoin de GPU (ou TPU). L'image réaliste 2026 est la convergence, avec des NPU, des GPU et des designs à mémoire unifiée possédant chacun une part.
Conclusion
NPU versus GPU est le mauvais cadrage si vous le traitez comme une compétition. Ce sont deux réponses à deux questions différentes. Si vous voulez une IA efficace, toujours active, qui ne touche pas votre batterie, le NPU fait son travail invisiblement à l'intérieur de votre téléphone et portable, et la génération 2026 (80 TOPS sur Snapdragon X2, 48-50 TOPS sur Intel et AMD) est véritablement capable. Si vous voulez entraîner des modèles, exécuter des LLM locaux volumineux, ou générer des médias à la vitesse, le GPU est toujours la seule option sérieuse, et rien dans le monde du NPU ne s'approche d'un RTX 5090 ou d'un B200 en débit brut.
Le développement le plus intéressant est que la frontière se dissout. Apple intègre l'accélération neurale au GPU, AMD donne aux NPU une mémoire de classe GPU, et les logiciels rattrapent lentement. Pour l'instant, achetez pour la charge de travail : NPU pour l'efficacité et l'IA ambiante, GPU pour la puissance et la taille du modèle local. Ne laissez pas un seul chiffre de TOPS sur un autocollant prendre la décision pour vous.