Qu'est-ce que Ollama ? Le guide complet pour exécuter des LLM localement en 2026

Si vous vous êtes un tant soit peu intéressé à l’IA locale ces deux dernières années, vous avez sûrement entendu parler de cet outil. Ollama est l’outil qui a permis de transformer l’opération consistant à “ exécuter un grand modèle linguistique sur sa propre machine ” — qui prenait auparavant un week-end entier à cause des erreurs CUDA — en une simple commande : Exécuter llama3.3.

Ce guide explique en détail ce qu’est Ollama, comment il fonctionne en coulisses, ce qu’il peut et ne peut pas faire, et s’il s’agit de l’outil qui vous convient en 2026.

Réponse rapide : Qu’est-ce qu’Ollama et comment fonctionne-t-il ?

Ollama est un outil gratuit et open source qui télécharge, gère et exécute localement des grands modèles linguistiques ouverts sur Mac, Windows ou Linux à l’aide d’une seule commande — pas de cloud, pas de clés API, et aucune donnée ne quitte votre machine. En interne, il intègre le moteur llama.cpp (ainsi que MLX d’Apple sur Mac depuis la version v0.19) et gère le téléchargement des modèles, la quantification et l’allocation GPU, puis expose une API REST sur le port 11434 , compatible avec l’API OpenAI à l’adresse /v1. Une seule commande telle que Exécuter llama3.3 télécharge un modèle et vous permet de passer de l’installation à un modèle opérationnel en environ deux minutes.

• Comment cela fonctionne : intègre llama.cpp (et MLX d’Apple sur Mac depuis la version v0.19) et sert les modèles via une API REST locale — http://localhost:11434, compatible avec l’API OpenAI à l’adresse /v1.
• Comment exécuter un modèle : Exécuter llama3.3 télécharge et démarre le modèle en environ deux minutes — d’autres choix incluent gemma4 et qwen3.
• Configuration matérielle requise : le point optimal se situe aux alentours de 16 Go de VRAM ou de mémoire unifiée ; comptez approximativement 0,6 Go de mémoire par milliard de paramètres en quantification Q4_K_M.
• Quels modèles peut-il exécuter ? plus de 100 modèles ouverts, allant des modèles 7B d’environ 5 Go aux modèles 70B d’environ 43 Go.
• Coût et limites : gratuit (licence MIT), entièrement privé et hors ligne — mais pas conçu pour un service haute concurrence, où vLLM est environ 16 à 20 fois plus rapide sous charge.

Ce qu’est réellement Ollama

Ollama est un environnement d'exécution open source pour les grands modèles linguistiques qui fonctionne sur votre propre ordinateur — Mac, Windows ou Linux. Considérez-le comme le “ Docker des grands modèles linguistiques ” : au lieu de vous débattre avec les environnements Python, les poids des modèles et les pilotes GPU, il vous suffit de taper une seule commande pour qu'un modèle se lance.

Le concept est simple : gardez vos données sur votre machine, ne payez rien par token, et travaillez hors ligne. Quand vous lancez Lancer gemma4, Ollama télécharge le modèle, le charge dans la mémoire de votre GPU (ou dans la RAM système si vous n'avez pas de GPU), et vous place dans un prompt de chat. C'est tout.

Derrière cette simplicité, Ollama fait beaucoup de travail pour vous :

• Gestion des modèles — récupération, versionnage et stockage des modèles depuis son registre, comme un gestionnaire de paquets pour les logiciels.
• Quantification — utilisation automatique de versions compressées (GGUF) des modèles afin qu'un modèle de 27 milliards de paramètres tienne dans la mémoire grand public.
• Allocation de la couche GPU — détermination de la quantité du modèle qui vit sur votre GPU par rapport au CPU, en fonction de la VRAM que vous avez.
• Gestion du contexte et du KV-cache — gestion de la mémoire qui augmente à mesure qu'une conversation s'allonge.
• Une API REST — exposant tout sur http://localhost:11434 afin que vos propres applications puissent communiquer avec.

Comment ça marche en coulisses

Ollama n'est pas lui-même un moteur d'inférence. C'est une couche d'expérience enveloppée autour d'un. Sous le capot, il utilise llama.cpp, le moteur C++ qui effectue le véritable calcul d'exécution efficace d'un modèle quantifié sur les CPU et GPU. À partir de la v0.19 (mars 2026), Ollama utilise aussi le backend MLX d'Apple sur Apple Silicon — un changement qui a livré d'énormes gains de vitesse (sur une M5 Max exécutant Qwen 3.5, le débit de décodage a presque doublé).

Le flux de travail ressemble à ceci :

1. Vous lancez une commande — ollama run qwen3 depuis le terminal, ou une requête vers l'API.
2. Ollama résout le modèle — s'il n'est pas déjà téléchargé, il récupère les poids GGUF depuis le registre.
3. Il charge le modèle en mémoire — en répartissant les couches entre GPU et CPU en fonction de la VRAM disponible.
4. Il sert les réponses — soit de manière interactive dans votre terminal, soit en JSON via l'API REST.

C'est cette API REST qui intéresse le plus les développeurs. N'importe quelle application capable de faire une requête HTTP peut utiliser un modèle local via Ollama — et comme Ollama a ajouté un endpoint compatible OpenAI, beaucoup de code existant fonctionne en changeant simplement l'URL de base.

Ce que vous pouvez créer avec cet outil

Ollama est le moteur derrière une énorme gamme de projets d'IA locale en 2026 :

• Chatbots privés qui n'envoient jamais un mot vers le cloud.
• Assistants de codage — la commande ollama launch command permet de connecter des outils tels que Claude Code, OpenCode, et Codex vers un modèle local ou dans le cloud, sans fichiers de configuration.
• Systèmes RAG utilisant l'API d'embedding batch d'Ollama pour indexer vos propres documents.
• Agents et automations qui appellent les modèles locaux pour la classification, l'extraction ou le résumé à coût marginal zéro.
• Pipelines de sortie structurée — Ollama peut maintenant contraindre la sortie d'un modèle à un schéma JSON, ce qui le rend fiable pour l'usage programmatique.

La place d'Ollama parmi les autres solutions

Ollama n’est pas la seule façon d’exécuter des modèles localement, et ce n’est pas toujours la meilleure. Voici un aperçu honnête de l’écosystème — et si vous optez pour l’une des autres solutions, supprimer Ollama proprement ne prend qu’une minute :

Outil	Meilleur pour	Compromis
Ollama	Prototypage monodéveloppeur sur n'importe quel système d'exploitation	Lent sous forte concurrence
LM Studio	Une interface graphique soignée pour parcourir et discuter avec les modèles	Moins scriptable ; d'abord orienté bureau
vLLM	Serveur de production multiutilisateur sur GPU	Configuration complexe ; pas d'abord local
llama.cpp	Vitesse maximale et matériel embarqué/edge	Niveau plus bas ; vous l'assemblez vous-même

Si vous êtes une seule personne qui expérimente, Ollama gagne sur la simple commodité. Au moment où vous devez servir de nombreux utilisateurs à la fois, vous voudrez lire notre analyse complète de Ollama contre LM Studio contre vLLM contre llama.cpp.

Commencez en deux minutes

La barrière à l'entrée est véritablement minuscule :

1. Installez-le — téléchargez l'application pour votre système d'exploitation (voir notre Guide d’installation pas à pas, ou exécutez-le dans un conteneur Docker pour le maintenir à l’écart de l’hôte).
2. Récupérez et exécutez un modèle — Lancer gemma4 pour un bon généraliste, ou ollama run qwen3 pour la programmation.
3. Discutez avec lui — chattez dans le terminal, ou pointez votre application vers http://localhost:11434.

Avant de choisir un modèle, vérifiez que votre machine peut le gérer — notre guide sur Ollama’s system requirements met en relation les tailles de modèles avec la RAM et la VRAM dont vous avez réellement besoin.

Quel matériel avez-vous réellement besoin ?

Ollama démarrera sur presque n'importe quelle machine avec un CPU et 8 GB de RAM, mais « démarre » et « semble utilisable » sont des questions différentes. Le seul nombre qui décide de votre expérience est la quantité de mémoire dans laquelle le modèle rentre, car le modèle entier doit résider en RAM (ou, idéalement, en VRAM GPU) pendant qu'il s'exécute. Une règle générale fiable est environ 0,6 GB de mémoire par milliard de paramètres à la quantification Q4_K_M par défaut, plus un peu de marge pour le contexte.

Ces calculs vous donnent un guide rapide pour choisir la taille adaptée aux catégories de modèles les plus courantes :

Classe de modèle	Téléchargement approx. (Q4_K_M)	Un souvenir agréable
7–8B (Llama 3.x, Mistral)	environ 5 Go	8 Go ou plus
13–14B (Qwen, Phi)	environ 9 Go	16 Go et plus
32B	environ 20 Go	24 Go et plus
70B (Llama 3.3)	environ 43 Go	64 Go et plus

Pour la plupart des gens, la solution idéale est une carte graphique ou un Mac doté d'environ 16 Go de VRAM ou de mémoire unifiée — suffisamment pour faire tourner des modèles de 7B à 14B à une vitesse qui semble instantanée. Une carte graphique de type RTX de 16 Go ou un Mac équipé d’Apple Silicon de 16 Go s’inscrivent tous deux parfaitement dans cette catégorie.

Deux aspects architecturaux sont à prendre en compte lors de votre choix. Un GPU NVIDIA discret s’impose sans conteste dès lors que le modèle tient dans sa mémoire vidéo (VRAM), offrant ainsi le débit le plus élevé en tokens par seconde. Quant à l’Apple Silicon, mémoire unifiée C'est l'inverse : il partage toute la mémoire vive du système avec le GPU. Ainsi, un Mac de 64 Go ou 128 Go peut exécuter des modèles de 32B à 70B qui ne peuvent tout simplement pas être chargés sur une carte graphique grand public — mais avec un débit moindre. Le seuil se situe aux alentours du modèle de 24 Go.

Toi peut Exécuter Ollama sans aucun GPU. Un processeur multicœur moderne traite un modèle de 7 milliards de paramètres à une vitesse acceptable de quelques tokens à une dizaine de tokens par seconde, mais les grands modèles de 70 milliards de paramètres traités sur le processeur descendent en dessous d’un token par seconde — ce qui convient pour les tâches par lots exécutées pendant la nuit, mais s’avère pénible pour le chat. Si la vitesse interactive est importante, l’accélération par GPU ou Apple Silicon est le facteur décisif.

Deux guides connexes : Explication des modèles GGUF (le format de fichier téléchargé par Ollama) et ce qu’est LM Studio si vous préférez une application graphique à la ligne de commande.

Ce qui a changé dans Ollama 0.34 (septembre 2026)

La version actuelle est v0.34.2, publiée le 15 septembre 2026. Trois modifications apportées dans la série 0.34 sont importantes si vous avez utilisé Ollama pour la dernière fois plus tôt cette année, selon les notes de publication:

• Une étape de configuration à la première utilisation (0.34.2). Désormais, le lancement d’Ollama vous propose de vous connecter ou de continuer hors ligne — une information utile à connaître avant d’automatiser une installation sans assistance. Cette même version a ajouté un lien profond ollama://apps vers l’application de bureau sur macOS et Windows.
• ChatGPT Desktop peut piloter des modèles locaux (0.34.0). Les modèles open-weight exécutés via Ollama peuvent désormais être utilisés depuis cette interface, avec en complément une génération structurée accélérée sur Apple Silicon et une découverte automatisée d’outils compatible OpenAI.
• Une liste de modèles nettement plus rapide (0.34.1). Le /api/tags l’endpoint ollama ls — utilisé par défaut par la commande et par la plupart des tableaux de bord — est devenu environ dix fois plus rapide, tandis que la création de modèles avec MLX safetensors a quitté le statut expérimental.

La mise à jour consiste à réinstaller Ollama sur macOS et Windows, ou à relancer le script d’installation sous Linux ; notre guide de mise à jour d’Ollama explique comment conserver vos modèles pendant ce processus.

Les commandes Ollama, résumées dans un tableau

Voici les commandes documentées dans la référence CLI officielle d’Ollama. Notez que la commande list est notée ollama ls dans la documentation actuelle ; ollama list produit le même résultat.

Plus de guides Ollama sur Convly

• Installation et plateformes : guide d’installation · Ollama sur Windows · Ollama dans Docker · exigences système
• Bonnes pratiques d’utilisation : liste des modèles · meilleurs modèles à exécuter · quand Ollama ignore votre GPU · changer le port
• Hébergement et sécurité : authentification par clé API · Ollama est-il sécurisé ? · modèles cloud
• Maintenance : mise à jour · désinstallation · alternatives

FAQ

Ollama est-il gratuit ?

Oui. Ollama est open-source sous la licence MIT et complètement gratuit. Le seul « coût » est le matériel sur lequel vous l'exécutez et l'électricité qu'il consomme — il n'y a pas de frais par jeton parce que rien ne va chez un fournisseur cloud.

Ollama envoie-t-il mes données quelque part ?

Non. Par conception, l'inférence se fait entièrement sur votre machine. Le seul trafic réseau est le téléchargement d'un modèle la première fois que vous l'extrayez. C'est la raison principale pour laquelle les équipes dans les secteurs de la santé, du droit et de la finance l'utilisent — les invites sensibles ne quittent jamais le bâtiment.

Ai-je besoin d'un GPU pour exécuter Ollama ?

Non, mais cela aide beaucoup. Ollama s'exécute sur CPU seul pour les plus petits modèles (un modèle de 2–3B est confortable sur un ordinateur portable moderne), et utilise votre GPU automatiquement quand il est disponible. Pour les modèles au-delà d'environ 13B paramètres, un GPU ou Apple Silicon avec mémoire unifiée fait une grande différence. Voir notre guide des exigences système pour les détails.

Quels modèles Ollama peut-il exécuter ?

Plus de 100 modèles ouverts, notamment Llama 3.3 et Llama 4 de Meta, Gemma 4 de Google, la série Qwen 3 d'Alibaba, DeepSeek V3 et R1, Mistral, et Phi-4 de Microsoft. Notre sélection des meilleurs LLM locaux à exécuter sur Ollama détaille lequel utiliser pour quel travail.

Ollama est-il meilleur que ChatGPT ?

Outils différents. ChatGPT vous donne un modèle frontier sans configuration mais envoie vos données au cloud et facture un abonnement. Ollama exécute des modèles ouverts plus petits localement, gratuitement et en privé, mais un modèle local haut de gamme reste en retrait sur les tâches les plus difficiles par rapport aux meilleurs modèles cloud. Pour la confidentialité, le coût et l'utilisation hors ligne, Ollama gagne ; pour la capacité brute en raisonnement complexe, la frontier cloud est encore en avance.

Quel est le port API d'Ollama ?

Ollama expose son API REST sur http://localhost:11434 par défaut. Il propose également un point d'accès compatible OpenAI, donc une grande partie du code OpenAI-SDK existant fonctionne en pointant simplement l'URL de base vers votre instance Ollama locale.

Ollama peut-il remplacer l'API OpenAI dans mon application actuelle ?

Pour la plupart des applications, oui. Ollama met à disposition un point de terminaison compatible avec OpenAI à l'adresse http://localhost:11434/v1, y compris le /v1/chat/completions route que la plupart des outils appellent. Configurez votre client OpenAI pour qu’il pointe vers base_url Pour ce faire, transmettez n'importe quelle clé API de remplacement et définissez le champ « model » sur une balise Ollama installée. Les embeddings, la vision par ordinateur et l'appel d'outils sont également pris en charge ; de nombreux projets peuvent ainsi effectuer la migration en modifiant simplement deux lignes de code. Cette solution couvre certaines parties de l'API OpenAI plutôt que l'ensemble des paramètres ; veillez donc à vérifier les champs peu courants dont dépend votre application.

Puis-je exécuter Ollama sans GPU ?

Oui. Ollama fonctionne entièrement sur le processeur (CPU) lorsqu’aucune carte graphique (GPU) compatible n’est disponible — il suffit simplement de disposer d’une mémoire vive (RAM) suffisante pour stocker le modèle. Un processeur multicœur actuel permet d’exécuter un modèle de 7 milliards de paramètres à des vitesses acceptables, mais le débit chute fortement à mesure que la taille des modèles augmente, et les modèles de l’ordre de 70 milliards de paramètres sont trop lents pour une utilisation interactive sur un processeur. Pour les conversations quotidiennes, un GPU ou un Mac équipé d’Apple Silicon fait toute la différence entre une expérience lente et une expérience fluide.

Combien d'espace disque les modèles Ollama occupent-ils, et où sont-ils stockés ?

Prévoyez suffisamment d'espace pour les tailles de téléchargement indiquées ci-dessus : un modèle de 7B occupe environ 5 Go sur le disque, un modèle de 70B environ 43 Go, et le téléchargement de plusieurs modèles peut rapidement faire grimper l'espace nécessaire. Par défaut, ils se trouvent dans le répertoire ~/.ollama/models (ou C:Users<you>.ollamamodels sous Windows). Vous pouvez déplacer ce répertoire à l'aide de la commande OLLAMA_MODELS variable d'environnement, puis supprimez tout ce dont vous n'avez plus besoin à l'aide de ollama rm <model>.

Conclusion

Ollama a remporté l'espace des LLM locaux en 2026 en faisant une seule chose extrêmement bien : éliminer les obstacles. C'est gratuit, privé, s'exécute sur le matériel que vous possédez déjà, et vous fait passer de « je veux essayer un modèle local » à un modèle en cours d'exécution en environ deux minutes. Ce n'est pas l'option la plus rapide sous charge intensive, et un modèle local ne battra pas le meilleur frontier du cloud sur les problèmes les plus difficiles — mais comme rampe d'accès à l'IA locale, rien d'autre ne s'en rapproche. Si vous commencez, commencez ici.