Systemanforderungen für Ollama im Jahr 2026: Wie viel RAM und VRAM benötigen Sie wirklich?

Der häufigste Grund dafür, dass ein Modell in Ollama nicht ausgeführt wird, ist kein Softwarefehler – vielmehr ist das Modell schlicht größer als Ihr verfügbare Speicherkapazität. Ollama selbst ist äußerst ressourcenschonend; die Modelle sind es, die hohe Hardwareanforderungen stellen. Dieser Leitfaden liefert Ihnen die realistischen RAM- und VRAM-Werte für jede Modellgröße im Jahr 2026 sowie eine einfache Formel, anhand derer Sie sofort erkennen können, ob ein Modell auf Ihrem System Platz findet. vor Sie zehn Minuten damit verbringen, etwas herunterzuladen, das sich anschließend nicht laden lässt.

Falls Sie Ollama noch nicht installiert haben, beginnen Sie mit unserem Schritt-für-Schritt-Installationsanleitung.

Warum der Speicher die entscheidende Größe ist

Um Text zu generieren, müssen die Gewichte eines Modells im schnellen Speicher residieren – entweder in der VRAM Ihrer GPU oder im Systemspeicher (RAM), falls Sie auf der CPU ausführen. Passt das Modell nicht vollständig hinein, tritt einer von zwei Fällen ein: Ollama verschiebt einen Teil des Modells in langsameren Speicher (wodurch die Leistung drastisch einbricht), oder es lehnt das Laden mit einer „Out-of-Memory“-Fehlermeldung ab. Alle anderen Faktoren – CPU-Taktfrequenz, Festplattengeschwindigkeit, Betriebssystem – spielen im Vergleich zur Verfügbarkeit des richtigen Speichers eine deutlich geringere Rolle.

Zwei Faktoren bestimmen die Speicheranforderung:

1. Parameteranzahl – Ein 7B-Modell besitzt 7 Milliarden Gewichte; ein 70B-Modell hat zehnmal so viele.
2. Quantisierung – Ollama nutzt komprimierte GGUF-Gewichte. Eine 4-Bit-Quantisierung (Q4) halbiert den Speicherbedarf nahezu gegenüber einer 8-Bit-Darstellung, ohne nennenswerten Qualitätsverlust – daher stellt Q4 den Standard-„Sweet Spot“ dar.

Die einfache Formel

Für ein 4-Bit-quantisiertes Modell – also das Format, das Ollama standardmäßig herunterlädt – gilt folgende Abschätzung:

Benötigter Speicher ≈ (Parameteranzahl in Milliarden) × 0,6 GB + Kontext-Puffer

Ein 7B-Modell benötigt demnach etwa 4–5 GB, ein 13B-Modell rund 8 GB, ein 27B-Modell ca. 18–20 GB und ein 70B-Modell mindestens 40 GB. Hinzu kommt ein gewisser Puffer für den sogenannten KV-Cache, dessen Größe mit der Länge Ihrer Konversation zunimmt. Behalten Sie stets einige Gigabyte freien Speicher für Ihr Betriebssystem vor.

Anforderungen nach Modellgröße

Für eine detailliertere Aufschlüsselung nach konkreten Modellen siehe unseren Leitfaden zu VRAM-Anforderungen für alle wichtigen Sprachmodelle.

GPU vs. CPU vs. Apple Silicon

NVIDIA-GPU — der Goldstandard. Die VRAM-Kapazität ist die harte Grenze: Das Modell muss vollständig in den Speicher Ihrer Grafikkarte passen, um schnell zu laufen. Eine 24-GB-Karte (RTX 4090/5090) bewältigt problemlos Modelle mit ca. 27–34 Mrd. Parametern.

Nur CPU — funktioniert für kleine Modelle (2–8 Mrd.), ist jedoch deutlich langsamer, da die Bandbreite des Systemspeichers einer GPU nicht vergleichbar ist. Für leichte Aufgaben auf einem Laptop ohne dedizierte GPU ist dies durchaus ausreichend.

Apple Silicon — ein Sonderfall – und zwar ein sehr guter. Da Macs einen vereinigter Arbeitsspeicher zwischen CPU und GPU gemeinsam genutzten Speicher verwenden, kann ein Mac mit 64 GB Modelle laden, für die ansonsten ein teures Multi-GPU-PC erforderlich wäre. Seit Ollama v0.19 (März 2026) mit dem MLX-Backend auch deutlich beschleunigt wurde, zählt ein Mac mit viel Arbeitsspeicher heute zu den besten Einzelgeräten für lokale LLMs am Markt. Wie sich das im Vergleich zu einer dedizierten GPU schlägt, erfahren Sie in Strix Halo vs. Apple M4 Pro.

AMD-GPU — wird über ROCm unterstützt. Für Inferenz-Aufgaben funktioniert sie 2026 gut; aktuelle Informationen finden Sie in unserem Vergleich ROCm vs. CUDA Ratgeber zu AMD-GPUs.

Wie Sie ein großes Modell trotzdem zum Laufen bringen

Falls das gewünschte Modell knapp über Ihrer verfügbaren Speicherkapazität liegt, gibt es noch Alternativen, bevor Sie aufgeben müssen:

• Verwenden Sie eine stärker quantisierte Variante — laden Sie stattdessen eine q4 oder sogar q3 -Variante statt einer q8-Version. Dabei opfern Sie geringfügig an Qualität, sparen aber erheblich Speicherplatz.
• Wählen Sie ein kleineres Modell — ein gut ausgewähltes 8-Mrd.-Modell übertrifft oft ein kaum lauffähiges, ausgelagertes 27-Mrd.-Modell.
• Verkürzen Sie das Kontextfenster — ein kleineres Kontextfenster benötigt weniger Speicher für den KV-Cache.
• Schließen Sie andere Anwendungen — bei CPU- oder einheitlichem Speichersystem ist freier Arbeitsspeicher Ihr Budget.

Um ein Modell passend zu Ihrer Hardware auszuwählen, lesen Sie den Abschnitt Beste lokale große Sprachmodelle für den Betrieb mit Ollama.

Speicher- und Softwarevoraussetzungen, an die man oft nicht denkt

RAM und VRAM stehen im Fokus, doch zwei weniger offensichtliche Voraussetzungen führen häufiger zu Problemen bei der Erstinstallation als alles andere: ausreichender Festplattenspeicher und der zugrundeliegende Softwarestack. Wer hier Fehler macht, sieht entweder eine fehlgeschlagene Ollama-Installation oder einen Abbruch während des Modell-Downloads.

Festplattenspeicher. Die Ollama-Binärdatei selbst ist klein – rechnen Sie mit etwa 4 GB für die Installation. Die Modelle sind es jedoch, die Ihren Speicherplatz verschlingen. Jedes Modell wird einmal heruntergeladen und auf der Festplatte zwischengespeichert, bevor es zur Laufzeit in den Arbeitsspeicher geladen wird. Daher benötigen Sie genügend Platz für die vollständigen Gewichte zusätzlich zu Ihrem verfügbaren freien Speicher. Als grobe Orientierung bei üblicher 4-Bit-Quantisierung gilt:

• Ein 8B-Modell (e.g. Llama 3.1 8B): about 5 GB on disk.
• Ein Modell der 20B-Klasse: ca. 12–14 GB.
• Ein 70B-Modell: ca. 40 GB.
• Ein sehr großes MoE-Modell (Llama-4-Klasse): 65 GB oder mehr.

Diese Werte summieren sich rasch: Eine lockere Sammlung einiger Modelle liegt bereits bei 30–80 GB; halten Sie mehrere große Varianten vorrätig, überschreiten Sie ohne Weiteres die Marke von 200 GB. Eine 512-GB-SSD ist daher eine sinnvolle Mindestanforderung, wenn Sie Modelle sammeln möchten.

Verwenden Sie eine SSD, idealerweise NVMe. Da die Gewichte bei jedem ersten Laden eines Modells von der Festplatte in den Arbeitsspeicher oder die VRAM gelesen werden, zeigt sich ein langsamer mechanischer Datenträger unmittelbar als träge Startphase – ein 40-GB-Modell lädt sich quälend langsam von einer rotierenden Festplatte. Schneller Speicher beeinflusst zwar nicht die Token-Pro-Sekunde nach dem Laden des Modells, sorgt aber dafür, dass die erste Anfrage sofort beantwortet wird statt nach einer 30-sekündigen Verzögerung.

Betriebssystem und Treiber. Ollama läuft nativ auf allen drei Plattformen, doch jede hat ihre Mindestanforderungen:

• macOS: Version 11 (Big Sur) oder neuer, sowohl auf Apple Silicon als auch auf Intel-Prozessoren.
• Windows: Windows 10, Version 22H2 oder neuer (Home oder Pro), auf x86_64 und ARM64 – Snapdragon-Geräte laufen daher nativ, ohne x86-Emulation.
• Linux: die meisten gängigen Distributionen (Ubuntu 18.04+, Debian, Fedora, RHEL, Arch).

Für GPU-Beschleunigung benötigen Sie zudem aktuelle Treiber: einen aktuellen NVIDIA-Treiber – Version 531 oder neuer (bzw. 570 oder neuer für ältere Maxwell- und Pascal-Grafikkarten) für CUDA oder einen Vulkan-fähigen bzw. ROCm-v7-Treiberstack für AMD Radeon. Fehlt der passende Treiber, wechselt Ollama stumm zur CPU-Ausführung – dies ist der häufigste Grund dafür, dass ein Rechner mit einer „guten GPU“ dennoch langsam läuft.

Häufig gestellte Fragen (FAQ)

Wie viel Arbeitsspeicher benötige ich für Ollama?

Das hängt ausschließlich vom jeweiligen Modell ab. Ollama selbst benötigt praktisch keine Ressourcen; das Modell bestimmt den Speicherbedarf. Als Faustregel gilt: Ein 4-Bit-Modell benötigt etwa 0,6 GB pro Milliarde Parameter – also ca. 4–5 GB für ein 7-Mrd.-Modell, ca. 8 GB für ein 13-Mrd.-Modell und 40 GB oder mehr für ein 70-Mrd.-Modell. Behalten Sie stets einige Gigabyte frei für Ihr Betriebssystem.

Kann ich Ollama ohne GPU betreiben?

Ja. Kleine Modelle (2–8 Mrd.) laufen problemlos auf der CPU, allerdings langsamer als auf einer GPU. Ein Modell wie Gemma2 2B benötigt nur etwa 1,7 GB Arbeitsspeicher und funktioniert auch auf einfachen Laptops. Für Modelle über ca. 13 Mrd. Parametern macht eine GPU oder Apple Silicon mit einheitlichem Speicher jedoch einen spürbaren Unterschied.

Wie viel VRAM benötige ich für ein 7-Mrd.-Modell?

Etwa 6–8 GB für ein 4-Bit-quantisiertes 7-Mrd.-Modell inklusive etwas Puffer für den Kontext. Das passt problemlos in die meisten Einstiegs-Grafikkarten sowie in Laptops mit 16 GB einheitlichem oder Systemspeicher.

Warum läuft Ollama so langsam?

Fast immer deshalb, weil das Modell nicht vollständig in die VRAM-Kapazität Ihrer GPU passt und Teile daher in den Systemspeicher oder auf die CPU ausgelagert werden müssen. Prüfen Sie dies mit ollama ps — zeigt die Ausgabe hohe CPU-Auslastung an, wechseln Sie zu einem kleineren Modell oder einer stärker quantisierten Version, damit das gesamte Modell im schnellen Speicher Platz findet.

Ist ein Mac gut geeignet, um Ollama auszuführen?

Ja, oft ausgezeichnet. Der einheitliche Arbeitsspeicher von Apple Silicon ermöglicht es einem Mac mit 64 GB RAM, Modelle auszuführen, für die sonst ein teurer Multi-GPU-Rechner erforderlich wäre; zudem sorgt der MLX-Backend (seit v0.19) für hohe Geschwindigkeit. Ein Mac mit großem Arbeitsspeicher gehört 2026 zu den besten Einzelmaschinen-Optionen für lokale LLMs. that would otherwise need a costly multi-GPU PC, and the MLX backend (since v0.19) made it fast too. A high-memory Mac is one of the best single-machine options for local LLMs in 2026.

Wie viel Festplattenspeicher benötige ich für Ollama?

Plan for about 4 GB for the Ollama install itself, then add the size of each model you pull. At 4-bit quantization an 8B model is roughly 5 GB, a 70B is around 40 GB, and the largest models exceed 65 GB. A typical multi-model setup lands between 30 and 80 GB, so a 512 GB SSD is a comfortable starting point. An SSD (preferably NVMe) is strongly recommended, because models load off disk every time you first run them.

Wo speichert Ollama Modelle ab, und kann ich sie auf ein anderes Laufwerk verschieben?

Standardmäßig speichert Ollama heruntergeladene Modelle in einem versteckten Ordner im Home-Verzeichnis – ~/.ollama unter macOS und Linux sowie %HOMEPATH%.ollama unter Windows. Falls Ihre Systemfestplatte zu klein ist, können Sie den Speicherort auf eine größere oder externe Festplatte umleiten, indem Sie die Umgebungsvariable OLLAMA_MODELS vor dem Start von Ollama auf einen neuen Pfad setzen. Dies ist die sauberste Lösung, wenn Ihr Systemlaufwerk keinen freien Speicherplatz mehr bietet.

Welche Betriebssysteme unterstützt Ollama?

Ollama läuft nativ unter macOS 11 (Big Sur) oder neuer, Windows 10, Version 22H2 oder neuer (64-Bit, inklusive ARM64-Geräte wie Snapdragon-Laptops) sowie den meisten modernen Linux-Distributionen wie Ubuntu 18.04+, Fedora und Arch. Für GPU-Beschleunigung benötigen Sie zudem einen aktuellen Treiber – einen aktuellen NVIDIA-Treiber für CUDA oder einen ROCm-/Vulkan-fähigen Treiber für AMD – andernfalls erfolgt die Ausführung ausschließlich auf der CPU.

Fazit

Bevor Sie irgendetwas herunterladen, führen Sie kurz die Rechnung durch: Parameteranzahl × 0,6 GB für ein 4-Bit-Modell plus Reserve. Passen Sie das Ergebnis an Ihre VRAM-Kapazität (NVIDIA/AMD) oder Ihren einheitlichen Speicher (Apple) an – dann vermeiden Sie frustrierende „Out-of-Memory“-Fehler für immer. Wenn Sie unsicher sind, beginnen Sie mit einem Modell, das eine Stufe kleiner ist, als Sie denken: Ein Modell, das gut passt und flott läuft, ist besser als ein größeres, das nur mühsam vorankommt.