Ollama Cloud erklärt: Cloud-Modelle, Pläne und Self-Hosting

„Ollama Cloud“ bedeutet jetzt zwei verschiedene Dinge. Das erste ist Ollama’s eigener Dienst: Cloud-Modelle die auf Ollama’s Servern laufen, bezahlt pro Token oder durch einen monatlichen Plan, den du über die Ollama App, die CLI oder eine API erreichst, die das gleiche /api/chat Anforderungsformat wie lokales Ollama nutzt. Das zweite ist Self-Hosting: Das Ausführen des Open-Source-Ollama-Servers auf einer GPU-Instanz, die du von AWS, Google Cloud, Azure oder einem anderen Anbieter mietest, bezahlt pro Stunde. Diese Anleitung behandelt beide, wie ihre Kosten im Vergleich zu lokalen GPUs und gehosteten APIs sind und was du an Datenschutz und Kontrolle aufgibst.

Was Ollama Cloud bedeutet

Wenn Menschen „Ollama Cloud“ sagen, meinen sie eines von drei Dingen:

1. Ollama’s eigene Cloud-Modelle: ein von Ollama verwalteter gehosteter Dienst. Die Modelle laufen auf Ollama’s Infrastruktur, die laut deren Preisseite hauptsächlich in den USA ansässig ist, und du zahlst pro Token oder durch einen monatlichen Plan. Der nächste Abschnitt behandelt das.
2. Selbst gehostetes Ollama auf Cloud-VMs: Sie mieten eine virtuelle Maschine mit GPU von AWS EC2, Google Compute Engine, Azure, Lambda Labs oder RunPod, installieren Ollama selbst und führen Modelle dort aus. Sie verwalten die Instanz selbst, kaufen jedoch keine Hardware.
3. Verwaltete Ollama-Dienste: Drittanbieter-Plattformen, die Ollama vorinstalliert haben, Skalierung handhaben und dich pro Anfrage oder pro Minute berechnen. Diese sind seltener und typischerweise auf Basis des Self-Hosting-Ansatzes aufgebaut.

Alle drei kontrastieren mit dem Ausführen Ollama lokal auf deinem eigenen Desktop oder Server. Wenn du Self-Hosting betreibst, bleiben die Ollama-Binärdatei, die Modellbibliothek, die CLI und die API identisch und nur der Ausführungsort ändert sich; Ollama’s eigene Cloud bietet seine eigene Liste von gehosteten Modellen.

Ollama’s offizielle Cloud-Modelle

Ollama’s Cloud-Dokumentation beschreibt Cloud-Modelle als eine Möglichkeit, Modelle auf Ollama’s Servern von deinen Apps oder deinem Terminal aus auszuführen, ohne sie zuvor herunterzuladen. Es gibt zwei Wege:

• Über die Ollama App oder CLI. Ausführen Ollama (oder öffne die App), folge den Setup-Anweisungen und melde dich an. Cloud-Modelle tragen ein Cloud-Tag; das Beispiel der Dokumentation ist gemma4:cloud.
• Direkt über die API. Erstelle einen Schlüssel auf ollama.com/settings/keys, setze ihn als OLLAMA_API_KEY, and send requests to https://ollama.com/api/chat und sende Anfragen an mit einem Authorization: Bearer message.contentmessage.content und Modellnamen stammen vonhttps://ollama.com/api/tags. Ollama gibt an, dass auch OpenAI- und Anthropic-kompatible Clients funktionieren, mit teilweiser API-Abdeckung.

export OLLAMA_API_KEY="your_api_key"
curl https://ollama.com/api/chat -H "Authorization: Bearer $OLLAMA_API_KEY" -H "Content-Type: application/json" -d '{"model": "gemma4:31b", "messages": [{"role": "user", "content": "Hello"}], "stream": false}'

Pläne auf Ollama’s Preisseiteaufgelistet, überprüft am 6. November 2026 (US-Dollar):

Plan	Preis	Enthaltene Cloud-Nutzung	Gleichzeitige Anfragen
Pay-as-you-go	$0, kein Abonnement	Zahlung pro Token mit Nutzungsguthaben	3
Pro	$20/Monat oder $200/Jahr	$60 Nutzungsguthaben pro Monat	3
Max	$100/Monat	$300 Nutzungsguthaben pro Monat	10
Team (Früher Zugang)	$500/Monat	$1.000 Nutzungsguthaben pro Monat, geteilt vom Team	10
Enterprise	Individuell	Mengenrabatt	Nicht angegeben

Enthaltene Nutzung wird jeden Monat zurückgesetzt und rollt nicht über. Anfragen über dein Parallelitätslimit warten in einer Warteschlange mit fester Größe und werden abgelehnt, wenn diese voll ist, und das Ausführen von Modellen auf deiner eigenen Hardware bleibt unbegrenzt. Datenschutz betreffend sagt Ollama’s Dokumentation, dass es Cloud-Prompts und -Antworten verarbeitet, um deine Anfragen zu beantworten, und sie nicht zum Trainieren von Modellen nutzt. Falls du nur lokale Modelle möchtest, erklärt Ollama’s Häufig gestellte Fragen (FAQ) wie man die Cloud-Funktionen ausschaltet.

Self-gehostetes Ollama auf einer Cloud-VM vs. lokales Ollama

Dimension	Lokales Ollama	Cloud-basiertes Ollama
Hardwarekosten	Vorabkauf der GPU	Stundliche Miete; der Satz hängt von der GPU, Region und Tier ab (siehe den Preisabschnitt)
Inferenzgeschwindigkeit	Hängt von Ihrer GPU ab; keine Netzwerklatenz	Hängt von der gemieteten GPU ab; fügt einen Netzwerk-Roundtrip zu jeder Anfrage hinzu
Datenschutz	Eingabeaufforderungen verlassen niemals Ihren Rechner	Eingabeaufforderungen und Antworten werden über das Netzwerk übertragen; der Cloud-Anbieter sieht Metadaten des Datenverkehrs
Skalierung	Durch Ihre Hardware fest vorgegeben	Größere oder zusätzliche Instanzen bei Bedarf starten
Wartung	Sie verwalten Betriebssystem, Treiber und Ollama-Updates	Sie verwalten die VM (bei selbst gehosteter Lösung) oder die Plattform übernimmt dies (bei verwalteten Diensten)
Verfügbarkeit	An die Betriebszeit Ihres Rechners gebunden	Immer aktiv, solange Sie die Instanz laufen lassen; Sie bezahlen auch für Leerlaufzeit

Die funktionale Erfahrung ist identisch. Ein Skript, das curl http://localhost:11434/api/generate aufruft, funktioniert unverändert, wenn Sie localhost durch die IP-Adresse Ihrer Cloud-Instanz ersetzen.

Kompatibilität von CLI und API

Ollamas CLI und REST-API sind transportunabhängig. Um die CLI auf eine Cloud-Instanz statt auf einen lokalen Server auszurichten:

export OLLAMA_HOST=http://203.0.113.42:11434
ollama run llama3.1:8b

Ersetzen Sie 203.0.113.42 durch die öffentliche IP-Adresse Ihrer Cloud-VM. Das Modell wird auf die Cloud-Instanz heruntergeladen und die Inferenz erfolgt dort. Ihr Terminal streamt die Antworten über das Netzwerk zurück.

Für API-Clients ändern Sie die Basis-URL:

curl http://203.0.113.42:11434/api/generate -d '{
  "model": "llama3.1:8b",
  "prompt": "Erkläre neuronale Netze in einem Satz."
}'

Alle Endpunkte (/api/generate, /api/chat, /api/embeddings) verhalten sich identisch. Client-Bibliotheken (Python, JavaScript, Go) akzeptieren einen benutzerdefinierten Host-Parameter:

import ollama
client = ollama.Client(host='http://203.0.113.42:11434')
response = client.chat(model='llama3.1:8b', messages=[...])

Es sind keine Codeänderungen erforderlich – außer der Anpassung der Endpunkt-URL.

Welche Modelle verfügbar sind

Wenn Sie selbst hosten, funktioniert jedes Modell in der Ollama-Bibliothek auf einer Cloud-Instanz. Das Ollama-Modellliste umfasst Llama 3.1, Mistral, Gemma 2, Qwen, Phi, DeepSeekund Dutzende weitere Modelle. Die Verfügbarkeit von Modellen ist nicht davon abhängig, wo Ollama ausgeführt wird.

Die einzige Einschränkung ist der GPU-VRAM. Eine Cloud-Instanz mit einer NVIDIA L4 (24 GB VRAM) kann dieselben quantisierten Modelle ausführen wie eine lokale RTX 4090. Eine kleinere Instanz mit 16 GB VRAM ist auf kleinere Modelle oder stärker quantisierte Versionen beschränkt – genau wie bei lokaler Hardware. Nutzen Sie den VRAM-Rechner um den geeigneten Instanztyp für ein bestimmtes Modell und Quantisierungslevel zu ermitteln.

Preisgestaltung: Cloud versus lokal versus API-Dienste

Cloud-GPU-Preise ändern sich häufig und unterscheiden sich je nach Region und Tier (On-Demand, Spot oder Community). Überprüfen Sie daher die eigene Preisseite des Anbieters, bevor Sie Ihr Budget planen. Zwei Beispiele, überprüft am 6. November 2026:

• RunPod: seine Preisseite listet einen RTX 4090 (24 GB) Pod für $0,89 pro Stunde auf Secure Cloud und $0,34 pro Stunde auf Community Cloud auf, sowie einen A40 für $0,59 pro Stunde auf Secure Cloud.
• AWS: ein g5.xlarge Instanz hat eine NVIDIA A10G GPU mit 24 GB Speicher, ausreichend für 7B- und 8B-Modelle; der Stundensatz für Ihre Region ist auf der EC2 On-Demand-Preisseite.

Der Betrieb einer Instanz rund um die Uhr kostet ihren Stundensatz multipliziert mit etwa 730 Stunden pro Monat, sodass der oben genannte RTX 4090 Pod für $0,89 pro Stunde auf etwa $650 pro Monat kommt. Bei diesem Nutzungsniveau kann sich der Kauf einer vergleichbaren Karte selbst innerhalb weniger Monate amortisieren. Das Self-Hosting vs API Rechner analysiert dies für verschiedene Nutzungsprofile.

Der Break-even-Punkt verschiebt sich je nach Auslastung:

• Intensive Nutzung (8+ Stunden/Tag): Lokale Hardware amortisiert sich innerhalb weniger Monate.
• Gelegentliche Nutzung (einige Stunden/Woche): Cloud-Instanzen sind hier günstiger; Sie zahlen nur für die tatsächlich genutzten Stunden.
• Spitzenlasten (Burst workloads): Mit der Cloud können Sie kurzfristig eine High-End-GPU mieten, ohne sie kaufen zu müssen.

Vergleichen Sie dies mit gehosteten API-Diensten wie OpenAI, Anthropic oder Groq, die pro Token berechnen. Gehostete APIs bedienen auch kleine Open-Source-Modelle wie Llama 3.1 8B, und ihre Pro-Token-Sätze unterscheiden sich stark zwischen den Anbietern. Ob das billiger ist als Cloud Ollama, hängt von Ihrem Anfragevolumen und der durchschnittlichen Antwortlänge ab. Das API-Kostenrechner gliedert die Kosten nach Modell und monatlichem Verbrauch auf.

Datenschutz und Datenkontrolle

Wenn Sie Ollama lokal ausführen, verlassen Ihre Eingabeaufforderungen (Prompts), Modellausgaben und alle verarbeiteten Dokumente niemals Ihren Rechner. Dies ist entscheidend für regulierte Branchen (Gesundheitswesen, Rechtswesen, Finanzdienstleistungen) oder proprietäre Daten.

Der Betrieb von Ollama auf einer Cloud-VM birgt folgende Risiken:

• Netzwerkübertragung: Prompts und Antworten werden zwischen Ihrem Client und der Cloud-Instanz übertragen – möglicherweise über das öffentliche Internet, es sei denn, Sie nutzen ein VPN oder ein privates Netzwerk.
• Zugriff des Cloud-Anbieters: AWS, Google und Azure haben technischen Zugriff auf den Arbeitsspeicher und den Datenträger Ihrer VM. Zwar verpflichten sie sich vertraglich dazu, Kundendaten nicht zu prüfen, doch bleibt die Möglichkeit theoretisch bestehen.
• Protokolle und Metadaten: Cloud-Anbieter protokollieren Netzwerkverbindungen, API-Aufrufe an ihre Verwaltungs-APIs sowie Abrechnungsereignisse. Diese Protokolle offenbaren, wann Sie Inferenzvorgänge durchführen und wie viel Rechenleistung Sie nutzen – selbst wenn der Inhalt der Prompts nicht erfasst wird.
• Datenresidenz: Ihre VM läuft in einer bestimmten AWS-Region oder GCP-Zone. Falls Ihr Compliance-Rahmen die physische Lage Ihrer Daten einschränkt, müssen Sie entsprechend eine passende Region wählen.

Falls Ihr Bedrohungsmodell staatliche Akteure oder gerichtliche Vorladungen an Cloud-Anbieter umfasst, ist lokale Inferenz die einzige sichere Option. Wenn Sie hingegen primär Kosten und Komfort optimieren und Ihre Daten nicht sensibel sind, stellt Cloud-Hosting eine durchaus praktikable Alternative dar.

Wann Cloud statt lokaler Hardware wählen

Auswählen Cloud-basiertes Ollama wenn:

• Sie Zugriff auf Sprachmodelle benötigen, aber keine GPU besitzen und die Anschaffungskosten einer leistungsstarken GPU nicht rechtfertigen können.
• Ihre Nutzung ist gelegentlich – einige Stunden pro Woche oder Monat – und Sie bevorzugen es, nur für die tatsächlich genutzte Rechenleistung zu bezahlen.
• Sie benötigen vorübergehend mehr Rechenkapazität für einen umfangreichen Batch-Job und wollen danach wieder herunterskalieren.
• Sie befinden sich in der Prototyp-Phase und möchten verschiedene GPU-Typen (16 GB, 24 GB, 40 GB) testen, bevor Sie sich für eine Hardwareentscheidung festlegen.
• Sie entwickeln einen Dienst, der eine durchgängige Verfügbarkeit (24/7) und Redundanz erfordert, wobei der Betrieb eigener Serverhardware nicht machbar ist.

Auswählen Lokales Ollama wenn:

• Sie besitzen bereits eine GPU mit mindestens 12 GB VRAM oder sind bereit, eine solche anzuschaffen.
• Sie führen täglich mehrere Stunden lang Inferenzvorgänge durch; die Hardware amortisiert sich daher rasch.
• Datenschutz ist unverzichtbar – Ihre Daten dürfen Ihren lokalen Standort nicht verlassen.
• Sie möchten keine Kosten pro Anfrage und stattdessen planbare, vorhersehbare Ausgaben.
• Sie arbeiten offline oder in einem Netzwerk mit eingeschränktem ausgehenden Zugriff.

Der Self-Hosting vs API Rechner ermöglicht es Ihnen, Ihre erwartete monatliche Nutzung einzugeben (Stunden der Inferenz, Anzahl der Anfragen, durchschnittliche Token pro Anfrage) und die Kosten für den Kauf einer GPU, das Mieten einer Cloud-Instanz oder die Nutzung eines gehosteten API-Diensts zu vergleichen. Führen Sie es mit Ihren eigenen Zahlen aus, bevor Sie mieten oder kaufen.

Einrichten von Ollama auf einer Cloud-Instanz

Der Vorgang ist bei allen Anbietern identisch: Starten Sie eine GPU-Instanz, stellen Sie per SSH eine Verbindung her, installieren Sie Ollama und öffnen Sie Port 11434.

AWS EC2

1. Starten Sie eine g5.xlarge oder g5.2xlarge -Instanz (Ubuntu 22.04 LTS, NVIDIA A10G-GPU).
2. Stellen Sie per SSH eine Verbindung zur Instanz her: ssh -i your-key.pem ubuntu@<instance-ip>
3. Installieren Sie Ollama: curl -fsSL https://ollama.com/install.sh | sh
4. Starten Sie Ollama: ollama serve (oder richten Sie es als systemd-Service ein).
5. Laden Sie ein Modell herunter: ollama pull llama3.1:8b
6. Konfigurieren Sie die Sicherheitsgruppe so, dass eingehender TCP-Verkehr auf Port 11434 von Ihrer IP-Adresse zugelassen wird.

Google Cloud Platform

1. Erstellen Sie eine Compute Engine-VM mit einer T4- oder A100-GPU (wählen Sie eine GPU-fähige Maschinenfamilie aus).
2. Stellen Sie per SSH über die GCP-Konsole oder gcloud compute ssh.
3. Installieren Sie Ollama: curl -fsSL https://ollama.com/install.sh | sh
4. Starten Sie Ollama: ollama serve
5. Aktualisieren Sie die Firewall-Regeln, um TCP 11434 aus Ihrem IP-Bereich zuzulassen.

Lambda Labs oder RunPod

1. Mieten Sie eine Instanz mit einer RTX 4090 oder einer A10.
2. Stellen Sie über SSH eine Verbindung mit den bereitgestellten Anmeldedaten her.
3. Installieren Sie Ollama: curl -fsSL https://ollama.com/install.sh | sh
4. Starten Sie Ollama und laden Sie Modelle wie oben beschrieben herunter.

Für den Produktiveinsatz führen Sie Ollama als systemd-Dienst aus, damit er nach einem Neustart automatisch neu gestartet wird, und verwenden Sie bei öffentlicher Erreichbarkeit einen Reverse-Proxy (Nginx oder Caddy) mit TLS.

Beliebiger Anbieter: Das offizielle Docker-Image

Auf jedem GPU-Host, auf dem Docker läuft, wird Ollama mit dem Docker-Handbuch den Server mit einem Befehl gestartet, sobald das NVIDIA Container Toolkit installiert und Docker für die Verwendung des NVIDIA-Treibers konfiguriert ist:

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

Das benannte Volume behält heruntergeladene Modelle bei, wenn der Container ersetzt wird. Wenn Sie Port 11434 über den Host hinaus freigeben, stellen Sie eine Authentifizierung davor, wie in der Sicherheitsfrage unten beschrieben.

Leistungsaspekte

Cloud-Instanzen fügen Netzwerkverzögerungen hinzu. Eine Cloud-Instanz addiert die Roundtrip-Zeit von Ihrem Computer zum Rechenzentrum zu jeder Anfrage, und diese Verzögerung wächst mit der Entfernung. Wählen Sie daher eine Region in Ihrer Nähe und der Ihrer Benutzer. Für interaktiven Chat ist dies spürbar, aber nicht lähmend. Für Batch-Workloads ist es vernachlässigbar.

Die Geschwindigkeit der Tokengenerierung hängt von der GPU ab, nicht vom Standort. Eine A10G in AWS generiert Tokens genauso schnell wie eine A10G auf Ihrem Schreibtisch. Allerdings können sogenannte „noisy neighbors“ (andere virtuelle Maschinen auf demselben physischen Host) die Leistung beeinträchtigen. Dedizierte Instanzen oder Bare-Metal-GPU-Mietverträge eliminieren diesen Effekt, sind jedoch teurer.

Zwei Einstellungen sind wichtiger als der Anbieter. Die erste ist die Kontextlänge: Ollama Häufig gestellte Fragen (FAQ) gibt die Standard-Kontextfenster als 4096 Token an und zeigt, wie man es für den ganzen Server mit OLLAMA_CONTEXT_LENGTH=8192 ollama serveoder pro Modell mit dem num_ctx Parameter erhöht (siehe die Modelfile-Referenz). Ein größeres Fenster verbraucht mehr VRAM. Die zweite ist, wo ein Modell tatsächlich geladen wird, was ollama ps zeigt: gemäß derselben FAQ zeigt die Processor-Spalte eine Aufteilung wie 48%/52% CPU/GPU, wenn ein Teil des Modells nicht auf der GPU passte, was die Generierung stark verlangsamt. Spot- oder preemptible Instanzen kosten weniger als On-Demand-Instanzen, können aber kurzfristig zurückgefordert werden. Behalten Sie sie daher für Batch-Jobs, die neu gestartet werden können.

Häufig gestellte Fragen

Gibt es einen offiziellen Ollama-Cloud-Service?

Ja. Ollama betreibt seine eigenen Cloud-Modelle, die Sie nach der Anmeldung über die Ollama-App oder CLI oder über die API unter https://ollama.com/api/chat mit einem API-Schlüssel verwenden können. Sein Preisseite (überprüft am 6. November 2026) bietet nutzungsabhängige Zahlung ohne Abonnement sowie Pro- ($20 pro Monat) und Max- ($100 pro Monat) Pläne, die monatliche Nutzungsguthaben einschließen. Sie können den Open-Source-Server immer noch selbst auf einer gemieteten GPU hosten.

Kann ich dieselben Modelle in der Ollama Cloud verwenden wie lokal?

Bei einer selbst gehosteten Cloud-Instanz ja: Jedes Modell, das Sie mit ollama pull lokal abrufen, funktioniert dort. Ollamas eigene Cloud hat eine separate Liste gehosteter Modelle, veröffentlicht auf und Modellnamen stammen von. Die einzige Einschränkung ist VRAM: Stellen Sie sicher, dass Ihre Cloud-GPU genug Speicher für das Modell und die Quantisierungsstufe hat, die Sie möchten. Prüfen Sie VRAM-Anforderungen nach Modell , um Modelle passenden Instanztypen zuzuordnen.

Wie sichere ich Ollama auf einer Cloud-Instanz ab?

Standardmäßig lauscht Ollama auf 127.0.0.1:11434, was von außerhalb der VM nicht zugänglich ist. Um Ollama extern zugänglich zu machen, setzen Sie OLLAMA_HOST=0.0.0.0:11434 vor dem Starten des Servers. Beschränken Sie anschließend den Zugriff über die Firewall-Regeln Ihres Cloud-Anbieters (AWS-Sicherheitsgruppen, GCP-Firewall-Regeln), sodass nur Ihre IP-Adresse oder Ihr VPN Zugriff erhalten. Für den Produktiveinsatz platzieren Sie Ollama hinter einem Reverse-Proxy mit TLS und Authentifizierung (HTTP-Basic-Auth, API-Schlüssel oder OAuth). Exponieren Sie niemals einen nicht authentifizierten Ollama-Server gegenüber dem öffentlichen Internet – dies würde jedem ermöglichen, beliebige Modelle auf Ihre Kosten auszuführen.

Was ist kostengünstiger: Ollama auf einer Cloud-GPU oder die Nutzung der OpenAI-API?

Es hängt von der Nutzung ab. Eine gemietete GPU kostet pro Stunde gleich viel, ob sie beschäftigt oder untätig ist. Ihre Kosten pro Million Token sind daher der Stundensatz geteilt durch die Millionen Token, die sie tatsächlich in dieser Stunde generiert. Bei vielen Anfragen beschäftigt, kann sie Pro-Token-API-Preise für Modelle gleicher Größe unterbieten; schwach genutzt, kostet jedes Token viel mehr als auf einer API, die nur für das berechnet, was Sie verwenden. Gehostete APIs handhaben auch Skalierung, Verfügbarkeit und Modellaktualisierungen für Sie. Verwenden Sie die Self-Hosting vs API Rechner , um Ihre spezifische Arbeitslast zu modellieren.

Verringert der Betrieb von Ollama in der Cloud meine Datensicherheit?

Ja, im Vergleich zur vollständig lokalen Inferenz. Ihre Eingabeprompts und Modellausgaben werden über das Netzwerk übertragen und landen auf einer VM, auf die der Cloud-Anbieter Root-Zugriff hat. Falls Datenschutz kritisch ist – etwa bei HIPAA-geschützten Gesundheitsdaten, rechtlichen Dokumenten unter Anwaltsgeheimnis oder proprietärem Quellcode – führen Sie Ollama lokal aus. Falls Ihre Daten nicht sensibel sind oder Sie den vertraglichen Zusicherungen Ihres Cloud-Anbieters vertrauen, stellt der Cloud-Betrieb einen angemessenen Kompromiss aus Kosten und Komfort dar.

Kann ich mehrere Modelle auf einer Cloud-Instanz gleichzeitig ausführen?

Ja, solange die Instanz genügend VRAM besitzt, um alle Modelle gleichzeitig im Speicher zu halten. Ollama lädt Modelle bei Bedarf und behält sie im VRAM, bis Speicherdruck sie wieder entfernt. Eine 24-GB-Instanz kann beispielsweise Llama 3.1 8B (ca. 8 GB bei Q8-Quantisierung) und Mistral 7B (ähnliche Größe) gleichzeitig halten. Der Wechsel zwischen bereits geladenen Modellen erfolgt sofort; das Laden eines neuen Modells von der Festplatte dauert einige Sekunden.