Was ist LM Studio?

LM Studio ist eine kostenlose, quelloffene Desktop-Anwendung, mit der Sie quelloffene große Sprachmodelle vollständig auf Ihrem eigenen Computer herunterladen und ausführen können. Sie ist für Windows, macOS und Linux erhältlich, bündelt Inferenz-Engines (llama.cpp auf allen Plattformen, MLX auf Apple Silicon), bietet eine ChatGPT-ähnliche GUI und stellt einen OpenAI-kompatiblen REST-Server auf localhost:1234 bereit, sodass Anwendungen, die gegen das OpenAI SDK geschrieben wurden, unverändert mit einem lokalen Modell kommunizieren können.

Die App wird vom Team hinter lmstudio.aientwickelt. Sie ist kostenlos für den persönlichen Gebrauch und, gemäß der Seite des Anbieters zum Geschäftseinsatz, auch kostenlos für die Nutzung bei der Arbeit; kommerzielle Weitergabe hat eigene Bedingungen.

Was LM Studio eigentlich tut

LM Studio kombiniert vier Dinge, die sonst separate Tools wären:

• Modellentdeckung. Eine integrierte Such-UI fragt Hugging Face nach GGUF und MLX Dateien ab. Sie wählen eine Quantisierung (Q4_K_M, Q5_K_M, Q6_K, Q8_0, usw.) und sie wird direkt in einen lokalen Modellordner heruntergeladen.
• Chat-UI. Ein Multi-Turn Chat-Fenster mit systemanfragen pro Gespräch, Temperature/Top-p Reglern, strukturierter Ausgabe (JSON Schema) und Unterstützung zum Anhängen von PDFs oder Bildern (letzteres nur mit visionsgestützten Modellen).
• Lokaler Inferenz-Server. Ein HTTP-Endpoint auf http://localhost:1234/v1 der die OpenAI Chat Completions, Completions und Embeddings API unterstützt. Siehe die Dokumentation des Anbieters zur OpenAI-Kompatibilität.
• CLI (lms). Ein Befehlszeilentool zum Skripten von Modellladungen, Entladungen und Server-Steuerung. Installation und Befehle sind dokumentiert unter lmstudio.ai/docs/cli.

Im Hintergrund läuft die Inferenz auf llama.cpp für GGUF Modelle und auf Apple MLX für MLX-Format Modelle auf Apple Silicon. LM Studio wird mit vorkompilierten Engine-Binärdateien ausgeliefert und ermöglicht es Ihnen, diese aus den Laufzeit-Einstellungen der App zu wechseln oder zu aktualisieren.

Unterstützte Plattformen

Plattform	Anforderungen (nach Hersteller)	Beschleunigung
Windows	x64 oder ARM64; AVX2-fähige CPU auf x64	CPU, NVIDIA CUDA, Vulkan (AMD/Intel GPUs)
macOS	Apple Silicon (M1 oder neuer), macOS 13.4+	Metal (llama.cpp) und MLX
Linux	x64, glibc 2.35+, vertrieben als AppImage	CPU, NVIDIA CUDA, Vulkan

Die aktuellen veröffentlichten Anforderungen befinden sich auf der offiziellen Download-Seite; überprüfen Sie diese vor der Installation, da die genauen Mindestanforderungen zwischen den Versionen variieren.

Windows

Das Installationsprogramm ist ein Standard- .exe. Modelle verwenden standardmäßig %USERPROFILE%\.lmstudio\models. NVIDIA GPUs nutzen CUDA, wenn eine unterstützte Runtime ausgewählt ist; andere GPUs fallen auf Vulkan zurück. AVX2 ist auf x64-CPUs erforderlich, sodass sehr alte Prozessoren ausgeschlossen sind.

macOS

Vertrieben als .dmg. Auf Apple Silicon sind MLX-Format-Modelle zusätzlich zu GGUF verfügbar und nutzen üblicherweise den einheitlichen Speicher effizient. Modelle verwenden standardmäßig ~/.lmstudio/models. Intel Macs werden von aktuellen Builds nicht unterstützt.

Linux

Ausgeliefert als .AppImage. Markieren Sie es als ausführbar (chmod +x LM-Studio-*.AppImage) und führen Sie es direkt aus. NVIDIA GPUs nutzen CUDA; AMD und Intel GPUs nutzen Vulkan. Es gibt keine offizielle .deb oder .rpm zum Zeitpunkt des Schreibens – überprüfen Sie die Download-Seite für die aktuelle Verpackung.

Was Sie in LM Studio ausführen können

LM Studio kann jedes GGUF-Modell laden, das llama.cpp unterstützt, sowie MLX-Modelle auf Apple Silicon. Was tatsächlich auf Ihrer Hardware passt, ist die Einschränkung. Ungefähre 4-Bit-VRAM-Speicherabdrücke aus dem Convly models database:

Modell	Kontext	~VRAM bei 4-Bit
Gemma 3 4B	128 K	ca. 3 GB
Mistral 7B	32K	~4,5 GB
Llama 3.1 8B	128 K	~5 GB
Qwen3 8B	128 K	~5 GB
Phi-4	16K	~9 GB
Gemma 3 12B	128 K	~8 GB
Qwen3 14B	128 K	~9 GB
Gemma 3 27B	128 K	~16 GB
Qwen3 32B	128 K	~20 GB
Llama 3.3 70B	128 K	~40 GB

Alles über etwa 40 GB erfordert Multi-GPU oder High-VRAM-Karten. Sehr große Modelle wie DeepSeek R1 (~400 GB bei 4-Bit) sind auf einer einzelnen Desktop-GPU nicht praktisch zu betreiben. Siehe den vollständigen VRAM-Anforderungstabelle und das GPU-Leitfaden für lokale LLMs vor dem Kauf von Hardware.

Der OpenAI-kompatible Server

Die nützlichste Funktion für Entwickler ist der lokale Server. Starten Sie ihn von der Entwickler Registerkarte in der GUI oder über die CLI. Nach dem Start akzeptiert er Standard-OpenAI-kompatible Anfragen:

curl http://localhost:1234/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{
    "model": "loaded-model-identifier",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

Das Python SDK funktioniert, indem es base_url auf den lokalen Server verweist:

from openai import OpenAI
client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")

Der api_key Der Wert wird standardmäßig ignoriert, aber das Feld muss vorhanden sein, da das OpenAI SDK es erfordert. Unterstützte Endpunkte und Abweichungen vom OpenAI-Schema sind in der API-Referenz.

LM Studio vs. Ollama

aufgelistet. Die beiden sind die häufigsten Möglichkeiten, um lokale LLMs auf einer Workstation auszuführen. Grobe Unterschiede:

	LM Studio	Ollama
Hauptoberfläche	Desktop-GUI (Chat, Modellbrowser)	CLI und HTTP API
Lizenz	Closed-Source-App; kostenlos für persönliche und geschäftliche Nutzung	Open Source (MIT)
Modellquelle	Hugging Face (GGUF, MLX) über die In-App-Suche	Ollama-Modellregistry (mit Import aus GGUF)
Server	OpenAI-kompatibel unter :1234	Native API unter :11434, OpenAI-kompatible Ebene
Apple Silicon MLX	Ja	Nein (nur llama.cpp)

Wenn Sie eine Point-and-Click-Benutzeroberfläche und MLX-Unterstützung auf einem Mac möchten, ist LM Studio der einfachere Ausgangspunkt. Wenn Sie einen skriptbaren Open-Source-Stack und einen Headless-Server möchten, siehe die Ollama-Leitfaden und Installationsanleitung.

Wann Sie LM Studio statt einer gehosteten API verwenden sollten

Lokale Inferenz ist ein echtes Kompromiss. Der Vorteil ist Datenschutz (nichts verlässt den Computer), vorhersehbare Kosten nach Hardwareabschreibung und Offline-Verfügbarkeit. Der Nachteil sind Kapitalkosten, langsamere Token pro Sekunde als ein gehosteter GPU-Cluster und kein Zugang zu proprietären Modellen an der Grenze.

Um ein ungefähres Kostenlimit zu bekommen: gehostete Modelle auf dem Convly LLM Leaderboard reichen von etwa $0,02 pro Million Eingabe-Token für kleine Open-Source-Modelle bei Serverless-Anbietern bis zu $10 rein / $50 raus pro Million Token für proprietäre Frontier-Modelle. Wenn Ihre Arbeitslast am Ende des kleinen Modells liegt und Sie eine Qualität von 8B–30B tolerieren können, ist Self-Hosting auf einer einzelnen Consumer-GPU häufig kostenmäßig sinnvoll. Führen Sie Ihre eigenen Berechnungen mit dem Self-Hosting vs API Rechner und das API-Kostenrechner.

Praktische Setup-Checkliste

1. Prüfen Sie den VRAM. Alles, das größer als der Speicher Ihrer GPU ist, wird in den Systemspeicher ausgelagert und verlangsamt sich dramatisch. Nutzen Sie den VRAM-Rechner.
2. Laden Sie LM Studio herunter von lmstudio.ai/download. Installieren Sie nicht von Drittanbieter-Spiegeln.
3. Wählen Sie in der Discover Registerkarte der App ein Modell aus, das passt. Beginnen Sie mit einer Q4_K_M-Quantisierung für das beste Größen-/Qualitätsverhältnis.
4. Laden Sie das Modell. Beobachten Sie den VRAM-Indikator; wenn es nicht vollständig zur GPU ausgelagert werden kann, wählen Sie eine kleinere Quantisierung oder ein kleineres Modell.
5. Aktivieren Sie den Server von der Entwickler Registerkarte, wenn Sie ihn vom Code aus aufrufen möchten. Bestätigen Sie mit curl http://localhost:1234/v1/models.

Eine Schritt-für-Schritt-Anleitung mit Screenshots finden Sie unter LM Studio – umfassende Anleitung. Für Modellkurslisten, die auf lokale Hardware abgestimmt sind, siehe beste lokale Modelle (die Empfehlungen gelten gleichermaßen für LM Studio, da beide Engines llama.cpp verwenden).

Häufig gestellte Fragen

Ist LM Studio kostenlos?

Ja. LM Studio ist kostenlos zum Herunterladen und Verwenden für persönliche und gemäß der Anbieterrichtlinie geschäftliche Arbeitsrichtlinie, professionelle Nutzung. Die App selbst ist closed-source, aber die Modelle, die du darin ausführst, sind open-weight Modelle, die von ihren jeweiligen Publishern lizenziert werden (Meta, Google, Alibaba, Mistral, etc.).

Sendet LM Studio Daten in die Cloud?

Inferenz läuft vollständig auf deinem Rechner – Prompts und Antworten verlassen das Gerät nicht. Die App verbindet sich mit Hugging Face, wenn du Modelle suchst oder herunterlädst, und prüft auf Updates. Es gibt laut Angaben des Anbieters keine Telemetrie von Chat-Inhalten auf der Datenschutzseite; überprüfe sie direkt für die aktuelle Richtlinie.

Welche Modellformate unterstützt LM Studio?

GGUF auf allen Plattformen (via llama.cpp) und MLX auf Apple Silicon. Rohe Hugging Face safetensors und PyTorch Checkpoints werden nicht direkt unterstützt – konvertiere sie zunächst zu GGUF, oder lade ein vorgequantisiertes GGUF herunter, das die Community bereits veröffentlicht hat.

Kann ich LM Studio als direkten Ersatz für die OpenAI API verwenden?

Für Chat Completions, Completions und Embeddings großteils ja: zeige auf das OpenAI SDK base_url auf http://localhost:1234/v1 und bestehender Code funktioniert. Features, die von OpenAI-spezifischem Server-Verhalten abhängen (Assistants, File API, Bildgenerierung, Moderation), sind nicht implementiert. Überprüfe die aktuelle Endpoint-Liste.

Wie viel RAM oder VRAM benötige ich?

Faustregel bei 4-Bit-Quantisierung: Modellgröße in Milliarden Parametern mal ~0,6 ergibt GB VRAM, die für Gewichte benötigt werden, plus ein paar GB für KV-Cache bei langen Kontexten. Ein 7–8B Modell läuft komfortabel auf einer 8 GB GPU; ein 70B Modell benötigt ungefähr 40 GB (siehe die Convly Modelldatenbank Angaben oben). Für eine vollständige Aufschlüsselung nach Modell, siehe VRAM-Anforderungen.

Unterstützt LM Studio Tool Calling und strukturierte Ausgaben?

Ja, strukturierte Ausgaben via JSON Schema, und Tool/Function Calling wird für Modelle unterstützt, deren Chat-Templates dies unterstützen (insbesondere aktuelle Llama, Qwen, Mistral und Gemma Releases). Die Qualität des Tool Calling hängt vom zugrundeliegenden Modell ab, nicht von LM Studio selbst. Testen Sie mit Ihrem Zielmodell, bevor Sie es in der Produktion einsetzen.