Für lokale KI-Arbeitslasten ist die RTX 3090 hat sich zu einer der besten Wert-Karten aller Zeiten entwickelt: 24 GB VRAM am Gebrauchtmarkt für 700–900 US-Dollar. Die RTX 4090 setzt noch einen drauf – dieselben 24 GB VRAM, aber eine deutlich schnellere GPU zu einem Preis von rund 1.200–1.500 US-Dollar (gebraucht) im Jahr 2026.
Wenn beide Grafikkarten dieselbe Speichermenge bieten, lohnt sich die RTX 4090 dann fast doppelt so viel? Die ehrliche Antwort lautet: Das hängt vollständig davon ab, ob Ihre Zeit die Engstelle ist.
Wichtigste Erkenntnisse
- Beide Grafikkarten verfügen über 24 GB VRAM — sie unterstützen exakt dieselben Modelle. Kein Modell läuft auf der einen Karte, aber nicht auf der anderen.
- Die RTX 4090 ist ca. 1,7-mal schneller bei KI-Inferenz und ca. 1,8-mal schneller beim Feintuning.
- Für Stable Diffusion XL, erwarten Sie ca. 18 it/s auf der 4090 gegenüber ca. 10 it/s auf der 3090.
- Die 3090 überzeugt deutlich beim Preis-Leistungs-Verhältnis sowie bei Dual-Karten-Konfigurationen (48 GB für ca. 1.600 US-Dollar).
- Kaufen Sie die 4090, wenn Iterationsgeschwindigkeit entscheidend ist; kaufen Sie die 3090 (oder zwei Stück), wenn die VRAM-Kapazität wichtiger ist als Geschwindigkeit.
Auf einen Blick
| Spezifikation | RTX 4090 | RTX 3090 |
|---|---|---|
| Architektur | Ada-Lovelace-AD102 | Ampere GA102 |
| CUDA-Kerne | 16,384 | 10,496 |
| VRAM | 24 GB GDDR6X | 24 GB GDDR6X |
| Speicherbandbreite | 1.008 GB/s | 936 GB/s |
| FP16-Tensor (dicht) | ~330 TFLOPS | ~142 TFLOPS |
| TDP | 450 W | 350 W |
| Startpreis | $1,599 | $1,499 |
| Gebrauchtpreis (2026) | 1.200–1.500 US-Dollar | 700–900 US-Dollar |
VRAM: eine Bindung, die alles verändert
Die wichtigste Kennzahl für lokale KI ist der VRAM – und hier sind beide Grafikkarten identisch: 24 GB. Das bedeutet, dass jedes Modell, das auf der einen Karte läuft, auch auf der anderen läuft:
- Llama 3 8B und 13B-Klasse Modelle laufen komfortabel mit voller oder nahezu voller Präzision.
- Llama 3 70B lässt sich nur bei aggressiver 4-Bit-Quantisierung (Q4_K_M ≈ 40 GB) mit teilweiser CPU-Offload ausführen – eine mühsame Aufgabe auf beiden Karten allein.
- Stable Diffusion XL und Flux Bildmodelle passen mit ausreichend Spielraum.
Da die Speicherobergrenze identisch ist, ermöglicht die 4090 kein einziges Modell, das die 3090 nicht ebenfalls bewältigen könnte. Der Vorteil der 4090 liegt ausschließlich in der Geschwindigkeit — sie erledigt dieselbe Arbeit schneller.
Inferenz-Benchmarks
Für LLM-Inferenz, wobei sich die Leistungslücke an der Speicherbandbreite und dem Tensor-Durchsatz orientiert:
| Workload | RTX 4090 | RTX 3090 |
|---|---|---|
| Llama 3 8B Q4_K_M | ~140 Tok/s | ~95 Tok/s |
| Llama 3 13B-Klasse Q4 | ~90 Tok/s | ~58 Tok/s |
| SDXL 1024×1024 (30 Schritte) | ~18 it/s | ~10 it/s |
| Flux.1 dev (1024 px) | ~2,4 s/Bild | ~4,6 s/Bild |
Das Muster ist konsistent: Die 4090 liegt bei etwa 1,6- bis 1,8-fach die Durchsatzleistung der 3090. Das ist ein echter, spürbarer Unterschied – ein Stable-Diffusion-Batch, der auf der 3090 zehn Minuten dauert, ist auf der 4090 in etwa sechs Minuten abgeschlossen.
Feinabstimmung und Training
Für LoRA-Feinabstimmung eines 7B–8B-Modells spielen die größere Tensor-Core-Durchsatzleistung und die schnelleren FP16/BF16-Pfade der 4090 eine größere Rolle als bei der Inferenz. Ein typischer LoRA-Lauf, der auf der 3090 rund fünf Stunden benötigt, ist auf der 4090 in etwa zwei- bis dreiviertel Stunden abgeschlossen – nahezu eine 1,8-fache Beschleunigung.
Die 3090 weist hier eine leise Schwäche auf: Sie fehlt die verbesserte FP8-Unterstützung der 4090, sodass neuartige FP8-Trainingsverfahren entweder auf BF16 zurückfallen oder gar nicht ausgeführt werden können. Falls Sie modernste Trainingsmethoden verfolgen möchten, behält die 4090 länger ihre Relevanz.
Stromverbrauch und Wärmeentwicklung
Die 3090 zieht 350 W; die 4090 zieht 450 W und kann unter dauerhafter KI-Auslastung noch weiter ansteigen. Über ein Jahr intensiver Nutzung hinweg macht sich dieser Unterschied messbar auf Ihrer Stromrechnung bemerkbar; zudem erfordert die 4090 ein leistungsstärkeres Netzteil (mindestens 850 W, empfohlen 1000 W). Die 3090 läuft außerdem heiß auf ihren GDDR6X-Speichermodulen – bei gebrauchten Exemplaren lohnt sich daher ein Austausch der Wärmeleitpads.
Wählen Sie die RTX 4090, wenn
- Sie iterieren ständig und schätzen Zeit höher als Geld
- Sie benötigen FP8-Unterstützung und bessere langfristige Software-Relevanz
- Sie führen regelmäßig Feinabstimmungen durch, nicht nur Inferenz
Wählen Sie die RTX 3090, wenn
- Sie den höchsten VRAM pro Dollar weltweit erhalten möchten
- Sie eine Dual-Karten-Konfiguration planen (insgesamt 48 GB für ca. 1.600 US-Dollar)
- Ihre Workloads Batch-Jobs sind, die Sie über Nacht laufen lassen können
Der Dual-3090-Wildcard-Faktor
Hier ist das Argument, das die 3090 auch 2026 noch relevant hält: Zwei davon kosten etwa genauso viel wie eine gebrauchte 4090 und bieten Ihnen 48 GB gemeinsamen VRAM. Mit Tensor-Parallelisierung (vLLM, ExLlamaV2) kann ein Dual-3090-System Llama 3 70B vollständig im VRAM – etwas, das keine einzige Consumer-Karte außer der RTX 5090 leisten kann.
Sie tauschen Geschwindigkeit und Energieeffizienz gegen Kapazität ein. Für alle, deren entscheidende Einschränkung lautet „Ich muss größere Modelle ausführen“, schlagen zwei 3090 eine einzelne 4090.
Welche Grafikkarte sollten Sie wirklich kaufen?
Die technischen Spezifikationen sind nur dann entscheidend, wenn Sie sie einem Budget und einer konkreten Arbeitslast zuordnen. Beide Karten verfügen über dieselben 24 GB GDDR6X-Speicher auf einem 384-Bit-Bus, sodass die Entscheidung selten davon abhängt, ob ein Modell passt – vielmehr geht es darum, wie schnell es läuft und wie viel Sie für diese Geschwindigkeit ausgeben möchten. Nutzen Sie die nachfolgenden Kategorien als Ausgangspunkt und passen Sie sie anschließend an die Preise Ihres lokalen Gebrauchtmarktes an.
| Ihre Situation | Beste Wahl | Warum |
|---|---|---|
| Knappstes Budget, ausschließlich für Inferenz | Einzelne gebrauchte 3090 | Das beste Preis-Leistungs-Verhältnis pro VRAM auf dem Consumer-Markt für Modelle unter 70B in Q4–Q5. Etwa halb so teuer wie eine 4090 bei gleicher Speicherobergrenze. |
| Sie führen Feinabstimmungen oder Training durch oder hassen Wartezeiten | RTX 4090 | Deutlich höhere Rechen- und Tensor-Durchsatzleistung – in der Praxis etwa das 1,5- bis 2-Fache – verkürzt Training und Diffusions-Batches spürbar. Zeit ist das, was Sie hier kaufen. |
| Sie benötigen 48 GB für 70B mit voller Kontextlänge | Zwei 3090s | Die 3090 ist die letzte Consumer-Grafikkarte mit NVLink und kann daher VRAM bündeln, was die 4090 nicht kann. (Siehe den Abschnitt zu Dual-3090-Konfigurationen oben für Hinweise zu möglichen Bau-Herausforderungen.) |
| Latenzkritische interaktive Anwendung | RTX 4090 | Eine höhere Token-pro-Sekunde-Leistung auf einer einzelnen Karte lässt Chat- und Agenten-Workflows spürbar flüssiger wirken. |
Ein paar ehrliche Einschränkungen: Eine einzelne 4090 wird nicht kein Modell ausführen können, das eine einzelne 3090 nicht auch bewältigen könnte – beide stoßen an dieselbe 24-GB-Grenze, also zahlen Sie nicht den Aufpreis in der Erwartung, größere Modelle auf einer einzigen Karte laden zu können. Falls Ihr einziges Ziel darin besteht, ein 70B-Modell lokal auszuführen und Sie Geduld haben, ist eine gebrauchte 3090 (oder ein Paar davon) die klügere Investition. Hat Ihre Zeit jedoch einen monetären Wert – etwa weil Sie regelmäßig abends LoRAs optimieren, massenhaft Bilder generieren oder einen Agenten betreiben, der die GPU den ganzen Tag beansprucht – dann amortisiert sich die höhere Durchsatzleistung der 4090 binnen weniger Stunden.
Ein weniger offensichtlicher Faktor: Zustand und Garantie. Die meisten 3090s auf dem Gebrauchtmarkt sind mehrere Jahre alt, und viele wurden intensiv beim Mining oder im Dauerbetrieb für Inferenz genutzt. Planen Sie ggf. einen Austausch der Wärmeleitpads ein, prüfen Sie auf Gehäusesackung oder Verschleiß der Lüfter und bevorzugen Sie Verkäufer, die Rückgaberechte anbieten. Eine gebrauchte 4090 ist jünger und befindet sich oft noch in der Herstellergarantie – dadurch verringert sich die reale Preis-Differenz, sobald man das Risiko berücksichtigt. Entscheiden Sie zunächst über die gewünschte Arbeitslast, legen Sie ein festes Budget fest und lassen Sie diese beiden Faktoren – nicht das Datenblatt – die Wahl der Karte bestimmen.
Häufig gestellte Fragen (FAQ)
Lohnt sich die RTX 4090 im Vergleich zur 3090 für KI doppelt so viel?
Nur, wenn Geschwindigkeit Ihre Engpassgröße ist. Die 4090 ist etwa 1,7-mal schneller, ermöglicht aber keine neuen Modelle, da beide Karten 24 GB VRAM besitzen. Wenn Sie Batch-Jobs über Nacht ausführen, ist der Preisvorteil der 3090 unschlagbar.
Kann die RTX 3090 Llama 3 70B ausführen?
Nicht komfortabel allein – 70B im 4-Bit-Format benötigen etwa 40 GB. Eine einzelne 3090 muss Schichten in den Systemspeicher auslagern, was langsam ist. Zwei 3090s (zusammen 48 GB) führen das Modell hingegen gut aus.
Welche Karte eignet sich besser für Stable Diffusion?
Deutlich die RTX 4090 – etwa 18 it/s bei SDXL gegenüber 10 it/s auf der 3090. Bei der Bildgenerierung, bei der Sie ständig Prompts iterativ anpassen, macht sich diese Geschwindigkeitslücke jede Minute bemerkbar.
Erhält die RTX 3090 2026 noch eine gute Softwareunterstützung?
Ja. Ampere wird vollständig von CUDA, PyTorch, vLLM und llama.cpp unterstützt. Der einzige Nachteil ist die fehlende native FP8-Unterstützung, die lediglich einen kleinen, aber wachsenden Bereich an Trainingsverfahren betrifft.
Wie hoch sind die Stromkosten für den Betrieb dieser Karten?
Bei dem US-amerikanischen Wohnstromdurchschnittspreis von rund 0,18 $/kWh verbraucht eine Karte mit ihrer vollen Leistungsaufnahme von ca. 350–450 W unter Last etwa 6–8 Cent pro Stunde. Betreiben Sie eine Inferenz-Plattform acht Stunden täglich, belaufen sich die Kosten damit auf nur wenige Dollar pro Monat – der Stromverbrauch ist bei einer einzelnen Karte selten der entscheidende Faktor. Die 4090 ist die energieeffizientere der beiden (mehr Leistung pro Watt), weshalb sie pro Aufgabe oft geringere Kosten verursacht, obwohl ihre Spitzenleistungsaufnahme höher ist. Im Leerlauf sinken beide Karten auf einen niedrigen Verbrauch – die 4090 fällt auf etwa 16 W, die 3090 etwas höher – sodass ein eingeschalteter, aber ungenutzter Rechner praktisch nichts kostet. less per task despite a higher peak draw. At idle both cards drop to a low draw — the 4090 dips to roughly 16 W, the 3090 somewhat higher — so a machine left on but unused costs almost nothing.
Sollte ich stattdessen einfach eine RTX 5090 kaufen?
Nur, wenn Ihr Budget dies zulässt und Sie zusätzlichen Spielraum benötigen. Die 5090 bietet 32 GB VRAM und einen deutlichen generationsübergreifenden Leistungssprung, doch liegt ihr Preis im Jahr 2026 immer noch deutlich über dem offiziellen UVP von 1.999 $ – üblicherweise zwischen 2.500 $ und 4.000 $+ – und das Angebot bleibt knapp. Für Modelle, die in 24 GB VRAM Platz finden, liefern eine 3090 oder 4090 den Großteil des praktischen Nutzens zu einem Bruchteil der Kosten. Die 5090 rechtfertigt ihren Preis erst dann, wenn Sie gezielt diese 32-GB-Obergrenze oder die schnellstmögliche Inferenzleistung auf einer einzigen Karte benötigen.
Welche Karte behält ihren Wiederverkaufswert besser?
Die 4090 hat sich ungewöhnlich langsam abgeschrieben, da die Knappheit der RTX 5090 die Nachfrage hochgehalten hat; sie behält daher mehr ihres ursprünglichen Wertes als eine fünf Jahre alte Karte normalerweise tun würde. Die 3090 ist günstiger im Kauf und im Verkauf, doch stützt sich ihr Preisuntergrenze auf ein dauerhaftes Merkmal, das neuere GeForce-Karten aufgegeben haben: NVLink. Solange Entwickler Dual-Karten-Systeme mit gebündeltem VRAM nutzen wollen, bleibt die Nachfrage nach gebrauchten 3090s – und damit auch deren Wiederverkaufswert – stabil.
Fazit
Beide Karten sind 2026 exzellente KI-Hardware. Die RTX 4090 ist bei jeder reinen Leistungskennzahl die bessere Karte und die richtige Wahl, wenn Sie schnell iterieren und den höheren Preis verkraften können. Die RTX 3090 bleibt der Preis-Leistungs-Champion – und in einer Dual-Karten-Konfiguration leistet sie etwas, das die 4090 schlicht nicht kann: Sie führt ein 70B-Modell vollständig im VRAM für weniger Geld aus. Wählen Sie die Karte entsprechend Ihrer eigentlichen Einschränkung: Geschwindigkeit oder Kapazität.
