Auf dem Papier wirkt die AMD RX 7900 XTX wie ein Schnäppchen im Vergleich zur RTX 4090: beide verfügen über denselben 24-GB-VRAM-Speicher, vergleichbare Speicherbandbreite und einen Preis, der um Hunderte Dollar niedriger liegt. Bei lokaler KI-Anwendung ist VRAM König – warum kauft also nicht jeder die AMD-Karte?
Ein Wort: Software. Dieser Vergleich dreht sich im Kern um CUDA versus ROCm – und genau hier entscheidet sich der Erfolg oder Misserfolg.
Wichtigste Erkenntnisse
- Beide Grafikkarten verfügen über 24 GB VRAM – sie können dieselben Modelle laden.
- Die RTX 4090 ist in realen KI-Workloads etwa 1,5–1,8× schneller schneller, obwohl die reinen technischen Spezifikationen näher beieinanderliegen.
- Die Leistungslücke beruht hauptsächlich auf Software: CUDA ist branchenweit ausgereift; ROCm funktioniert zwar, hinkt aber bei Abdeckung und Optimierung hinterher.
- Für llama.cpp-Inferenz, ist die 7900 XTX wettbewerbsfähig. Für Training und exotische Bibliotheken, ist sie jedoch frustrierend.
- Kaufen Sie die 7900 XTX nur, wenn Sie ausschließlich Inferenz-Aufgaben durchführen, unter Linux arbeiten und den Preisvorteil gegenüber Geschwindigkeit und Einfachheit priorisieren.
Auf einen Blick
| Spezifikation | RTX 4090 | RX 7900 XTX |
|---|---|---|
| Architektur | Ada-Lovelace-AD102 | RDNA-3-Navi-31 |
| Shader-Einheiten | 16.384 CUDA-Kerne | 6.144 Stream-Prozessoren |
| VRAM | 24 GB GDDR6X | 24 GB GDDR6 |
| Speicherbandbreite | 1.008 GB/s | 960 GB/s |
| KI-Softwarestack | CUDA (ausgereift) | ROCm (wird stetig verbessert) |
| TDP | 450 W | 355 W |
| Startpreis | $1,599 | $999 |
Die Hardware ist sich deutlich ähnlicher als die Ergebnisse
Betrachtet man allein die technischen Spezifikationen, scheint die 7900 XTX wettbewerbsfähig zu sein: identischer VRAM, nahezu identische Bandbreite, geringerer Stromverbrauch und niedrigerer Preis. AMDs RDNA-3-Architektur ist tatsächlich leistungsfähige Siliziumtechnik.
Doch KI-Leistung beruht nicht nur auf Silizium – sie beruht auf Silizium plus die Kernel, Compiler und Bibliotheken, die sie antreiben. NVIDIA hat fünfzehn Jahre damit verbracht, CUDA zur Standard-Grundlage sämtlicher Deep-Learning-Frameworks auszubauen. AMDs ROCm ist real und verbessert sich rasch, doch es liegt bei Umfang und Low-Level-Optimierung noch Jahre hinterher. Diese Lücke verwandelt ein auf dem Papier nahezu ausgeglichenes Rennen in einen klaren NVIDIA-Vorteil in der Praxis.
Inferenz-Benchmarks
| Workload | RTX 4090 | RX 7900 XTX |
|---|---|---|
| Llama 3 8B Q4 (llama.cpp) | ~140 Tok/s | ~95 Tok/s |
| Llama 3 13B-Klasse Q4 | ~90 Tok/s | ~60 Tok/s |
| SDXL 1024×1024 (30 Schritte) | ~18 it/s | ~9 It/s |
Zwei Dinge fallen besonders ins Auge. Erstens öffnet sich die Leistungslücke bei llama.cpp – das über einen gut optimierten ROCm/Vulkan-Backend verfügt – ist die 7900 XTX respektabel und liegt knapp hinter der 4090. Zweitens stößt die 7900 XTX bei Stable Diffusion, wo sie sich auf rund das Zweifache vergrößert – denn der PyTorch-+ROCm-Pfad für Diffusionsmodelle ist deutlich weniger optimiert als NVIDIAs Lösung.
Die Lehre daraus: AMDs Defizit ist nicht gleichmäßig verteilt. Es ist gering dort, wo die Open-Source-Community stark investiert hat, und groß überall sonst.
Training und das Bibliotheksproblem
Für Feinabstimmung und Training, auf eine härtere Barriere. Viele verbreitete Bibliotheken – Varianten von Flash Attention, bitsandbytes-Quantisierung, xFormers sowie eine lange Liste an Forschungscode – setzen CUDA voraus. Einige bieten ROCm-Forks an; viele tun dies nicht oder liegen bei den Versionen hinterher.
Sie können auf einer 7900 XTX trainieren. Doch dafür werden Sie Zeit mit dem Patchen von Umgebungen, der Suche nach ROCm-kompatiblen Builds und gelegentlichem Entdecken verbringen, dass die gewünschte Methode schlicht keinen AMD-Unterstützungs-Pfad besitzt. Auf einer 4090 ist dieser Aufwand nahezu null – Sie pip install – und es funktioniert.
Wählen Sie die RX 7900 XTX, wenn
- Sie hauptsächlich Inferenz über llama.cpp oder Ollama durchführen
- Sie mit Linux und der ROCm-Einrichtung vertraut sind
- Die etwa 600 US-Dollar Ersparnis wirklich entscheidend für Ihr Budget sind
Wählen Sie die RTX 4090, wenn
- Sie Modelle feinabstimmen oder neuesten Forschungscode verfolgen
- Sie möchten, dass alles beim ersten Versuch funktioniert
- Sie ernsthaft mit Stable Diffusion oder Video-Generierung arbeiten
Der Windows-Hinweis
Die ROCm-Unterstützung unter Windows bleibt schwächer als unter Linux. AMD hat hier Fortschritte erzielt, doch für das reibungsloseste KI-Erlebnis mit einer 7900 XTX sollten Sie Linux einplanen. Die RTX 4090 wird vollständig auf beiden Betriebssystemen unterstützt. Falls Sie ausschließlich Windows nutzen, vervielfacht sich der Aufwand bei der AMD-Karte – und die 4090 wird zur offensichtlichen Wahl.
Gesamtbetriebskosten: Was jede Grafikkarte tatsächlich kostet
Benchmark-Tests zeigen Ihnen, welche Karte schneller ist. Sie verraten jedoch nicht, welche Karte Sie 2026 tatsächlich kaufen können, welche Betriebskosten auf Sie zukommen oder ob die Preisunterschiede für Ihre konkrete Arbeitslast gerechtfertigt sind. Für ein lokales KI-System entscheiden drei Faktoren – keiner davon steht in einem technischen Datenblatt.
Die VRAM-Obergrenze ist identisch. Beide Karten werden mit 24 GB VRAM ausgeliefert und stoßen daher an dieselbe Grenze. Bei Q4-Quantisierung läuft auf einer 24-GB-Karte problemlos ein Modell der Klasse 27B bis 32B (ca. 17–22 GB auf der Festplatte, mit ausreichend Platz für den Kontext), wobei die Leistung hier wirklich hervorragend ist. Keine der beiden Karten kann ein 70B-Modell nativ ausführen. Dazu müssten Sie einzelne Schichten in den Arbeitsspeicher des Systems auslagern (langsam) oder eine zweite 24-GB-Karte hinzufügen. Dies ist entscheidend, denn es bedeutet, dass die RTX 4090 Ihnen nicht nicht eine höhere Modell-Obergrenze bietet, sondern lediglich schnellere Token-Generierung innerhalb derselben Obergrenze.
Stromverbrauch und Netzteil-Kosten sprechen für AMD. Die RTX 4090 weist eine TDP von 450 W auf; die RX 7900 XTX liegt bei etwa 355 W – rund 20 % weniger. Beide Karten erzeugen zudem kurze, starke Stromspitzen, die diese Nennwerte kurzfristig überschreiten. Daher empfehlen Hersteller als Mindestanforderung ein 850-W-Netzteil und raten bei Kombination mit einer High-End-CPU (z. B. Core i9 oder Ryzen 9) oder beim Einsatz von zwei GPUs zur Aufrüstung auf mindestens 1000 W. Ein Workstation-System, das stundenlang Inferenz-Berechnungen durchführt, wird die Differenz im Stromverbrauch auf der Stromrechnung bemerken; bei einem 24/7-Server wird sie sich besonders stark bemerkbar machen.
Verfügbarkeit und Wiederverkaufswert entwickeln sich in die entgegengesetzte Richtung. Die RTX 4090 ist eingestellt; die Produktion endete Ende 2024. Neues Lager ist knapp und stark überhöht preislich, sodass die meisten Käufer mittlerweile auf dem Gebrauchtmarkt tätig sind – wo die Preise trotzdem hoch bleiben. Die RX 7900 XTX ist weiterhin neu erhältlich und meist günstiger als selbst eine gebrauchte RTX 4090. Damit verändert sich die praktische Fragestellung von „Welche Karte ist schneller?“ zu „Welche Karte kann ich überhaupt bekommen – und zu welchem Aufpreis?“
| Faktor Gesamtbetriebskosten | RX 7900 XTX | RTX 4090 |
|---|---|---|
| VRAM (Modell-Obergrenze) | 24 GB | 24 GB |
| Nennleistungsaufnahme | ca. 355 W | 450 W |
| Empfohlene Netzteil-Leistung (PSU) | mindestens 850 W | 850–1000 W+ |
| Verfügbarkeit 2026 | Neu, breit verfügbar | Eingestellt, überwiegend gebraucht |
| Preisposition | Niedriger | Höher (Knappheitsaufschlag) |
Der ehrliche Entscheidungsrahmen: Wenn Ihre Arbeitslast ausschließlich aus Inferenz-Berechnungen besteht, die Modelle in 24 GB VRAM passen und Sie Wert auf niedrigere Kosten, geringeren Stromverbrauch sowie eine neu erhältliche Karte legen, ist die RX 7900 XTX die rationale Wahl. Zahlen Sie den Aufpreis für die RTX 4090 nur dann, wenn Sie gezielt deren ausgereiftes CUDA-Ökosystem, schnellere Trainingseigenschaften oder die umfassendste Softwarekompatibilität „out of the box“ benötigen.
Häufig gestellte Fragen (FAQ)
Ist die RX 7900 XTX 2026 noch gut für KI-Anwendungen?
Ja, für Inferenz. Mit llama.cpp oder Ollama unter Linux liefert sie eine starke Token-Leistung pro Dollar. Für Training, Feinabstimmung oder Stable Diffusion macht die Softwarelücke von ROCm sie jedoch spürbar langsamer und instabiler als eine RTX 4090.
Hat ROCm CUDA endlich eingeholt?
Nein, doch der Abstand wurde deutlich verringert. ROCm ist solide für gängige Inferenz-Anwendungen. Bei Bibliotheksumfang, Trainings-Optimierung und Windows-Unterstützung liegt es jedoch immer noch hinter CUDA zurück. CUDA bleibt weiterhin der Weg mit dem geringsten Aufwand.
Ist die RX 7900 XTX schneller als die RTX 4090?
Nein. Trotz vergleichbarem VRAM und vergleichbarer Bandbreite ist die RTX 4090 in realen KI-Arbeitslasten rund 1,5–1,8× schneller, bedingt durch die Reife der CUDA-Software. Der Abstand ist am kleinsten bei llama.cpp und am größten bei Stable Diffusion.
Sollte ich AMD kaufen, um bei einem lokales LLM System Geld zu sparen?
Nur, wenn Sie Inferenz durchführen und Linux nutzen. Die 7900 XTX bietet Ihnen 24 GB für rund 999 US-Dollar. Doch berücksichtigen Sie auch Ihre eigene Zeit – die Einrichtung und Fehlerbehebung von ROCm haben echte Kosten, die sich nicht im Kaufpreis widerspiegeln.
Welche Größe von lokalen Sprachmodellen (LLM) können die RX 7900 XTX und die RTX 4090 ausführen?
Beide verfügen über 24 GB VRAM und teilen daher dieselbe Obergrenze. Bei Q4-Quantisierung passt problemlos ein Modell der Klasse 27B bis 32B mit nutzbarem Kontext darauf – dies deckt den Großteil lokaler KI-Aufgaben ab. Ein 70B-Modell passt auf keiner der beiden Karten nativ; dazu müssten Sie Schichten in den Arbeitsspeicher des Systems auslagern (langsam) oder zwei 24-GB-Karten betreiben. Die RTX 4090 ist zwar schneller, ermöglicht aber nicht den Betrieb eines größeren Modells als die RX 7900 XTX.
Welches Netzteil benötige ich für die RX 7900 XTX oder die RTX 4090?
Planen Sie für beide Karten mindestens ein 850-W-Netzteil eines renommierten Herstellers ein. Beide ziehen kurzfristige, starke Stromspitzen, die ihre Nenn-TDP deutlich überschreiten – ein knapp dimensioniertes Netzteil kann daher unter Last die Sicherungsschutzschaltung auslösen. Falls Sie die GPU mit einer High-End-CPU kombinieren oder ein Dual-GPU-System aufbauen, sollten Sie auf mindestens 1000 W aufrüsten. Der niedrigere Nennstromverbrauch der RX 7900 XTX (355 W) bietet zwar etwas mehr Spielraum, rechtfertigt aber keinesfalls, beim Netzteil zu sparen.
Ist der Kauf einer gebrauchten RTX 4090 für KI-Anwendungen im Jahr 2026 sicher?
Grundsätzlich ja – doch kaufen Sie vorsichtig: Die RTX 4090 ist eingestellt, und der Markt wird von Gebrauchtgeräten dominiert. Viele wurden intensiv für Mining oder KI-Arbeitslasten genutzt. Bevorzugen Sie daher Verkäufer mit Nachweis des Kaufdatums, testen Sie die Karte vor Ablauf der Rückgabefrist unter Dauerlast und prüfen Sie den 12VHPWR-Stromanschluss sowie seine Buchse auf Anzeichen von Schmelzen, Verformung oder Verfärbung. Wenn der Preis einer gebrauchten RTX 4090 an den Preis einer neuen Karte mit vergleichbarem VRAM heranreicht, schwächt sich die Kostenvorteilsargumentation rasch gegenüber einer neuen RX 7900 XTX.
Fazit
Die RX 7900 XTX ist die bislang wirklich wettbewerbsfähigste AMD-GPU für KI-Anwendungen seit Jahren – 24 GB VRAM für 999 US-Dollar ist ein echtes Angebot, und für llama.cpp-Inferenz unter Linux rechtfertigt sie ihren Platz. Doch die RTX 4090 gewinnt diesen Vergleich klar. Sie ist schneller, universell einsetzbar und eliminiert eine ganze Kategorie von Software-Problemen. Wählen Sie AMD bewusst: Sie kaufen VRAM pro Dollar – und akzeptieren zugleich eine Software-„Steuer“. Wählen Sie NVIDIA, dann erhalten Sie Geschwindigkeit, Breite und die Freiheit, sich nie wieder Gedanken über Ihre Toolchain machen zu müssen.
