NVIDIA GPU-Server: DGX, HGX, EGX, MGX — die vier Familien richtig wählen

TL;DR

Wer KI im Unternehmen betreibt, braucht irgendwann GPU-Rechenleistung. NVIDIA bietet dafür vier Server-Familien: DGX (Flaggschiff-Appliance), HGX (konfigurierbare Performance), MGX (modulares Zukunfts-Design) und EGX (maximale Flexibilität auf PCIe-Basis). Die Wahl ist ein Trade-off zwischen Anpassbarkeit, Software-Paket und Support. Die meisten Mittelständler brauchen nicht das Flaggschiff — sondern die richtig konfigurierte mittlere Klasse.

Warum eigene GPU-Infrastruktur jetzt relevant wird

Viele Mittelständler starten KI in der Cloud. Mit wachsender Nutzung — eigene LLMs, DSGVO-kritische Daten, kontinuierliche Inference — entsteht aber der Wunsch nach eigener Infrastruktur. Die Gründe sind meist dieselben: Daten bleiben im eigenen Haus statt in der US- oder China-Cloud, Kosten werden planbar statt variabel, und Private AI wird möglich.

Dabei stolpert man schnell über ein Problem: NVIDIA baut seit 2016 sechs Generationen DGX-Server, daneben existieren HGX, EGX und seit einigen Jahren MGX. Alle werden um die gleichen Datencenter-GPUs gebaut — und alle klingen für Außenstehende nach „dem NVIDIA-Server". Die Familien unterscheiden sich aber fundamental in Anpassbarkeit, Software-Paket und Support.

Die falsche Wahl kostet schnell sechsstellig. Nicht weil die Hardware schlecht wäre, sondern weil Anpassbarkeit, Software und Support gegeneinander stehen.

Die vier Familien im Überblick

DGX — das NVIDIA-Flaggschiff

Die DGX ist eine Appliance, kein einfacher Server. Ein komplettes NVIDIA-System mit AI-ready Software-Stack und Support-Paket, direkt von NVIDIA entworfen und gefertigt. Anpassbar ist daran nichts — das ist der Preis für das Rundum-Sorglos-Paket. Aktuell basiert sie auf SXM-GPUs der Hopper-Generation (DGX H100), mit Blackwell (DGX B200) in der Auslieferung.

Für wen: Unternehmen, die maximale Performance wollen und nicht konfigurieren möchten.

HGX — die konfigurierbare Alternative

HGX nutzt die gleichen SXM-GPUs wie die DGX — aber gebaut von zertifizierten Partnern. Das bedeutet: CPUs (AMD EPYC oder Intel Xeon), Speicher, Storage und Networking sind frei wählbar, in Konfigurationen mit vier oder acht GPUs. Hopper ist heute Standard, Blackwell folgt.

Für wen: Anspruchsvolle KI-Workloads (LLMs, GenAI) mit eigener Konfiguration — die Kombination aus DGX-Performance und anpassbarer Plattform.

MGX — das modulare Design

Die jüngste Familie setzt auf modulare, superdichte Server mit maximaler Erweiterbarkeit für aktuelle und künftige GPUs, DPUs und CPUs. Highlight ist der NVIDIA Grace-Hopper-Superchip GH200: GPU und CPU in einem Modul, verbunden über NVLink-C2C mit kohärentem Speicher — laut NVIDIA bis zu 7× schneller als PCIe Gen 5. Software-seitig kompatibel mit NVIDIA AI Enterprise, HPC SDK und Omniverse.

Für wen: Sehr spezifische Workloads und Datencenter-Umgebungen, die maximale Dichte und die neue Architektur brauchen.

EGX — maximale Flexibilität auf PCIe-Basis

EGX-Server sind voll anpassbar auf Basis von PCIe-GPUs: 2 bis 16 GPUs, Single- oder Dual-CPU, variable Speicher-, Storage- und Kühlungsoptionen. Der Preis der Freiheit: ein geringeres Software- und Support-Paket, und ohne die leistungsstärkeren SXM-GPUs.

Für wen: Spezifische, individuell zugeschnittene Workloads, bei denen Flexibilität vor Paket geht.

Die zentrale Regel: Anpassbarkeit gegen Support

Der Vergleich in einer Tabelle:

Daraus folgt die zentrale Regel: Mit steigender Anpassbarkeit sinkt das Software- und Support-Paket. DGX ist am wenigsten flexibel, aber am besten betreut — EGX ist am flexibelsten, aber weitgehend auf sich gestellt. Dazwischen liegen HGX (beste Balance) und MGX (Zukunft).

Decision-Guide: Welche Plattform passt zu Ihrem Use Case

Unsere klare Empfehlung für den Mittelstand: Die wenigsten Unternehmen brauchen das Flaggschiff. Oft reicht eine HGX- oder EGX-Klasse — wenn sie richtig konfiguriert und betrieben wird. Der Mehrwert liegt nicht in der teuersten Karte, sondern in der passenden Konfiguration. Wer den VRAM-Bedarf seiner Modelle vorab kalkulieren will, findet dafür unseren KI-Server-GPU-VRAM-Rechner.

Kaufen, mieten oder hybrid?

Die GPU-Frage ist auch eine Kostenfrage. Eigene Hardware bedeutet eine hohe Investition, dafür planbare Kosten und volle Kontrolle — lohnend ab ausreichender Auslastung. Gemietete GPU-Kapazität (etwa H100) hat eine geringe Einstiegshürde und variable Kosten, ideal für Tests und schwankende Last. Hybrid kombiniert beides: kleine eigene Basis, Spitzenlast in der Cloud.

Wichtig ist dabei der Blick über den Sticker-Preis hinaus. Entscheidend ist die Cost-to-Completion: Was kostet die Aufgabe insgesamt über die Lebensdauer — Auslastung, Betrieb, Energie, Wartung? Eine teure, gut ausgelastete GPU ist günstiger als eine billige, die 90 % der Zeit brachliegt. Diese Rechnung sollte vor dem Kauf stehen, nicht danach.

Was beim Betrieb schiefgehen kann

Die ehrliche Einordnung gehört zu einer seriösen Kaufberatung dazu:

1. Die GPU-Wahl ist keine Einbahnstraße. Die vier Familien optimieren auf unterschiedliche Ziele. Wer nur den Markennamen „NVIDIA" sieht, kauft leicht das Falsche.
2. Anpassbarkeit hat ihren Preis. Maximale Flexibilität (EGX) bedeutet weniger Software- und Support-Paket. Für Teams ohne tiefes Infrastruktur-Know-how riskant.
3. DGX ist nicht für jeden. Das Flaggschiff glänzt, kostet aber entsprechend und lässt keine Konfiguration zu. Viele Mittelstandslasten fahren mit HGX oder EGX günstiger.
4. Der Betrieb ist die halbe Miete. GPU-Infrastruktur will betrieben, aktualisiert und überwacht sein. Ohne professionelle Begleitung werden selbst gute Plattformen zum Kostenfresser.
5. Die Landschaft ändert sich schnell. Blackwell, neue Superchips, modulare Designs — die Entscheidung von heute kann in 18 Monaten überholt sein. Flexibilität und skalierbare Architektur einplanen.

Wer sich ein Bild von der aktuellen Hardware-Lage machen will: Der NVIDIA DGX Spark für den Mittelstand zeigt, was ein kompaktes System allein leisten kann, und der Vergleich NVIDIA Blackwell vs. Hopper erklärt die GPU-Generationen dahinter.

Was das für den Mittelstand bedeutet

GPU-Infrastruktur ist kein Selbstzweck, sondern das Herzstück des Private-AI-Tiers einer Plattform-Architektur: GPU → Modellkatalog → LLM-Gateway → Orchestrierung → Anwendungen. Wer diesen Stack beherrscht, bleibt unabhängig von einzelnen Anbietern — technisch und preislich. Das LiteLLM-Gateway ist dabei der zentrale Baustein, um alle Modelle hinter einer API zu bündeln.

Der Betriebsort entscheidet über die Rechtslage: Offene Modelle (DeepSeek, GLM, Qwen, Nemotron) auf eigener oder europäischer Hardware ergeben DSGVO-konforme Private AI — die Grundlage der ganzen Open-Source-KI-Plattform-Architektur.

Häufige Fragen

Brauchen wir überhaupt einen eigenen GPU-Server?

Nur wenn Ihre KI-Last es rechtfertigt — kontinuierliche Inference, DSGVO-kritische Daten oder Private-AI-Anforderungen. Für Tests reicht oft gemietete Kapazität. Diese Einordnung gehört an den Anfang jeder Entscheidung.

Welche Familie ist „die beste"?

Keine. DGX ist das Flaggschiff (keine Anpassung, voller Support), HGX die konfigurierbare Performance, MGX das modulare Zukunfts-Design, EGX die maximale Flexibilität. Die richtige Wahl hängt vom Use Case ab.

Was ist der Unterschied zwischen DGX und HGX?

Beide nutzen die gleichen SXM-GPUs. DGX ist die fertige NVIDIA-Appliance ohne Anpassungsmöglichkeit, HGX wird von zertifizierten Partnern gebaut und lässt CPUs, Speicher, Storage und Netzwerk frei konfigurieren — bei gleicher GPU-Performance.

Ist ein eigener GPU-Server billiger als Cloud?

Ab ausreichender Auslastung: ja, bei planbaren Kosten. Darunter: nein. Entscheidend ist die Cost-to-Completion über die Lebensdauer, nicht der Anschaffungspreis.

Was, wenn sich die Hardware-Anforderungen ändern?

Wählen Sie eine skalierbare Architektur (HGX und MGX sind modularer) und planen Sie die GPU-Ebene als austauschbaren Baustein — nicht als Einbahnstraße in ein teures Flaggschiff.

Fazit und nächster Schritt

Die vier NVIDIA-Familien sind keine Marketing-Varianten, sondern unterschiedliche Antworten auf dieselbe Frage: Wie viel Anpassbarkeit gegen wie viel Support? Die richtige Antwort hängt von Ihrem Use Case ab — und die wenigsten Mittelständler brauchen das Flaggschiff.

Wenn Sie Ihre KI-Infrastruktur aufbauen möchten — ob eigene GPU-Server, gemietete Kapazität oder Private AI: Sprechen Sie uns an. Wir beraten neutral zwischen Kaufen, Mieten und Hybrid, übersetzen den Use Case in die passende Plattform und betreiben sie als Teil des KI-Stacks.