Published on

H100 VRAM: 80 GB SXM und 94 GB NVL

Authors

TL;DR

H100 VRAM ist auf der NVIDIA-Produktseite keine einzelne Zahl: H100 SXM steht mit 80 GB GPU-Speicher und 3,35 TB/s Bandbreite, H100 NVL mit 94 GB und 3,9 TB/s. Die NVL-Beschreibung nennt für zwei Karten plus NVLink-Brücke 188 GB HBM3. Architektur: Hopper. SXM-TDP bis 700 W (konfigurierbar), NVL 350–400 W. MIG: bis 7 Instanzen à 10 GB (SXM) bzw. 12 GB (NVL). Gelesen auf der NVIDIA-H100-Seite (EN und DE) am 2026-11-19. Die Hopper-Architekturseite nennt SXM5 80 GB HBM3 und eine ältere PCIe-SKU 80 GB HBM2e. Kein Ranking, kein zweiter Kaufguide.


Speicherangabe, nicht Kaufberatung

IT-Leiter suchen „h100 vram“, wenn ein Hopper-Knoten für lokale Inferenz oder Feintuning dimensioniert wird — nicht, wenn nur die Miet-gegen-Kauf-Rechnung fehlt. Die bleibt unter NVIDIA H100 mieten vs. kaufen. Die Beschaffungsstrecke für den Einstieg bleibt der KI-Server Hardware-Guide. Was VRAM von System-RAM trennt, steht unter VRAM vs. RAM. Ob sich Grafikspeicher nachrüsten lässt: nein, siehe VRAM erhöhen.

Desktop-Ampere mit 10 oder 12 GB dokumentiert RTX 3080 VRAM. Ada mit 24 GB dokumentiert RTX 4090 VRAM. DGX Spark gegen H100 bleibt der DGX Spark vs. H100-Vergleich.

Zwei H100-SKUs laut NVIDIA-Produkttabelle

Die aktuelle Spezifikationstabelle listet SXM und NVL, nicht eine dritte Desktop-Karte:

SKUGPU-Speicher laut NVIDIASpeicherbandbreiteTDPMIGFormfaktorNVLinkPCIe
H100 SXM80 GB3,35 TB/sbis 700 W, konfigurierbarbis 7 × 10 GBSXM900 GB/sGen5 128 GB/s
H100 NVL94 GB3,9 TB/s350–400 W, konfigurierbarbis 7 × 12 GBPCIe, zwei Steckplätze, Luftkühlung600 GB/sGen5 128 GB/s

Die NVL-Fließtextzeile auf derselben Seite: PCIe-H100-NVL mit NVLink-Brücke nutzt Transformer Engine, NVLink und 188 GB HBM3. 94 GB plus 94 GB ergibt diese Paar-Angabe; sie gilt nicht für eine einzelne Karte.

Decoder laut Tabelle: 7 NVDEC und 7 JPEG, beide SKUs. Serveroptionen: HGX H100 und NVIDIA-Certified Systems mit 4 oder 8 GPUs, DGX H100 mit 8 GPUs (SXM); Partner und Certified Systems mit 1–8 GPUs (NVL). NVIDIA AI Enterprise: Add-on bei SXM, bei NVL inbegriffen, Laufzeit fünf Jahre laut Produktseite.

HBM3, HBM2e und die ältere PCIe-80-GB-SKU

Die Produkttabelle 2026 schreibt bei SXM nur „GPU Memory / GPU-Speicher 80 GB“, ohne HBM-Generation in der Zelle. Die Hopper-Architekturseite vom 22.03.2022 ist eindeutiger: H100 SXM5 ist die erste GPU mit 80 GB HBM3, fünf Stacks, zehn 512-Bit-Controller, Bandbreite dort „over 3 TB/sec“. Dieselbe Seite nennt eine PCIe-H100 mit 80 GB HBM2e und Bandbreite „over 2 TB/sec“. Diese 80-GB-PCIe-SKU steht nicht in der aktuellen SXM/NVL-Tabelle; wer nvidia-smi liest, muss SXM, NVL (94 GB) und ältere 80-GB-PCIe unterscheiden.

Die HGX-Referenzarchitektur (H100/H200/B200) schreibt für NVIDIA H100 SXM „80GB HBM3“ und „3.35TB/s“, für acht GPUs auf dem Baseboard 640 GB HBM3.

H200: 141 GB HBM3e

Die H200-Produktseite (DE, gelesen 2026-11-19) nennt die H200 als erste GPU mit HBM3E und listet SXM und NVL jeweils mit 141 GB Grafikkartenspeicher und 4,8 TB/s. TDP: SXM bis 700 W konfigurierbar, NVL bis 600 W. MIG: bis 7 Instanzen à 18 GB (SXM) bzw. 16,5 GB (NVL). Hopper-Architektur, nicht Blackwell. HGX-Docs: H200 SXM „141GB HBM3e“, acht GPUs bis 1,1 TB HBM3e bzw. 1128 GB in der Knotenzeile. Das ist die Schwester-Query „h200 vram“, nicht dieselbe URL.

Cluster-Netz zwischen Knoten bleibt InfiniBand vs. RoCE. Blackwell gegen Hopper bleibt Blackwell vs. Hopper.

Welche SKU steckt im Rechner?

nvidia-smi --query-gpu=name,memory.total --format=csv liest den verbauten Speicher. Vergleichen Sie die Ausgabe mit den NVIDIA-Angaben 80 GB (SXM oder ältere PCIe) bzw. 94 GB (NVL). Eine NVL muss in der Namenszeile als NVL erscheinen; 80 GB allein unterscheidet SXM und alte PCIe-HBM2e nicht.

VRAM ist fest auf der Karte. Wer mehr Grafikspeicher braucht, tauscht die GPU, verteilt Last oder verkleinert das Modell — nicht den Chip. Der Weg steht in VRAM erhöhen. Eine Modell-Passform ohne Messung am eigenen Stack steht hier nicht; dafür der VRAM-Rechner.

Im Container bleibt der Treiber-Pfad NVIDIA Container Toolkit.

Was diese Seite nicht ist

Kein zweiter Hardware-Kaufguide, keine Straßenpreise, keine Token/s- Tabelle, keine TCO. Miet-gegen-Kauf bleibt H100 mieten vs. kaufen. Desktop-Karten (30er/40er/50er) sind andere Baureihen.

Ob der Speicher defekt ist statt nur zu klein, prüft Defekter VRAM.

Häufige Fragen

Hat jeder H100 80 GB VRAM?

Nein. Die aktuelle NVIDIA-Tabelle listet SXM mit 80 GB und NVL mit 94 GB. Die Hopper-Architekturseite nennt zusätzlich eine PCIe-SKU mit 80 GB HBM2e. Zwei NVL mit Brücke stehen im Fließtext mit 188 GB HBM3.

Ist H100 NVL dasselbe wie zwei SXM?

Nein. NVL ist PCIe, zwei Steckplätze, Luftkühlung, 94 GB, 3,9 TB/s, NVLink 600 GB/s, TDP 350–400 W. SXM ist 80 GB, 3,35 TB/s, NVLink 900 GB/s, TDP bis 700 W. Das 188-GB-Paar gilt für zwei NVL plus Brücke.

Kann ich den VRAM des H100 nachrüsten?

Nein. Der Speicher ist Teil der Karte. Nachrüsten beschreibt VRAM erhöhen.

Reicht ein H100 als KI-Server-Karte?

Das entscheidet der freie Grafikspeicher plus Kontext, nicht der Marketingname. Server-Konfiguration bleibt im KI-Server Hardware-Guide.

Fazit

„H100 VRAM“ sind laut NVIDIA 80 GB (SXM) oder 94 GB (NVL). Zwei NVL mit NVLink-Brücke: 188 GB HBM3. H200-Schwester: 141 GB HBM3e. SKU am Gerät mit nvidia-smi lesen, nicht aus dem Gehäuseaufkleber raten. Kein Ranking, keine erfundenen Modellpreise.

📖 Verwandte Artikel

Weitere interessante Beiträge zu ähnlichen Themen