GLM-5.2 selbst betreiben: die Rechnung vor der Begeisterung

TL;DR

GLM-5.2 von Z.ai ist ein Mixture-of-Experts-Modell mit rund 743 Milliarden Gesamt- und etwa 40 Milliarden aktiven Parametern, unter MIT-Lizenz, ausgelegt auf langlaufende Coding- und Engineering-Aufgaben. Der Eigenbetrieb verlangt rund 446 GB nur für die Gewichte — acht Karten der 96-GB-Klasse, etwa 96.000 Euro netto.

Angaben geprüft am 4. August 2026. Zu den Parameterzahlen kursieren in Sekundärquellen Werte zwischen etwa 743 und 753 Milliarden — prüfen Sie den genauen Wert an der Modellkarte des Herstellers, bevor Sie kalkulieren.

Wofür das Modell gebaut wurde

Z.ai hat GLM-5.2 im Juni 2026 unter MIT-Lizenz veröffentlicht. Die Ausrichtung ist ungewöhnlich spezifisch: langlaufende, mehrstufige Aufgaben im Bereich Softwareentwicklung und Engineering — also Abläufe, bei denen ein Modell über viele Schritte hinweg einen Zusammenhang halten muss, statt eine einzelne Frage zu beantworten.

Das Kontextfenster liegt bei etwa einer Million Token. Für Coding-Aufgaben ist das der eigentliche Hebel: Ein vollständiges Repository passt in den Kontext.

Was der Betrieb verlangt

Bei rund 0,6 Byte je Parameter in 4-Bit-Quantisierung:

Gewichte:  743 Mrd. × 0,6 Byte  ≈ 446 GB

Mit acht Karten à 96 GB haben Sie 768 GB, nach Abzug der Gewichte bleiben rund 300 GB für KV-Cache und Overhead. Das ist eine tragfähige Auslegung — bei sieben Karten wird es eng, und sieben ist ohnehin keine gangbare Zahl für Tensor-Parallelität.

vllm serve /models/glm-5-2 \
  --served-model-name glm \
  --tensor-parallel-size 8 \
  --max-model-len 65536 \
  --gpu-memory-utilization 0.92 \
  --max-num-seqs 16

Die 40 Milliarden aktiven Parameter sind hier bemerkenswert: Sie liegen deutlich über dem, was schlankere MoE-Modelle aktivieren. Das bedeutet mehr Rechenlast je Token und damit geringeren Durchsatz als bei Modellen mit 13 oder 20 Milliarden aktiven Parametern — auch wenn beide nominell "sparse" sind. Wer Durchsatz braucht, sollte das einrechnen.

Bei acht Karten kommt die Verbindungstopologie voll zum Tragen. Tensor-Parallelität über acht GPUs synchronisiert nach jeder Schicht; ohne NVLink oder eine gleichwertige Verbindung verlieren Sie einen erheblichen Teil der Rechenleistung an Kommunikation. Prüfen Sie das vor der Beschaffung, nicht danach.

Die ehrliche Einordnung für den Mittelstand

Rund 96.000 Euro netto allein für GPUs, plus Server, Netzteile, Kühlung und Netzwerk — realistisch 130.000 bis 150.000 Euro Gesamtinvestition. Dazu ein Serverraum, der 6 bis 8 Kilowatt Dauerlast abführen kann.

Das ist keine Anschaffung für ein Unternehmen mit 300 Mitarbeitern, das eine Wissenssuche betreiben will. Es ist eine Anschaffung für ein Haus, das Softwareentwicklung als Kernprozess betreibt und dafür ein Modell braucht, das über lange Ketten stabil bleibt — und bei dem der Quellcode das Haus nicht verlassen darf.

Die zweite Frage, die wir in solchen Gesprächen stellen: Was ist die Alternative? Für Coding-Unterstützung existieren kommerzielle Angebote, die pro Entwickler abgerechnet werden. Bei 20 Entwicklern und einem üblichen Preis pro Sitzplatz reden wir über einen niedrigen fünfstelligen Betrag im Jahr. Gegen 150.000 Euro Investition plus Betrieb ist das eine klare Rechnung — es sei denn, die Datenlage lässt die kommerzielle Variante nicht zu.

Genau das ist der Fall, in dem dieses Modell Sinn ergibt: Der Quellcode enthält Betriebsgeheimnisse oder unterliegt Kundenauflagen, und deshalb ist Auslagerung ausgeschlossen. Dann ist die Frage nicht mehr, ob es sich rechnet, sondern was die Alternative kostet — nämlich gar keine Unterstützung.

Die Alternative, die wir häufiger empfehlen

Für Häuser, die Coding-Unterstützung im eigenen Haus brauchen, aber nicht in dieser Größenordnung investieren können, gibt es einen Mittelweg: ein Modell der 30B-Klasse mit Coding-Ausrichtung auf einer einzelnen Karte.

Der Qualitätsunterschied ist real und bei langen, mehrstufigen Aufgaben spürbar. Bei den Aufgaben, die im Alltag tatsächlich anfallen — eine Funktion ergänzen, einen Test schreiben, eine Fehlermeldung erklären — ist er deutlich kleiner, als die Parameterzahlen vermuten lassen.

Testen Sie das, bevor Sie entscheiden. Der Aufwand dafür ist eine gemietete GPU-Stunde und ein Satz eigener Aufgaben.

Häufig gestellte Fragen

Wie viel GPU-Speicher braucht GLM-5.2?

Bei rund 743 Milliarden Parametern und 4-Bit-Quantisierung etwa 446 GB allein für die Gewichte, ohne KV-Cache und Overhead. Praktisch bedeutet das acht Karten der 96-GB-Klasse, weil Tensor-Parallelität eine Zweierpotenz verlangt und Reserve für den Kontext bleiben muss.

Ist GLM-5.2 kommerziell frei nutzbar?

Ja, das Modell steht unter MIT-Lizenz. Kommerzielle Nutzung, Veränderung und Weiterverbreitung sind ohne gesonderte Vereinbarung mit dem Anbieter zulässig. Prüfen Sie die Lizenzangabe dennoch an der Modellkarte der von Ihnen geladenen Fassung, da Hersteller Lizenzen zwischen Versionen ändern können.

Warum ist GLM-5.2 langsamer als andere MoE-Modelle ähnlicher Größe?

Weil es mit rund 40 Milliarden Parametern je Token deutlich mehr aktiviert als schlankere MoE-Modelle, die bei 11 bis 23 Milliarden liegen. Die aktiven Parameter bestimmen die Rechenlast je Token — mehr aktive Parameter bedeuten bei gleicher Hardware geringeren Durchsatz, auch wenn beide Modelle als sparse gelten.

Lohnt sich der Eigenbetrieb gegenüber kommerziellen Coding-Assistenten?

Nur wenn die Auslagerung ausgeschlossen ist. Bei einer Gesamtinvestition von 130.000 bis 150.000 Euro plus Betrieb liegt der Break-even gegenüber lizenzbasierten Angeboten für ein Entwicklungsteam üblicher Größe in weiter Ferne. Der Fall, der trägt: Der Quellcode enthält Betriebsgeheimnisse oder unterliegt Kundenauflagen, die eine Übermittlung an Dritte untersagen.

Reicht ein kleineres Modell für Coding-Unterstützung?

Für die Aufgaben, die im Alltag anfallen, meist ja — eine Funktion ergänzen, einen Test schreiben, eine Fehlermeldung einordnen. Der Abstand wird bei langen, mehrstufigen Aufgaben deutlich, bei denen ein Modell über viele Schritte hinweg den Zusammenhang halten muss. Testen Sie beide an Ihren eigenen Aufgaben, statt sich auf Vergleichswerte zu verlassen.

Der nächste Schritt

Sammeln Sie zehn echte Aufgaben aus Ihrem Entwicklungsalltag und lassen Sie ein 30B-Modell und ein Modell dieser Klasse dieselben Aufgaben bearbeiten. Wenn Ihre Entwickler den Unterschied nicht deutlich benennen können, ist die Investitionsfrage beantwortet. Beim Aufbau des Vergleichs unterstützen wir gern.