Step 3.7 Flash: das einzige Spitzenmodell, das in einen Serverraum passt

TL;DR

Step 3.7 Flash von StepFun hat 198 Milliarden Gesamtparameter bei rund 11 Milliarden aktiven, versteht Bilder über einen eingebauten Bildencoder und steht unter Apache 2.0. In 4-Bit-Quantisierung reichen zwei Karten der 96-GB-Klasse — das ist von allen offenen Spitzenmodellen die einzige Konfiguration, die für ein mittelständisches Rechenzentrum realistisch ist.

Angaben geprüft am 4. August 2026. Prüfen Sie Spezifikationen und Lizenz an der Modellkarte, bevor Sie eine Beschaffung darauf stützen.

Warum dieses Modell die interessanteste Zeile der Tabelle ist

In der Übersicht der weltweit meistgenutzten offenen Modelle steht Step 3.7 Flash weit unten. Genau deshalb ist es für deutsche Mittelständler das interessanteste.

Alle anderen aus dieser Gruppe brauchen vier bis sechzehn GPU-Karten. Dieses braucht zwei. Der Unterschied zwischen 24.000 und 96.000 Euro Investition allein für GPUs ist die Grenze zwischen "prüfen wir" und "kommt nicht in Frage".

Die Eckdaten

Drei Punkte, die praktisch zählen.

Der Bildencoder ist eingebaut. Ein dedizierter Bildteil speist Bildinformationen direkt in den Sprachkontext ein. Diagramme, PDF-Seiten, Bildschirmaufnahmen und technische Zeichnungen lassen sich damit ohne separaten Bilddienst verarbeiten. Für Dokumentenanwendungen, in denen gescannte Seiten und Zeichnungen vorkommen, ist das ein handfester Vorteil gegenüber einer Kette aus zwei Modellen.

Die Gewichte gibt es in mehreren Formaten, einschließlich GGUF. Das ist praktisch, weil Sie nicht selbst quantisieren müssen und für erste Tests auch mit einer llama.cpp-basierten Umgebung arbeiten können.

Apache 2.0 erlaubt die kommerzielle Nutzung ohne gesonderte Vereinbarung — im Gegensatz zu manchen anderen Modellen mit offenen Gewichten.

Das Kontextfenster von 256.000 Token ist kleiner als bei den Modellen, die eine Million bieten. Für RAG-Anwendungsfälle ist das irrelevant: Dort arbeiten Sie mit 8.000 bis 32.000 Token Kontext. Relevant würde es, wenn Sie ganze Repositories oder Aktenbestände in einem Durchgang verarbeiten wollen.

Die Konfiguration

hf download stepfun-ai/Step-3.7-Flash --local-dir /models/step-37-flash

vllm serve /models/step-37-flash \
  --served-model-name step-flash \
  --tensor-parallel-size 2 \
  --max-model-len 32768 \
  --gpu-memory-utilization 0.90 \
  --max-num-seqs 32 \
  --limit-mm-per-prompt image=4

Speicherrechnung bei 4-Bit-Quantisierung und etwa 0,6 Byte je Parameter:

Gewichte:  198 Mrd. × 0,6 Byte  ≈ 119 GB
Verfügbar: 2 × 96 GB            = 192 GB
Rest für KV-Cache und Overhead   ≈ 70 GB

70 GB für KV-Cache sind komfortabel. Bei 32.000 Token Kontext trägt das eine ordentliche Zahl paralleler Sitzungen — die genaue Zahl hängt an der Attention-Konfiguration des Modells, rechnen Sie sie nach der Systematik aus dem Beitrag zum VRAM-Bedarf für Ihren Fall durch.

Die 11 Milliarden aktiven Parameter sind der niedrigste Wert im Feld der Spitzenmodelle. Das bedeutet hohen Durchsatz je Karte — dieses Modell bedient bei gleicher Hardware deutlich mehr parallele Nutzer als eines mit 40 oder 55 aktiven Milliarden.

Die Rechnung für den Mittelstand

Zwei Karten à 96 GB: rund 24.000 Euro netto. Server mit passender Stromversorgung, Kühlung und ausreichend PCIe-Anbindung: 12.000 bis 15.000 Euro. Gesamt also rund 36.000 bis 40.000 Euro.

Das ist eine Größenordnung, die ein produzierendes Unternehmen mit 300 Mitarbeitern über eine normale Investitionsentscheidung abbilden kann. Verteilt über drei Jahre sind das 13.000 Euro im Jahr — weniger als die Lizenzkosten für 40 Sitzplätze eines kommerziellen Assistenten.

Bevor das als Kaufempfehlung gelesen wird, die ehrliche Gegenrechnung: Für interne Wissenssuche, Zusammenfassung und Textformulierung reicht ein Modell der 30B-Klasse auf einer einzelnen Karte, und das kostet ein Drittel. Der Aufpreis für dieses Modell lohnt, wenn mindestens einer der folgenden Punkte zutrifft:

• Sie verarbeiten Bilder und Text gemeinsam — gescannte Dokumente, Zeichnungen, Prüfbilder
• Ihre Aufgaben sind mehrstufig und lang, nicht Frage-Antwort
• Sie bedienen viele parallele Nutzer und brauchen den Durchsatz

Trifft keiner zu, sparen Sie das Geld.

Häufig gestellte Fragen

Wie viel VRAM braucht Step 3.7 Flash?

Bei 198 Milliarden Parametern und 4-Bit-Quantisierung rund 119 GB für die Gewichte. Zwei Karten der 96-GB-Klasse bieten 192 GB und lassen damit rund 70 GB für KV-Cache und Overhead — eine komfortable Auslegung für den Mehrbenutzerbetrieb. Es ist das einzige der offenen Spitzenmodelle, das mit zwei Karten auskommt.

Kann Step 3.7 Flash Bilder verarbeiten?

Ja, über einen eingebauten Bildencoder, der Bildinformationen direkt in den Sprachkontext einspeist. Damit lassen sich Diagramme, PDF-Seiten, Bildschirmaufnahmen und technische Zeichnungen ohne separaten Bilddienst auswerten — ein Vorteil gegenüber Aufbauten, die ein Bildmodell und ein Sprachmodell hintereinanderschalten.

Ist das kleinere Kontextfenster ein Nachteil?

Für die meisten Unternehmensanwendungen nicht. RAG-Anwendungsfälle arbeiten mit 8.000 bis 32.000 Token Kontext, weit unterhalb der 256.000. Relevant wird die Grenze erst, wenn ganze Codebasen oder Aktenbestände in einem Durchgang verarbeitet werden sollen — dann brauchen Sie ein Modell mit einer Million Token und entsprechend mehr Hardware.

Warum ist dieses Modell schneller als größere?

Weil es mit rund 11 Milliarden Parametern je Token am wenigsten aktiviert. Die aktiven Parameter bestimmen die Rechenlast je erzeugtem Token — ein Modell mit 55 aktiven Milliarden braucht bei gleicher Hardware ein Vielfaches der Zeit. Bei vielen parallelen Nutzern ist das der praktisch entscheidende Faktor.

Lohnt sich Step 3.7 Flash gegenüber einem 30B-Modell?

Nur bei konkretem Bedarf. Für interne Wissenssuche und Textarbeit liefert ein 30B-Modell auf einer Karte vergleichbare Ergebnisse zu einem Drittel der Kosten. Der Aufpreis rechnet sich, wenn Bilder und Text gemeinsam verarbeitet werden, wenn Aufgaben mehrstufig und lang sind, oder wenn viele parallele Nutzer bedient werden müssen.

Der nächste Schritt

Wenn in Ihrem Dokumentenbestand gescannte Seiten und technische Zeichnungen vorkommen, testen Sie dieses Modell gegen Ihre bisherige Kette aus Texterkennung und Sprachmodell. Genau dort liegt sein Mehrwert, und dort ist er messbar. Beim Aufbau des Vergleichs unterstützen wir gern.