Kontingente bei Claude richtig planen

TL;DR

Claude Opus 5 zieht aus einem eigenen Kontingent, nicht aus dem gemeinsamen Topf der Opus-4er-Reihe. Wer Last dorthin verschiebt, gibt auf der alten Seite keine Reserve frei und erbt auf der neuen keine. Das ist der Punkt, an dem Migrationen unerwartet in 429er laufen.

Die getrennten Töpfe

Kontingente werden nicht global vergeben, sondern nach Modellgruppen — und die Gruppierung ist nicht selbsterklärend:

Claude Opus 4.8, 4.7, 4.6 und 4.5 teilen sich ein gemeinsames Opus-Kontingent. Last, die zwischen diesen Modellen verschoben wird, bleibt im selben Topf.

Claude Opus 5 hat ein eigenes. Es speist sich nicht aus dem Opus-4er-Kontingent und gibt nichts dorthin ab.

Die praktische Folge bei einer Migration: Sie schalten von Opus 4.8 auf Opus 5 um, und plötzlich kommen 429er — obwohl die Gesamtlast unverändert ist. Auf dem alten Topf liegt jetzt Reserve brach, auf dem neuen fehlt sie.

Prüfen Sie die Grenzen Ihrer Stufe für das Zielmodell, bevor Sie Volumen verschieben. Nicht danach.

Dasselbe gilt für den Schnellmodus: Er verfügt über eigene Kontingente, getrennt vom regulären Opus-Kontingent. Und die Prioritätsstufe deckt Claude Opus 5, Claude Sonnet 5 und Claude Mythos 5 ausdrücklich nicht ab — eine Anfrage mit Prioritätsstufe an eines dieser Modelle scheitert an der Validierung.

Die drei Dimensionen

Kontingente werden in drei Größen gemessen, und jede kann einzeln greifen:

Bei RAG-Anwendungen greift fast immer die Eingabegrenze zuerst: Wenige Anfragen mit je 25.000 Token erreichen die Token-Grenze lange vor der Anfragegrenze. Wer nur die Anfragen zählt, plant an der falschen Größe.

Ein Detail, das die Rechnung entlastet: Aus dem Cache gelesene Token zählen anders als voll berechnete. Ein funktionierendes Prompt-Caching schafft damit nicht nur Kostenluft, sondern auch Kontingentluft. Die Systematik steht im Beitrag zum Prompt-Caching.

Was die Kopfzeilen sagen

Jede Antwort trägt den aktuellen Stand mit:

antwort = client.messages.with_raw_response.create(...)
h = antwort.headers

print(h.get("anthropic-ratelimit-requests-remaining"))
print(h.get("anthropic-ratelimit-input-tokens-remaining"))
print(h.get("anthropic-ratelimit-output-tokens-remaining"))

nachricht = antwort.parse()

Bei einem 429 sagt retry-after in Sekunden, wie lange zu warten ist. Das SDK liest die Kopfzeile und wiederholt selbstständig — voreingestellt zweimal.

Beobachten Sie die verbleibenden Werte, nicht nur die 429er. Wenn der Restwert regelmäßig unter 10 Prozent fällt, sind Sie einen Lastanstieg von der Störung entfernt. Das ist der Zeitpunkt für eine Anhebung, nicht der erste Ausfall.

Kontingente für Managed Agents

Die Agenten-Endpunkte haben eigene Grenzen, unabhängig von den Token-Kontingenten. Die Modellinferenz innerhalb einer Sitzung zieht weiterhin aus dem regulären Token-Kontingent Ihrer Organisation.

Die letzte Zeile ist die, die in der Praxis zuerst greift: höchstens fünf gleichzeitige Operationen auf Umgebungen. Wer versucht, viele Umgebungen parallel anzulegen — etwa in einem Testaufbau —, läuft dagegen.

Vier Maßnahmen, wenn es eng wird

1. Prompt-Caching in Ordnung bringen. Der wirksamste Hebel, weil er gleichzeitig Kosten und Kontingent entlastet. Wenn cache_read_input_tokens niedrig ist, fangen Sie hier an.

2. Kontextlänge reduzieren. Weniger abgerufene Abschnitte, kürzere Systemanweisung. Bei RAG-Anwendungen ist der Kontext meist doppelt so groß wie nötig — ein Reranker senkt ihn deutlich und verbessert die Antwortqualität gleichzeitig.

3. Last verteilen. Nicht eilige Verarbeitung in die Batch-API verschieben. Die hat nicht nur 50 Prozent Rabatt, sondern nimmt auch Druck vom synchronen Kontingent. Die Systematik steht im Beitrag zur Batch-API.

4. Nach Modellen aufteilen. Klassifikation auf ein kleineres Modell verlagern — das zieht aus einem anderen Topf. Zwei Töpfe zu 60 Prozent sind besser als einer zu 100.

Der Fehler bei paralleler Verarbeitung

Ein Muster, das Kontingente unnötig verbrennt: N Anfragen mit identischem Prefix gleichzeitig abschicken.

Ein Cache-Eintrag wird erst lesbar, wenn die erste Antwort zu strömen beginnt. Zehn parallele Anfragen zahlen deshalb alle den vollen Preis — sowohl in Euro als auch im Kontingent. Schicken Sie eine, warten Sie das erste Token ab, dann die übrigen neun.

Häufig gestellte Fragen

Teilt sich Claude Opus 5 das Kontingent mit Opus 4.8?

Nein. Claude Opus 5 hat ein eigenes Kontingent, während sich Opus 4.8, 4.7, 4.6 und 4.5 einen gemeinsamen Topf teilen. Wer Last von 4.8 auf 5 verschiebt, gibt auf der alten Seite Reserve frei, die dort brachliegt, und erbt auf der neuen Seite nichts — prüfen Sie die Grenzen für das Zielmodell vor der Umstellung.

Welche Kontingentgrenze greift zuerst?

Bei RAG- und Dokumentenanwendungen fast immer die Eingabe-Token je Minute: Wenige Anfragen mit je 25.000 Token erreichen die Token-Grenze lange vor der Anfragegrenze. Wer nur Anfragen zählt, plant an der falschen Größe.

Zählen aus dem Cache gelesene Token voll?

Nein, sie werden anders gewertet als voll berechnete Eingabe-Token. Ein funktionierendes Prompt-Caching entlastet damit nicht nur die Rechnung, sondern auch das Kontingent — was es zur wirksamsten Einzelmaßnahme macht, wenn 429er auftreten.

Welche Grenzen gelten für Managed Agents?

Eigene, unabhängig von den Token-Kontingenten: 300 Anfragen je Minute für anlegende Operationen, 600 für die übrigen, und für Umgebungen 60 Anfragen je Minute bei höchstens fünf gleichzeitigen Operationen. Die Gleichzeitigkeitsgrenze bei Umgebungen greift in der Praxis zuerst. Die Modellinferenz innerhalb der Sitzungen zieht weiterhin aus dem regulären Token-Kontingent.

Wann sollte ich eine Anhebung beantragen?

Wenn der verbleibende Wert in den Antwortkopfzeilen regelmäßig unter 10 Prozent fällt — nicht erst beim ersten 429er. Beobachten Sie anthropic-ratelimit-input-tokens-remaining über einen typischen Lasttag; der Verlauf zeigt den Bedarf deutlich früher als die Störungsmeldung.

Der nächste Schritt

Protokollieren Sie eine Woche lang die verbleibenden Kontingentwerte aus den Antwortkopfzeilen. Der Verlauf sagt Ihnen, welche der drei Dimensionen bei Ihnen zuerst greift — und das ist die einzige, an der Optimierung etwas bringt. Bei der Auslegung helfen wir gern.