Jede KI-Anwendung, die wächst, bekommt irgendwann dieselbe Meldung: HTTP 429, rate limit exceeded. Rate Limits legen fest, wie viele Anfragen und Tokens Ihr Unternehmen pro Minute senden darf, Ausgabenlimits, wie viel es pro Monat ausgeben darf. Sie stehen selten im Projektplan und entscheiden doch, ob ein Launch, ein nächtlicher Batch-Lauf oder ein voller Montagmorgen funktioniert. Wir haben die offizielle Dokumentation 2026 von Anthropic, OpenAI, Google, Mistral und Manus gelesen und Stufen, Limits, Obergrenzen und Fehlerbehandlung verglichen.
Zwei Arten von Limits: pro Minute und pro Monat
Alle Anbieter kombinieren zwei Mechanismen. Rate Limits begrenzen den Traffic in einem kurzen Zeitfenster: Anfragen pro Minute (RPM) und Tokens pro Minute (TPM). Ausgabenlimits begrenzen die Monatsrechnung. Beide gelten pro Organisation, nicht pro Nutzer oder API-Schlüssel. Alle Anwendungen und Entwickler einer Organisation teilen sich also einen Pool, solange Sie ihn nicht über Workspaces oder Projekte aufteilen.
Die Details unterscheiden sich an wichtigen Stellen. Anthropic zählt Input-Tokens (ITPM) und Output-Tokens (OTPM) getrennt; OpenAI und Mistral haben ein gemeinsames Token-Limit für Input und Output. Anthropic nutzt einen Token-Bucket, der sich laufend auffüllt, statt zu jeder Minute zurückgesetzt zu werden, und weist darauf hin, dass 60 RPM als eine Anfrage pro Sekunde durchgesetzt werden können. Kurze Bursts können daher scheitern, obwohl die Minutensumme unter dem Limit liegt.
Anthropic: Start, Build, Scale und Custom
Anthropic ordnet Organisationen automatisch einer Stufe zu, abhängig von Nutzungshistorie und Kontostatus. Neue Organisationen können in einer Evaluation-Stufe unterhalb der Standardwerte starten, bis sich eine Historie aufgebaut hat. Die aktuellen Claude-5.5-Modelle haben pro Stufe dieselben Standardlimits: 1.000 RPM, 2 Millionen ITPM und 400.000 OTPM auf Start, 5.000 RPM mit 5 und 1 Million auf Build sowie 10.000 RPM mit 10 und 2 Millionen auf Scale. Claude Fable 5.x hat eigene, niedrigere Limits. Die Custom-Stufe hat keine veröffentlichte Obergrenze und kein Monatslimit.
Quelle: Anthropic, "Rate limits" (platform.claude.com/docs/en/api/rate-limits), gelesen am 27. Oktober 2026. Standardlimits der Messages API; Claude Opus 5.5, Sonnet 5.5 und Haiku 5.5 haben pro Stufe identische Limits, jeweils mit eigenem Bucket. RPM: 1.000 / 5.000 / 10.000 (Fable 5.x: 1.000 / 2.000 / 4.000). Werte in Millionen.
Jedes Modell hat seinen eigenen Bucket. Opus 5.5 und Sonnet 5.5 teilen sich kein Limit, ältere Modelle dagegen schon (zum Beispiel alle Opus-4.x-Versionen zusammen). Wer einfache Anfragen an Haiku 5.5 leitet, gewinnt also Kapazität, statt das Opus-Budget zu verbrauchen. Auch die Message Batches API hat eigene Limits: 200.000 Batch-Anfragen in der Warteschlange auf Start, 500.000 auf Scale, bis zu 100.000 Anfragen pro Batch.
Monatliche Ausgabenlimits im Vergleich
Das Monatslimit ist das Limit, das die meisten Teams zufällig entdecken. Anthropic begrenzt Start auf 500 USD, Build auf 1.000 USD und Scale auf 200.000 USD im Monat. OpenAI stuft Organisationen automatisch hoch, wenn ihre gesamten Guthabenkäufe wachsen: 5 USD schalten Build frei (500 USD im Monat), 100 USD Launch (5.000 USD) und 500 USD Grow (200.000 USD). Google knüpft die Gemini-Stufen an das verknüpfte Cloud-Rechnungskonto: Tier 1 verlangt ein aktives Rechnungskonto und ist auf 250 USD begrenzt, Tier 2 verlangt 100 USD bezahlt plus drei Tage (2.000 USD), Tier 3 verlangt 1.000 USD bezahlt plus 30 Tage (20.000 bis 100.000 USD und mehr).
Quellen: Anthropic "Rate limits", OpenAI-Leitfaden "Rate limits" (developers.openai.com), Google "Gemini API rate limits" (ai.google.dev), alle gelesen am 27. Oktober 2026. Anthropics Custom-Stufe hat kein Limit; Gemini Tier 3 ist mit 20.000 bis 100.000+ USD angegeben. Mistral veröffentlicht keine Stufenlimits; sie stehen in der Konsole.
enforced_spend_limit_reached und ohne retry-after-Header. SDK-Wiederholungen scheitern, bis Sie eine Stufe höher kommen. Ein selbst gesetztes Limit unter der Stufengrenze liefert dagegen HTTP 400. Prüfen Sie Ihren Stand vor einem Produktlaunch oder einem großen Batch-Lauf, nicht währenddessen.
OpenAI: Build, Launch und Grow
OpenAI hat seine Nutzungsstufen auf drei bezahlte Stufen plus eine kostenlose (100 USD im Monat in zugelassenen Regionen) reduziert. Die Standardlimits für die Modelle Astra, Sol und Terra der GPT-6-Familie steigen von 5.000 RPM und 1 Million TPM auf Build auf 15.000 RPM und 40 Millionen TPM auf Grow. Das Modell Luna geht bis 30.000 RPM und 180 Millionen TPM. Anfragen mit langem Kontext haben ein eigenes Limit, manche Modellfamilien teilen sich ein Limit, und die Batch API zählt die Input-Tokens in der Warteschlange pro Modell.
Quelle: OpenAI, Leitfaden "Rate limits" (developers.openai.com/api/docs/guides/rate-limits), gelesen am 27. Oktober 2026. Standardlimits; der Ultrafast-Modus hat eigene. RPM: Astra, Sol, Terra 5.000 / 10.000 / 15.000; Luna 5.000 / 10.000 / 30.000. OpenAIs TPM zählt Input und Output zusammen, Anthropic getrennt, die Zahlen sind daher nicht direkt vergleichbar.
Google, Mistral und Manus
- Google Gemini veröffentlicht die Stufenregeln und Batch-Limits (Tier 1: 5 Millionen Batch-Tokens in der Warteschlange für Gemini 4 Argon, Tier 2: 500 Millionen), die RPM- und TPM-Werte pro Modell aber nur in Google AI Studio. Google betont, dass die Limits nicht garantiert sind und die Kapazität schwanken kann. Priority Inference erhält das 0,3-Fache des Standardlimits.
- Mistral misst Anfragen pro Sekunde, Tokens pro Minute und Tokens pro Monat, wobei Input und Output zusammen zählen. Die kostenlose Stufe ist für Evaluation und Prototypen gedacht; Produktivlasten brauchen einen bezahlten Scale-Plan. Die konkreten Werte zeigt Mistral nur im Bereich Limits seiner Konsole.
- Manus begrenzt seine Agenten-API pro Nutzer und Endpunkt, für alle Pläne gleich: 10 neue Tasks oder Folgenachrichten pro Minute, 40 Änderungen oder Stopps und 100 Statusabfragen pro Minute, 600 Nutzungsabfragen pro Minute. Alle API-Schlüssel eines Nutzers teilen sich den Zähler. Für einen Agenten, der pro Task Minuten läuft, sind 10 Starts pro Minute selten der Engpass; die Credits sind es.
Prompt Caching: der günstigste Weg zu mehr Claude-Durchsatz
Anthropics Limits wirken auf den ersten Blick niedriger als die von OpenAI, mit einem wichtigen Unterschied: Bei fast allen aktuellen Claude-Modellen zählen aus dem Prompt-Cache gelesene Tokens nicht zum ITPM. Es zählen nur nicht gecachter Input und Tokens, die in den Cache geschrieben werden. Mit 2 Millionen ITPM und 80 % Cache-Treffern verarbeiten Sie etwa 10 Millionen Input-Tokens pro Minute, und gecachte Tokens kosten zudem nur einen Bruchteil des normalen Preises.
Blocksize-Berechnung nach Anthropics Regel, dass Cache-Lesezugriffe nicht zum ITPM zählen (die meisten Modelle): effektive Input-Tokens pro Minute = 2.000.000 / (1 − Trefferquote). Anthropics Dokumentation nennt das Beispiel mit 80 % (10 Mio.). Das Output-Limit (OTPM) gilt weiterhin.
Am meisten profitieren Anwendungen mit einem langen, stabilen System-Prompt, Tool-Definitionen oder einem großen Referenzdokument. Dieselbe Regel macht max_tokens harmlos: Anthropic zählt nur tatsächlich erzeugte Output-Tokens, ein hoher max_tokens-Wert verbraucht also kein OTPM im Voraus. Die Einrichtung beschreiben wir im Leitfaden zum Prompt Caching.
Den 429 lesen: was wiederholen, was nicht
| Antwort | Ursache | Was tun |
|---|---|---|
429 mit retry-after | RPM, ITPM, OTPM oder TPM überschritten | Die angegebenen Sekunden warten, dann mit exponentiellem Backoff und Jitter wiederholen |
| 429 nach einem Traffic-Sprung | Beschleunigungslimit (Anthropic) oder "slow_down" (OpenAI) | Traffic schrittweise erhöhen; Batch-Starts verteilen |
429, Anthropic enforced_spend_limit_reached | Monatslimit der Stufe erreicht | Nicht wiederholen; Stufenerhöhung beantragen |
| 400, "specified API usage limits" | Eigenes Ausgabenlimit (Anthropic) | Limit in der Konsole erhöhen oder entfernen |
| 503 "server_is_overloaded" (OpenAI) / 529 (Anthropic) | Vorübergehende Überlastung beim Anbieter | Mit Backoff wiederholen; Ausweichmodell oder -region erwägen |
Anthropic und OpenAI liefern den aktuellen Stand in Antwort-Headern (anthropic-ratelimit-input-tokens-remaining, x-ratelimit-remaining-tokens und verwandte). Protokollieren Sie sie. Sie zeigen lange vor dem ersten 429, wie nah Sie am Limit arbeiten, und sind der beste Nachweis, wenn Sie eine höhere Stufe beantragen.
Sechs Regeln für den Produktivbetrieb
- Kennen Sie Ihre Stufe vor dem Launch. Prüfen Sie die Limits-Seite in der Konsole oder in AI Studio und beantragen Sie die höhere Stufe Wochen vor einer Kampagne, nicht am selben Tag.
- Trennen Sie Workloads. Nutzen Sie Anthropic-Workspaces oder OpenAI-Projekte mit eigenen Limits, damit ein Batch-Lauf oder ein Test den Kunden-Chatbot nicht aushungert.
- Cachen Sie alles, was sich wiederholt. System-Prompts, Tool-Definitionen und lange Dokumente im Cache erhöhen den Claude-Durchsatz und senken die Kosten.
- Verlagern Sie Nicht-Dringendes in Batches. Die Batch APIs haben eigene Limits und den halben Preis (siehe Batch-Verarbeitung).
- Routen Sie nach Aufgabe. Kleine Modelle haben eigene Buckets; einfache Anfragen dorthin zu schicken schafft Kapazität für das große Modell (siehe Modell-Routing).
- Backoff richtig umsetzen.
retry-afterrespektieren, exponentiellen Backoff mit Jitter nutzen, Parallelität über eine Warteschlange begrenzen und einen Ausgabenlimit-Fehler nie in einer Schleife wiederholen.
Was das für Unternehmen in Kroatien und der DACH-Region bedeutet
Die meisten europäischen KMU starten auf der niedrigsten Stufe, deren Monatslimit (500 USD bei Anthropic und OpenAI Build, 250 USD bei Gemini Tier 1) schneller erreicht ist als erwartet, sobald ein interner Assistent im ganzen Unternehmen ausgerollt wird. Planen Sie den Stufenwechsel als Teil des Go-lives, halten Sie Produktion und Experimente in getrennten Workspaces und denken Sie Caching vom ersten Tag an mit: Es ist die einzige Maßnahme, die zugleich Kosten senkt und Kapazität erhöht. Für kritische Prozesse schützt ein zweiter Anbieter oder ein Cloud-Weg (Claude über AWS Bedrock oder Google Cloud, mit eigenen Kontingenten) davor, dass ein einziger 429 das Geschäft anhält.
Häufige Fragen
Welche Rate Limits hat die Claude API 2026?
Anthropic ordnet Organisationen den Stufen Start, Build, Scale oder Custom zu. Für Claude Opus 5.5, Sonnet 5.5 und Haiku 5.5 gelten als Standard auf Start 1.000 Anfragen, 2 Millionen Input- und 400.000 Output-Tokens pro Minute; auf Build 5.000 Anfragen, 5 Millionen Input- und 1 Million Output-Tokens; auf Scale 10.000 Anfragen, 10 Millionen Input- und 2 Millionen Output-Tokens. Claude Fable 5.x hat niedrigere Limits. Neue Organisationen können in einer Evaluation-Stufe unterhalb dieser Werte starten.
Welche Nutzungsstufen hat die OpenAI API?
OpenAI hat jetzt drei bezahlte Stufen. Build setzt 5 USD an Guthabenkäufen voraus und erlaubt 500 USD im Monat, Launch 100 USD und 5.000 USD im Monat, Grow 500 USD und 200.000 USD im Monat. Die Standardlimits für die Modelle Astra, Sol und Terra steigen von 1 Million Tokens pro Minute auf Build auf 40 Millionen auf Grow; Luna geht von 2 auf 180 Millionen.
Zählen gecachte Tokens zu den Claude-Rate-Limits?
Bei fast allen aktuellen Claude-Modellen nicht. Zum Limit der Input-Tokens pro Minute zählen nur nicht gecachte Input-Tokens und Tokens, die in den Cache geschrieben werden; aus dem Cache gelesene Tokens zählen nicht. Bei 80 % Cache-Treffern erlaubt ein Limit von 2 Millionen ITPM daher etwa 10 Millionen Input-Tokens pro Minute.
Warum liefert die API 429, obwohl ich unter dem Limit bin?
Meist aus einem von drei Gründen: ein kurzer Burst, weil ein Minutenlimit in kleineren Intervallen durchgesetzt wird (60 RPM können eine Anfrage pro Sekunde bedeuten); ein Beschleunigungslimit nach einem plötzlichen Traffic-Anstieg; oder ein monatliches Ausgabenlimit. Der 429 von Anthropic wegen des Ausgabenlimits hat keinen retry-after-Header und den Code enforced_spend_limit_reached, Wiederholungen helfen also erst im nächsten Monat oder nach einem Stufenwechsel.
Ist Ihre KI-Anwendung bereit für echten Traffic?
Wir prüfen Stufen, Limits, Caching und Retry-Logik, trennen Workloads und planen die Kapazität für Ihren Go-live. Als Claude Certified Architect aus Zagreb arbeiten wir mit Unternehmen in Kroatien und der DACH-Region.
Mit einem KI-Berater sprechen