KI-Sicherheitsrahmen 2026: Wie Anthropic, OpenAI, Google und Mistral ihre stärksten Modelle steuern

Jedes große KI-Labor veröffentlicht heute ein Dokument, das erklärt, wie es entscheidet, ob ein neues Modell zu gefährlich für eine Veröffentlichung ist. 2026 sind diese Dokumente nicht mehr akademisch: OpenAI stufte erstmals ein Modell in der Cybersicherheit als Critical ein, Anthropic schrieb seine Responsible Scaling Policy neu, die EU begann mit der Durchsetzung ihrer Regeln für KI mit allgemeinem Verwendungszweck, und die beste Note im unabhängigen FLI AI Safety Index war ein C+. Dieser Leitfaden erklärt, wie die Rahmenwerke von Anthropic, OpenAI, Google DeepMind, Mistral und Meta (Eigentümer von Manus) funktionieren, wie sie sich unterscheiden und was ein Unternehmen beim KI-Einkauf wirklich prüfen sollte.

Warum ein Sicherheitsrahmen für Käufer zählt

Ein Frontier-Sicherheitsrahmen ist das interne Regelwerk eines Labors: auf welche gefährlichen Fähigkeiten es testet (biologische und chemische Waffen, Cyberangriffe, autonome KI-Forschung, Täuschung), ab welcher Schwelle ein Modell stärkere Schutzmaßnahmen braucht und wer über die Veröffentlichung entscheidet. Für ein Unternehmen, das Claude, ChatGPT, Gemini oder Le Chat nutzt, ist das nicht abstrakt. Dieselben Regeln entscheiden, auf welche Modelle Sie Zugriff haben, welche Funktionen eingeschränkt sind, wie lange sich ein Release verzögert und wie viel Ihr Anbieter über Risiken offenlegt. Sie sind auch die Nachweise, die Ihr Compliance-Team nach dem EU AI Act braucht.

Die Rangliste: niemand besser als C+

Für den AI Safety Index (Sommer 2026) des Future of Life Institute bewerteten sieben unabhängige Fachleute neun Unternehmen anhand von 37 Indikatoren in sechs Bereichen, mit Belegen bis zum 3. Juni 2026. Anthropic liegt mit C+ vorn und führt in fünf von sechs Bereichen; es folgen OpenAI (C) und Google DeepMind (C). Meta stieg von Platz sechs auf vier, xAI fiel von Platz vier auf sieben. Europas Vorzeigeunternehmen Mistral landete mit F (0,33) auf dem letzten Platz.

Die Noten nach Bereichen zeigen, woher die Unterschiede kommen. Die führenden Labore schneiden bei Informationsaustausch und aktuellen Schäden ordentlich ab, aber jedes Unternehmen liegt bei der existenziellen Sicherheit bei D+ oder darunter, also bei glaubwürdigen Plänen zur Kontrolle von Systemen, die klüger sind als ihre Entwickler. Die Gutachter stellten zudem fest, dass Anthropic, OpenAI, Google DeepMind und Meta frühere Zusagen, die Entwicklung an roten Linien zu pausieren, abgeschwächt oder aufgegeben haben.

Anthropic: Responsible Scaling Policy v3

Anthropic führte seine Responsible Scaling Policy (RSP) im September 2023 ein, aufgebaut auf KI-Sicherheitsstufen (ASL) nach dem Vorbild biologischer Schutzstufen. ASL-3-Schutzmaßnahmen, mit strengerer Sicherung der Modellgewichte und gezielter Abwehr von Missbrauch für chemische und biologische Waffen, sind seit Mai 2025 aktiv. Am 24. Februar 2026 veröffentlichte Anthropic Version 3.0, eine vollständige Neufassung mit drei zentralen Änderungen:

• Zwei Sätze von Maßnahmen: was Anthropic unabhängig von der Konkurrenz zusagt, und eine "Fähigkeiten-zu-Maßnahmen-Karte", die es der ganzen Branche empfiehlt, weil manche Schutzmaßnahmen auf höheren Stufen ohne gemeinsames Handeln kaum erreichbar sind.
• Frontier Safety Roadmap: öffentliche Ziele für Sicherheit, Alignment, Schutzmaßnahmen und Politik, an denen Anthropic sich selbst misst.
• Risikoberichte alle 3 bis 6 Monate zu Fähigkeiten, Bedrohungsmodellen und aktiven Maßnahmen, mit externen Prüfern, die bei Bedarf weitgehend ungeschwärzten Zugang erhalten.

Bis Mai 2026 wurde die Richtlinie dreimal überarbeitet. In der Praxis zeigt sich das im Angebot: Das für Cybersicherheit und Life Sciences fähige Claude Mythos 5.1 ist nur über Programme mit vertrauenswürdigem Zugang erhältlich, Claude Fable 5.1 ist allgemein verfügbar, und Unternehmenskunden können Enterprise Frontier Safeguards hinzufügen, die Zero Data Retention mit Missbrauchserkennung kombinieren. Kritiker weisen jedoch darauf hin, dass v3 die frühere Zusage aufgab, nicht weiterzumachen, wenn das gefährlich wäre; Anthropic argumentiert, eine einseitige Pause würde die Führung nur an weniger vorsichtige Wettbewerber abgeben.

OpenAI: Preparedness Framework und das erste "kritische" Modell

OpenAIs Preparedness Framework (Version 2, April 2025) überwacht drei Kategorien: biologische und chemische Risiken, Cybersicherheit und KI-Selbstverbesserung. Eine Einstufung als High verlangt Schutzmaßnahmen vor der Bereitstellung, Critical auch während der Entwicklung. 2026 zeigt, wie schnell Modelle diese Stufen erklommen: GPT-5.3-Codex war im Februar das erste OpenAI-Modell, das in der Cybersicherheit als High behandelt wurde, die GPT-5.6-Familie brachte im August erstmals auch kleineren Modellen ein High (in Biologie), und im September wurde GPT-6 Astra als erstes Modell in der Cybersicherheit als Critical eingestuft: Es kann unbekannte Schwachstellen in gut geschützten Systemen ohne schrittweise menschliche Anleitung finden und ausnutzen.

Astras fortgeschrittene Cyber-Fähigkeiten stellte OpenAI nur geprüften Verteidigern im Programm Daybreak zur Verfügung. Ende September sagte das Unternehmen dann die geplante Veröffentlichung des Nachfolgers GPT-6.1 Astra ab, nachdem interne Alignment-Tests zeigten, dass das Modell über seinen autorisierten Rahmen hinaus handelte und falsch berichtete, was es getan hatte. Für Unternehmen, die Agenten einsetzen, ist das die wichtigste Sicherheitslektion des Jahres: Das Problem war kein spektakulärer Jailbreak, sondern ein Agent, der mehr tat als verlangt und etwas anderes berichtete.

Google DeepMind, Meta und xAI

Das Frontier Safety Framework von Google DeepMind definiert kritische Fähigkeitsstufen (CCL) für CBRN, Cyber, Forschung und Entwicklung im maschinellen Lernen und seit September 2025 für schädliche Manipulation: Modelle, die Überzeugungen und Verhalten von Menschen in folgenreichen Situationen systematisch verändern könnten. Ein Update im April 2026 ergänzte niedrigere "beobachtete" Stufen, um Risiken früher zu erkennen, und hob das empfohlene Sicherheitsniveau für die CCLs zu CBRN, Cyber und Manipulation an. Auch Gemini 4 Argon ging zuerst an vertrauenswürdige Cyber-Verteidiger, ein ähnliches gestuftes Zugangsmuster wie bei Anthropic und OpenAI.

Meta, das Ende 2025 Manus übernommen hat, veröffentlicht ein Frontier AI Framework, ist aber das bekannteste Unternehmen, das den GPAI-Verhaltenskodex der EU nicht unterzeichnet hat. Wer Manus-Agenten nutzt, verlässt sich nun auf Metas Sicherheits-Governance. xAI unterzeichnete nur das Kapitel zu Sicherheit und Schutz und erhielt vom FLI ein F.

Mistral: europäisch, offen und auf dem Papier am schwächsten

Mistral ist für europäische Käufer ein Paradox. Das Unternehmen hat den gesamten GPAI-Verhaltenskodex unterzeichnet, bietet EU-Hosting und Open-Weight-Modelle, die Sie selbst betreiben und prüfen können, was für Datensouveränität wertvoll ist. Dennoch erhielt es in fünf von sechs FLI-Bereichen ein F, weil es wenig über Tests gefährlicher Fähigkeiten, Schwellenwerte und Entscheidungsbefugnisse veröffentlicht. Bei offenen Gewichten wandern die Schutzmaßnahmen zudem zu Ihnen: Wer das Modell betreibt, ist für Leitplanken und Überwachung verantwortlich.

Warum das Tempo dies dringlich macht

Rahmenwerke sind wichtig, weil sich Fähigkeiten laufend vervielfachen. METR misst, wie lange eine Aufgabe (in menschlicher Arbeitszeit) sein darf, die Frontier-Modelle mit 50 % Zuverlässigkeit lösen. Im überarbeiteten Benchmark Time Horizon 1.1 verdoppelt sich diese Länge seit 2023 etwa alle 131 Tage und seit 2024 alle 89 Tage, grob eine Verzehnfachung pro Jahr. METR selbst weist auf große Fehlerbalken und einen Benchmark nahe seiner Obergrenze hin, doch die Richtung ist klar: Agenten übernehmen längere Arbeiten mit weniger Aufsicht, genau dort, wo die Probleme mit Handlungsrahmen und Ehrlichkeit wie bei GPT-6.1 Astra teuer werden.

Die EU-Perspektive: Die Durchsetzung hat begonnen

Seit dem 2. August 2026 kann das EU-KI-Büro Anbieter von KI-Modellen mit allgemeinem Verwendungszweck untersuchen, Maßnahmen anordnen, Modelle einschränken oder vom Markt nehmen und Bußgelder bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes verhängen. Modelle, die vor August 2025 auf den Markt kamen, haben bis August 2027 Zeit. Die Unterzeichnung des GPAI-Verhaltenskodex verschafft Anbietern eine Konformitätsvermutung, weshalb die Liste der Unterzeichner ein nützlicher erster Filter bei der Anbieterauswahl ist. Für Sie als Betreiber ersetzen die Pflichten des Anbieters nicht Ihre eigenen: Risikoeinstufung, Transparenz gegenüber Nutzern und menschliche Aufsicht bleiben Ihre Aufgabe.

Was Sie Ihren KI-Anbieter fragen sollten

• Zeigen Sie mir die System Card und den aktuellen Risikobericht. Anthropic, OpenAI und Google veröffentlichen sie je Modell. Kann ein Anbieter nicht zeigen, wie ein Modell getestet wurde, dokumentieren Sie diese Lücke in Ihrer Risikobewertung.
• Wurde das Modell irgendwo als High oder Critical eingestuft, und was ändert sich für uns? Eingeschränkte Fähigkeiten können zusätzliche Verifizierung, blockierte Anfragen oder ein eigenes Zugangsprogramm bedeuten. Planen Sie das ein, bevor ein Projekt davon abhängt.
• Hat der Anbieter den GPAI-Verhaltenskodex der EU unterzeichnet? Unterzeichnet, teilweise oder gar nicht ist ein schneller und belastbarer Filter für Ihre Compliance-Akte.
• Begrenzen Sie den Handlungsrahmen von Agenten selbst. Minimale Rechte für Werkzeuge, menschliche Freigabe vor unumkehrbaren Aktionen und Protokolle, die Sie mit dem Bericht des Agenten abgleichen können. Unsere Leitfäden zu Agentensicherheit und Red Teaming zeigen, wie.
• Datenverarbeitung: Zero-Data-Retention-Optionen, Verarbeitung in der EU und ob die Missbrauchserkennung Ihre Prompts prüft.
• Halten Sie ein zweites Modell bereit. Sicherheitsentscheidungen können Releases kurzfristig verzögern oder absagen, wie Astra gezeigt hat. Bauen Sie keinen Prozess, der nur mit einem Modell funktioniert.

Fazit

Sicherheitsrahmen sind Teil des Produkts geworden. Sie entscheiden, welches Claude-, GPT- oder Gemini-Modell Sie bekommen, wann und mit welchen Einschränkungen. Anthropic führt in den unabhängigen Bewertungen, OpenAI ist am transparentesten beim Überschreiten eigener Schwellen, Google liegt knapp dahinter, und Mistral tauscht schwache Offenlegung gegen Offenheit und Kontrolle in der EU. Keiner verdient mehr als ein C+, und deshalb zählen Ihre eigenen Kontrollen, Protokolle und Anbieterprüfungen mehr als das Versprechen irgendeines Labors.