Seit dem Start von ChatGPT haben europäische Datenschutzbehörden Verfahren eröffnet, Verbote ausgesprochen und KI-Firmen mit Bußgeldern gedroht. Dennoch gibt es im Oktober 2026 das einzige große DSGVO-Bußgeld gegen einen Entwickler generativer KI-Modelle, 15 Millionen Euro gegen OpenAI, nicht mehr: Das Gericht in Rom hat es im März aufgehoben. Für Unternehmen heißt das nicht, dass die DSGVO bei KI endet. Es heißt, dass die Pflichten bei Ihnen liegen, beim Verantwortlichen, der Kunden- und Beschäftigtendaten in Claude, ChatGPT, Mistral oder Manus eingibt. Dieser Leitfaden zeigt, was die Behörden tatsächlich getan haben, wie lange die vier Anbieter Ihre Daten speichern und was Sie vor der Einführung prüfen sollten.
Was die Behörden tatsächlich getan haben
Die DSGVO gilt für KI wie für jede andere Verarbeitung personenbezogener Daten: wenn ein Modell mit personenbezogenen Daten trainiert wird, wenn Beschäftigte Kundendaten in einen Chatbot kopieren und wenn ein Chatbot Fragen zu echten Personen beantwortet. Die bisherige Durchsetzung fällt in drei Gruppen.
- Gesichtserkennung. Clearview AI, das Milliarden Fotos aus dem Netz gesammelt hat, erhielt die höchsten KI-bezogenen DSGVO-Bußgelder: je 20 Millionen Euro in Italien, Griechenland und Frankreich 2022 und 30,5 Millionen Euro in den Niederlanden 2024.
- Chatbots generativer KI. Der italienische Garante sperrte ChatGPT 2023 vorübergehend und verhängte im November 2024 ein Bußgeld von 15 Millionen Euro gegen OpenAI wegen der Rechtsgrundlage für das Training, mangelnder Transparenz, einer verspätet gemeldeten Datenpanne und fehlender Altersprüfung. Gegen Luka Inc., Anbieter des Companion-Chatbots Replika, verhängte er 2025 5 Millionen Euro, gegen Character.AI im Juli 2026 158.000 Euro wegen Altersprüfung und Jugendschutz.
- Verbote und Anordnungen ohne Bußgeld. Der Garante ordnete im Januar 2025 die Sperrung von DeepSeek in Italien an. Im Juni 2025 meldete die Berliner Datenschutzbeauftragte die DeepSeek-App bei Apple und Google als rechtswidrigen Inhalt, weil Nutzerdaten ohne angemessene Garantien nach China übermittelt werden.
Quellen: Bescheide der niederländischen, italienischen, griechischen und französischen Behörden zu Clearview AI; Garante-Bescheide zu OpenAI (Nr. 755 vom 2. November 2024), Luka Inc. (2025) und Character Technologies (Juli 2026, laut Berichten); Urteil des Gerichts Rom R.G. 4785/2025 vom 18. März 2026. Verbote ohne Bußgeld (DeepSeek) sind nicht dargestellt.
Warum das OpenAI-Bußgeld fiel: der One-Stop-Shop
Das Gericht in Rom hat nicht entschieden, ob OpenAI gegen die DSGVO verstoßen hat. Es hat entschieden, wer darüber urteilen darf. Nach dem One-Stop-Shop-Mechanismus wird ein Unternehmen mit EU-Hauptniederlassung von der Behörde dieses Landes beaufsichtigt. OpenAI eröffnete seine irische Niederlassung im Februar 2024, vor dem Bescheid des Garante. Das Gericht sah daher die irische Data Protection Commission als federführende Behörde und den Garante als unzuständig. Die Kernfragen (darf ein Modell auf Basis berechtigten Interesses mit gesammelten personenbezogenen Daten trainiert werden, wie korrigiert man eine falsche Aussage über eine Person) bleiben offen und liegen jetzt in Dublin.
Anthropic, OpenAI und Microsoft gehören zu den KI-Anbietern mit irischer Niederlassung; Mistral wird von der französischen CNIL beaufsichtigt. Für EU-Unternehmen hat das eine praktische Folge: Europaweite Entscheidungen darüber, wie Frontier-Modelle trainiert wurden, werden dauern, doch die nationalen Behörden bleiben voll zuständig für Ihren Einsatz dieser Werkzeuge, denn Sie sind Verantwortlicher für die Daten, die Ihre Beschäftigten eingeben.
Quelle: DLA Piper GDPR Fines and Data Breach Survey, Januar 2026 (Daten bis 10. Januar 2026). Gesamt rund 7,1 Mrd. €; Irland 4,04 Mrd., Frankreich 1,1 Mrd., Luxemburg 746,56 Mio. €. „Alle anderen Länder“ ist der Rest der Gesamtsumme.
Wie lange speichern Claude, ChatGPT, Mistral und Manus Ihre Daten?
Die Speicherdauer ist die erste Frage jedes Datenschutzbeauftragten. Die Dokumentation der Anbieter gibt im Oktober 2026 folgende Antworten:
- Anthropic. API-Ein- und -Ausgaben werden innerhalb von 30 Tagen aus dem Backend gelöscht. Zero Data Retention (ZDR) gibt es für freigegebene API-Kunden, sie deckt aber zustandsbehaftete Funktionen wie Batch API, Files API und Code-Ausführung nicht ab. Von den Sicherheitssystemen markierte Inhalte können bis zu 2 Jahre gespeichert werden, Klassifizierungswerte bis zu 7 Jahre. In Claude für Privatkunden werden Chats nur dann für das Training genutzt, wenn der Nutzer die Einstellung aktiviert; dann können sie bis zu 5 Jahre in der Trainingspipeline bleiben.
- OpenAI. Logs der API-Missbrauchsüberwachung werden bis zu 30 Tage gespeichert. ZDR und angepasste Missbrauchsüberwachung erfordern eine Freigabe durch OpenAI. API- und Business-Daten (ChatGPT Business, Enterprise, Edu) werden standardmäßig nicht für das Training genutzt; Privatkunden-ChatGPT schon, sofern der Nutzer „Improve the model for everyone“ nicht abschaltet.
- Mistral. API-Ein- und -Ausgaben werden 30 Tage zur Missbrauchsüberwachung gespeichert, für die API ist ZDR verfügbar. Team-, Enterprise- und API-Daten werden standardmäßig nicht für das Training genutzt; der kostenlose Vibe-Tarif (vormals Le Chat) nutzt Unterhaltungen, sofern der Nutzer nicht widerspricht. Mistral ist ein französisches Unternehmen mit Hosting in der EU.
- Manus. Laut Hilfe-Center nutzt Manus aggregierte oder de-identifizierte Daten zur Verbesserung seiner Dienste; Nutzer können in den Einstellungen widersprechen. Eine veröffentlichte Speicherdauer für Unterhaltungen haben wir nicht gefunden, fordern Sie sie daher im Auftragsverarbeitungsvertrag an.
Quellen: Anthropic Privacy Center (Artikel zur Speicherung für Geschäfts- und Privatkunden) und API-Dokumentation zur Datenspeicherung; OpenAI API-Dokumentation „Your data“; Mistral API-Bedingungen. Von den Anbietern genannte Höchstdauern, Oktober 2026. Zero-Data-Retention-Vereinbarungen (0 Tage für berechtigte API-Funktionen) sind nicht dargestellt. Gesetzliche Aufbewahrungspflichten können jede Frist verlängern.
Welche Tarife mit Ihren Daten trainieren
Die wichtigste Linie in jeder KI-Richtlinie verläuft zwischen Privatkunden- und Business-Produkten. Alle drei großen Labs versprechen, standardmäßig nicht mit Daten aus Business-Tarifen und der API zu trainieren. Bei Privatkonten ist Training bei OpenAI und Mistral voreingestellt, bei Anthropic eine ausdrückliche Wahl. Beschäftigte, die private Konten für die Arbeit nutzen, das klassische Schatten-KI-Szenario, schicken Unternehmensdaten damit in Trainingspipelines.
Quellen: Datenschutzrichtlinien und Hilfe-Center von Anthropic, OpenAI, Mistral und Manus, Oktober 2026. „Ihre Wahl“: Anthropic fordert Privatkunden auf, das Training ein- oder auszuschalten. Manus dokumentiert die Nutzung de-identifizierter Daten mit Opt-out, unterscheidet aber nicht nach Tarifen. Einstellungen ändern sich; prüfen Sie vor Vertragsabschluss die aktuellen Bedingungen.
Die DSGVO-Checkliste für generative KI
| Schritt | Was zu tun ist | Warum es zählt |
|---|---|---|
| Nur Business-Tarif | Privatkonten für die Arbeit sperren; Team, Enterprise oder API-Zugang kaufen | Kein Training per Voreinstellung, Admin-Kontrollen, Auftragsverarbeitungsvertrag |
| Auftragsverarbeitungsvertrag | AVV des Anbieters abschließen; Unterauftragsverarbeiter und Standardvertragsklauseln prüfen | Art. 28 und Übermittlungen in die USA nach Kapitel V |
| Rechtsgrundlage und Verzeichnis | Zweck und Rechtsgrundlage je Anwendungsfall im Verarbeitungsverzeichnis dokumentieren | Art. 6 und 30; das Erste, was ein Prüfer verlangt |
| DSFA | Datenschutz-Folgenabschätzung für HR, umfangreiche Kundendaten oder sensible Daten durchführen | Art. 35; Pflicht bei voraussichtlich hohem Risiko |
| Speicherdauer | Chat-Aufbewahrung in der Admin-Konsole festlegen; für sensible API-Workloads ZDR beantragen | Speicherbegrenzung, Art. 5 Abs. 1 lit. e |
| Datenminimierung | Personenbezogene Daten vor dem Prompt entfernen oder pseudonymisieren, wo möglich | Art. 5 Abs. 1 lit. c; weniger Daten, weniger Risiko |
| Transparenz | Kunden und Beschäftigte informieren, wenn KI ihre Daten verarbeitet oder mit ihnen spricht | Art. 13–14 DSGVO und Art. 50 KI-Verordnung |
| Automatisierte Entscheidungen | Bei Entscheidungen mit rechtlicher oder ähnlicher Wirkung einen Menschen einbinden | Art. 22; gilt auch für KI-Vorauswahl von Bewerbern |
DSGVO und KI-Verordnung: zwei Gesetze, ein Projekt
Die KI-Verordnung (AI Act) ersetzt die DSGVO nicht, sondern ergänzt Produktregeln. Die Transparenzpflichten aus Artikel 50 (Hinweis, dass man mit einem Chatbot spricht, Kennzeichnung synthetischer Inhalte) überschneiden sich mit den Informationspflichten der DSGVO, und ein Hochrisiko-System nach der KI-Verordnung braucht fast immer auch eine DSFA. Beide Prüfungen in einem Projekt zu erledigen, spart Zeit. Unser Leitfaden zur KI-Verordnung behandelt die Fristen nach dem Digital Omnibus, und unser kostenloser Website-Scanner für Artikel 50 prüft, ob Ihr Chatbot offenlegt, dass er eine KI ist.
Was das für Unternehmen in Kroatien und der DACH-Region bedeutet
Kroatische Unternehmen beaufsichtigt die AZOP, deutsche die jeweilige Landesbehörde (Bundesbehörden der BfDI), österreichische die DSB. Keine von ihnen braucht einen Big-Tech-Fall, um bei einer Datenpanne in einem lokalen Unternehmen tätig zu werden. In der Praxis decken drei Entscheidungen den Großteil des Risikos ab: Geben Sie Beschäftigten ein Werkzeug im Business-Tarif, damit sie keine Privatkonten mehr nutzen; senden Sie Prompts mit personenbezogenen Daten nur an Anbieter mit AVV, kurzer Speicherdauer sowie EU- oder ZDR-Optionen; und schreiben Sie eine einseitige DSFA je Anwendungsfall. Wenn Daten die EU gar nicht verlassen dürfen, prüfen Sie EU-gehostete Angebote und Open-Weight-Modelle, die wir im Leitfaden zu souveräner KI und Datenresidenz vergleichen.
Häufig gestellte Fragen
Sind ChatGPT und Claude für den geschäftlichen Einsatz DSGVO-konform?
Ein Werkzeug ist für sich weder konform noch nicht konform; entscheidend ist Ihr Einsatz. Business-Tarife und die APIs von Anthropic, OpenAI und Mistral trainieren standardmäßig nicht mit Ihren Daten und bieten einen Auftragsverarbeitungsvertrag. Sie brauchen trotzdem eine Rechtsgrundlage, ein Verarbeitungsverzeichnis, Transparenz gegenüber Betroffenen und bei riskanteren Anwendungen eine Datenschutz-Folgenabschätzung (DSFA).
Wie lange speichern KI-Anbieter API-Prompts?
Anthropic, OpenAI und Mistral speichern API-Ein- und -Ausgaben standardmäßig bis zu 30 Tage, vor allem zur Missbrauchsüberwachung. Zero Data Retention ist nach Freigabe verfügbar. Wegen Richtlinienverstößen markierte Inhalte können länger gespeichert werden: Anthropic nennt bis zu 2 Jahre.
Was ist aus dem 15-Millionen-Euro-Bußgeld gegen OpenAI geworden?
Der italienische Garante verhängte im November 2024 ein Bußgeld von 15 Millionen Euro gegen OpenAI. Das Gericht in Rom hob den Bescheid am 18. März 2026 wegen fehlender Zuständigkeit auf: Nachdem OpenAI eine irische Niederlassung gegründet hatte, wurde die irische Data Protection Commission federführende Behörde. Über die Verstöße selbst entschied das Gericht nicht.
Brauchen wir vor der Einführung eines KI-Assistenten eine DSFA?
Oft ja. Eine Datenschutz-Folgenabschätzung ist Pflicht, wenn eine Verarbeitung voraussichtlich ein hohes Risiko mit sich bringt, wovon Behörden bei neuer Technologie in Verbindung mit Beschäftigtenüberwachung, sensiblen Daten, umfangreicher Verarbeitung oder automatisierten Entscheidungen ausgehen. Auch wenn sie nicht Pflicht ist, ist eine kurze DSFA der günstigste Weg, Ihre Entscheidungen zu dokumentieren.
KI einführen ohne DSGVO-Kopfschmerzen?
Wir helfen Unternehmen in Kroatien und der DACH-Region, den richtigen KI-Tarif zu wählen, Speicherfristen und Zugriffsrechte festzulegen und DSFA sowie KI-Richtlinie zu schreiben, bevor Beschäftigte Daten einfügen. Als Claude Certified Architect aus Zagreb verbinden wir die technische Einrichtung mit der Dokumentation, die Ihr Datenschutzbeauftragter braucht.
Mit einem KI-Berater sprechen