KI-Kennzeichnung und Deepfakes 2026: Was Artikel 50 des AI Act verlangt und was Google, OpenAI, Anthropic und Mistral schon tun

Seit dem 2. August 2026 gelten die Transparenzpflichten des EU AI Act. Wer generative KI entwickelt, muss ihre Ausgaben so markieren, dass Maschinen sie erkennen, und wer einen Deepfake veröffentlicht, muss ihn kennzeichnen. Gleichzeitig nehmen Deepfake-Angriffe weiter zu: Ein Tracker hat allein im ersten Halbjahr 2026 821 davon verifiziert. Dieser Artikel erklärt, was Artikel 50 verlangt, was Google, OpenAI, Anthropic, Mistral und Manus bereits markieren, wie Wasserzeichen und C2PA-Nachweise funktionieren und was ein Unternehmen in der DACH-Region oder in Kroatien jetzt tun muss.

Was Artikel 50 des AI Act verlangt

Artikel 50 ist der Teil des AI Act, der fast jedes Unternehmen betrifft, das KI öffentlich nutzt, nicht nur Entwickler von Hochrisikosystemen. Er enthält vier Pflichten, verteilt auf Anbieter (wer ein KI-System entwickelt oder unter eigenem Namen anbietet) und Betreiber (wer es beruflich verwendet):

* Die Verlängerung um vier Monate stammt aus der vorläufigen Einigung zum AI Omnibus vom Mai 2026 und betrifft nur die Markierungspflicht für generative KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden. Alles andere gilt ohne Aufschub. Verstöße fallen unter die allgemeine Bußgeldstufe des Artikels 99: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Die Falle für gewöhnliche Unternehmen ist die Anbieterrolle. Wer auf der Claude- oder OpenAI-API einen Kunden-Chatbot baut und unter eigener Marke anbietet, ist für Artikel 50(1) Anbieter dieses KI-Systems: Der Bot muss sagen, dass er eine KI ist. Wer ein Marketingbild mit einer realistisch wirkenden Person, einem Ort oder einem Ereignis erzeugt, ist Betreiber eines Deepfakes nach Artikel 50(4). Den Rest der Verordnung behandelt unser Leitfaden zur AI-Act-Compliance.

Der Verhaltenskodex: zwei Markierungsebenen und EU-Icons

Am 10. Juni 2026 hat die Europäische Kommission den finalen Verhaltenskodex zur Markierung und Kennzeichnung KI-generierter Inhalte veröffentlicht. Er ist freiwillig, aber die praktische Vorlage dafür, was Behörden erwarten werden. Unterzeichner können ihn als Nachweis der Konformität nutzen; alle anderen müssen auf anderem Weg belegen, dass ihre Maßnahmen angemessen sind.

• Abschnitt 1, Anbieter. Keine einzelne Technik genügt, daher kombinieren Unterzeichner, wo nötig, mindestens zwei maschinenlesbare Ebenen, typischerweise signierte Metadaten (C2PA) und ein unsichtbares Wasserzeichen. Außerdem müssen sie eine Erkennung anbieten, damit Nutzer, Behörden, Forschung und Medien Inhalte prüfen können.
• Abschnitt 2, Betreiber. Deepfakes und KI-Texte zu Themen von öffentlichem Interesse erhalten beim ersten Kontakt ein klares Label. Die Kommission hat drei kostenlose EU-Icons veröffentlicht: ein Basis-Icon, "vollständig KI-generiert" und "teilweise KI-verändert". Die Icons sind optional, die Kennzeichnung nicht. Bei reinen Audioinhalten ersetzt ein Audiohinweis das visuelle Label.
• Ausnahmen. Offensichtlich künstlerische, satirische oder fiktionale Werke brauchen nur einen zurückhaltenden Hinweis, der das Werk nicht beeinträchtigt, und Texte, die ein Mensch geprüft und für die eine Redaktion die Verantwortung übernommen hat, brauchen kein Label.

Abschnitt 1 liest sich wie ein Verzeichnis der KI-Branche: unter anderem Anthropic, OpenAI, Google, Microsoft, Mistral, Meta, Aleph Alpha, Black Forest Labs, Cohere und Synthesia. Abschnitt 2 zeigt, dass auf der Betreiberseite nicht nur Medien stehen: Getty Images, Lufthansa, Lenovo, Iberdrola, Bulgari und Fastweb haben unterzeichnet. Laut Kommission ist etwa die Hälfte der Unterzeichner klein oder jung.

Wie die Markierungen funktionieren: Wasserzeichen, C2PA und Erkennung

Drei Technologien teilen sich die Arbeit. Sie ergänzen sich, weil jede auf andere Weise versagt:

Was Google, OpenAI, Anthropic, Mistral und Manus markieren

• Google hat den Trend 2023 mit SynthID begonnen und gibt an, dass rund 100 Milliarden Bilder und Videos sowie etwa 60.000 Jahre Audio das Wasserzeichen tragen (eigene Angabe, I/O im Mai 2026). Gemini-Text nutzt SynthID-Text, dazu kommen C2PA-Nachweise. Im Mai 2026 übernahmen OpenAI, Kakao und ElevenLabs SynthID, aufbauend auf einer früheren Zusammenarbeit mit NVIDIA, und Apple kündigte es für iOS 27 an. Berichten vom Oktober zufolge ist der SynthID Detector jetzt öffentlich auf Englisch verfügbar.
• OpenAI versieht seine Bilder seit 2024 mit C2PA-Metadaten. Im Mai 2026 trat es dem C2PA-Lenkungsausschuss bei und ergänzte SynthID für alle Bilder aus ChatGPT, der API und Codex, zusammen mit der Vorschau eines öffentlichen Prüfwerkzeugs. Ob ChatGPT-Texte ein Wasserzeichen tragen, ist in keiner offiziellen Ankündigung dokumentiert, die wir prüfen konnten.
• Anthropic hat die ausführlichste Beschreibung veröffentlicht. Seit dem 14. August 2026 tragen Claude-Texte ein statistisches Wasserzeichen auf Basis von SynthID-Text: Dem Text wird nichts hinzugefügt, er enthält keine Nutzer- oder Unternehmensdaten, und in einem direkten Vergleich sahen menschliche Bewerter keinen Qualitätsunterschied. Es gilt weltweit, in der API, den Claude-Apps, Claude Code, Cowork und auf den Cloud-Plattformen. Dateien (PNG, JPEG, SVG) erhalten signierte C2PA-Nachweise, die der kostenlose Claude Content Checker liest. Die Erkennungs-API für Text ist in privater Vorschau für Behörden, Medien, Faktenprüfer, Forschung und Unternehmen mit Compliance-Pflichten.
• Mistral hat Abschnitt 1 des Kodex unterzeichnet und sich damit zur Markierung verpflichtet. Bis Oktober fanden wir keine öffentliche technische Beschreibung, wie Ausgaben von Mistral Vibe (früher Le Chat) oder der API markiert werden. Wer Mistral für Inhalte nutzt, sollte das vertraglich einfordern.
• Manus ist eine Agentenplattform auf Basis von Modellen anderer Labore. Wir fanden Manus weder unter den von der Kommission genannten Unterzeichnern noch Dokumentation zur Markierung. Für Unternehmen ist das weniger wichtig, als es scheint: Wer veröffentlicht, was ein Agent erzeugt, trägt die Betreiberpflichten aus Artikel 50(4) ohnehin selbst.

Deepfakes: Die Angriffe wachsen schneller als die Regeln

Die Transparenzregeln kommen zu einem Zeitpunkt, an dem Deepfakes keine Kuriosität mehr sind. Resemble AI, das verifizierte Vorfälle aus Medienberichten sammelt, zählte 1.567 Vorfälle im Jahr 2025 und 821 im ersten Halbjahr 2026, ein Tempo, das das Vorjahr leicht übertreffen würde.

Der Schaden ist schwer zu beziffern, weil die meisten Opfer keine Summe nennen. Resemble AI dokumentierte für 2025 über 1,28 Milliarden Dollar gemeldete Verluste, und mehr als 80 % der Vorfälle nannten gar keinen Schaden. Das FBI erhielt 2025 22.364 Beschwerden mit KI-Bezug und 893 Millionen Dollar Verlusten. Entrust stellte fest, dass jeder fünfte biometrische Betrugsversuch ein Deepfake war, und in einem iProov-Test mit 2.000 Personen ordneten nur 0,1 % alle echten und gefälschten Beispiele richtig zu. Der bekannteste Unternehmensfall bleibt Arup: Ein Mitarbeiter überwies 25 Millionen Dollar nach einem Videocall mit gefälschten Kollegen.

Zwei Trends fallen auf. Deepfakes, die einer Marke oder dem Ruf einer Person schaden, erreichten in sechs Monaten 2026 bereits mehr Menschen als im ganzen Jahr 2025, und politische Desinformation wuchs um mehr als die Hälfte; 22 politische Vorfälle erreichten jeweils über eine Milliarde potenzielle Zuschauer. Unternehmensbetrug verschwindet dagegen fast aus der Reichweitenstatistik: nur 15 Vorfälle im H1 2026, fast alle in Fachmedien. Das heißt nicht, dass er selten ist, sondern dass Unternehmen nicht darüber sprechen.

Was Unternehmen in der DACH-Region und in Kroatien jetzt tun sollten

1. Erfassen Sie, wo Sie KI-Inhalte veröffentlichen. Marketingbilder und -videos, KI-Stimmen in Werbung oder an der Hotline, Chatbots auf der Website, KI-Pressemitteilungen und Blogartikel. Notieren Sie jeweils, wer Anbieter und wer Betreiber ist.
2. Lassen Sie Chatbots und Sprachagenten sagen, dass sie KI sind. Ein Satz zu Beginn des Gesprächs genügt, aber er muss in jeder angebotenen Sprache vorhanden sein.
3. Kennzeichnen Sie Deepfakes und behalten Sie die redaktionelle Verantwortung für Texte. Nutzen Sie die EU-Icons oder ein klares Textlabel bei realistisch wirkenden synthetischen Personen, Orten und Ereignissen. Bei KI-gestützten Texten zu öffentlichen Themen dokumentieren Sie die menschliche Prüfung und benennen die verantwortliche Redaktion, sonst brauchen sie ein Label.
4. Entfernen Sie die Markierungen nicht. Viele CMS, DAM-Systeme und Bildoptimierer löschen standardmäßig Metadaten und damit die C2PA-Nachweise. Prüfen Sie Ihre Pipeline und erhalten Sie sie.
5. Fragen Sie Anbieter schriftlich. Welche Ebenen markieren sie, ab welchem Datum, in welchen Produkten, und wie können Sie oder eine Behörde das prüfen? Nehmen Sie das in Ihre Checkliste für die KI-Beschaffung auf.
6. Schützen Sie Zahlungen vor Deepfakes. Rückruf über eine bekannte Nummer bei jeder Änderung von Zahlungsdaten, ein zweiter Freigeber ab einem Schwellenwert und ein Codewort für dringende Anfragen "des CEO". Schulen Sie Finanz- und HR-Teams mit echten Beispielen; siehe unseren Leitfaden zur KI-Cybersicherheit.

Häufige Fragen

Was verlangt Artikel 50 des EU AI Act?

Chatbots müssen sich als KI zu erkennen geben, generative KI muss ihre Ausgaben maschinenlesbar markieren, und Deepfakes sowie KI-Texte zu Themen von öffentlichem Interesse brauchen ein sichtbares Label. Gilt seit 2. August 2026.

Gibt es eine Übergangsfrist für die Markierung?

Nur für die Markierung durch generative Systeme, die vor dem 2. August 2026 auf dem Markt waren: bis 2. Dezember 2026 (vorläufige Omnibus-Einigung). Die Deepfake-Kennzeichnung hat keinen Aufschub.

Versieht Claude seine Texte mit einem Wasserzeichen?

Ja, seit August 2026: ein statistisches Wasserzeichen auf Basis von SynthID-Text im Text und C2PA-Nachweise in erzeugten Dateien. Die Texterkennung ist in privater Vorschau.

Wer hat den EU-Verhaltenskodex für KI-generierte Inhalte unterzeichnet?

Rund 190 Organisationen: 95 für den Anbieter- und 192 für den Betreiberabschnitt, darunter Anthropic, OpenAI, Google, Microsoft, Mistral und Meta.

Kann ein Wasserzeichen beweisen, ob ein Inhalt von einer KI oder einem Menschen stammt?

Nein. Eine gefundene Markierung ist ein starkes Signal, eine fehlende beweist nichts. Dokumentieren Sie die Entstehung Ihrer Inhalte selbst.