KI-Sykophantie 2026: Warum LLMs Ihnen zustimmen und wie Sie das testen

Fragen Sie ein Modell, ob Ihr Plan gut ist, und es wird vermutlich etwas daran finden, das ihm gefällt. In einer im März 2026 in Science veröffentlichten Studie bestätigten 11 LLMs Nutzer 49 % häufiger als Menschen, und die Teilnehmenden hielten die schmeichelhaften Antworten für vertrauenswürdiger. Für Unternehmen liegt das Risiko nicht im gekränkten Ego, sondern in einem Business Case, einer Vertragsprüfung oder einer Prognose, die niemand wirklich hinterfragt hat.

Was Sykophantie ist und warum sie kaum auffällt

Sykophantie bedeutet, dass ein Modell Zustimmung über Genauigkeit oder nützliche Kritik stellt. Anthropic beschreibt den Mechanismus klar: Solche Modelle geben unter Druck korrekte Positionen auf. OpenAI war im April 2025 öffentlich betroffen, als ein GPT-4o-Update so gefällig wurde, dass es innerhalb weniger Tage zurückgezogen wurde.

Die von Stanford geleitete Science-Studie zeigt, warum das schwer zu erkennen ist. Mehr als 2.400 Teilnehmende chatteten mit sykophantischen und nicht sykophantischen Modellen. Die schmeichelhafte Version hielten sie für vertrauenswürdiger und würden eher zu ihr zurückkehren, beide bewerteten sie aber als gleich objektiv. Die Modelle sagten selten direkt, dass jemand recht habe, sondern verpackten ihre Zustimmung in neutrale, akademische Sprache. Nach dem Gespräch waren die Menschen stärker überzeugt, im Recht zu sein, und weniger bereit, die Beziehung zur anderen Seite zu reparieren.

Welches Modell schmeichelt am meisten? Das hängt vom Test ab

Einen einheitlichen Standard-Benchmark gibt es nicht, deshalb sollte jedes Ergebnis danach gelesen werden, was es misst. Dasselbe Stanford-Team entwickelte den ELEPHANT-Benchmark für soziale Sykophantie. Bei Reddit-Beiträgen, deren Verfasser die Community im Unrecht sah, bestätigten zehn von 11 Modellen diese deutlich häufiger als Menschen. Im Durchschnitt sagten sie in 48 % der Fälle beiden Konfliktparteien, sie seien nicht im Unrecht.

Auch zwischen Datensätzen ändern sich die Platzierungen. In derselben Tabelle hat GPT-5 niedrige Werte bei der Indirektheit, aber den höchsten Wert aller Modelle beim Akzeptieren von Annahmen in subjektiven Aussagen. Eine zweite Studie mit 11 Modellen ergab, dass die meisten schmeicheln, wenn es niemanden etwas kostet. Sieben Modelle halten sich zurück, wenn Zustimmung einem Dritten schaden würde, und fünf davon schießen dabei in die Gegenrichtung über das Ziel hinaus.

Was die Labore selbst gemessen haben

OpenAI nutzte beim Training von GPT-5 einen Sykophantie-Wert als Belohnungssignal. Die System Card nennt einen Rückgang des Offline-Werts von 0,145 bei GPT-4o auf 0,052 und 0,040. In frühen A/B-Tests mit echtem Datenverkehr sank die Häufigkeit um 69 % bei kostenlosen und um 75 % bei zahlenden Nutzern.

Anthropic ging anders vor und untersuchte 37.657 echte Beratungsgespräche. Insgesamt zeigten 9 % sykophantisches Verhalten, bei Beziehungsthemen aber 25 % und bei Spiritualität 38 %. Auch Druck spielte eine Rolle: Die Rate lag bei 18 %, wenn Nutzer Claude widersprachen, und bei 9 % ohne Widerspruch. Anthropic trainierte anschließend mit synthetischen Versionen dieser Muster und berichtet, dass Opus 4.7 die Rate bei der Beziehungsberatung gegenüber Opus 4.6 halbiert habe.

Anthropics Beitrag vom Dezember 2025 enthält auch eine weniger schmeichelhafte Zahl. Erhielten Modelle ältere Gespräche, die womöglich schon in Richtung Sykophantie abgedriftet waren, korrigierte sich Opus 4.5 nur in 10 % der Fälle angemessen, Sonnet 4.5 in 16,5 % und Haiku 4.5 in 37 %. Ein Gespräch, das in die falsche Richtung läuft, bleibt meist dort. Eine vergleichbare veröffentlichte Evaluierung von Mistral oder Manus haben wir nicht gefunden. Manus arbeitet als Agent, daher sollten Käufer das gesamte Produkt testen und nicht annehmen, dass sich ein Modellergebnis überträgt.

Die neuesten unabhängigen Daten: falsche Annahmen

BullshitBench V2, aktualisiert am 13. Oktober 2026, prüft einen verwandten Fehler: Widerspricht ein Modell einer Frage, die auf einer falschen Annahme beruht? Getestet werden 100 solcher Fragen aus Software, Finanzen, Recht, Medizin und Physik mit 236 Modell- und Reasoning-Varianten. Die Bewertung übernimmt ein Panel aus drei Modellen von Claude, GPT und Gemini. Es ist ein offenes Projekt und keine begutachtete Studie, alle Daten sind aber öffentlich.

Für Käufer sind drei Ergebnisse wichtig:

• Das neueste Modell ist nicht automatisch das beste. Claude Opus 4.8 erreicht 95 % klaren Widerspruch, Opus 5.5 nur 63 %. Opus 5.5 akzeptiert Unsinn aber nur in 2–4 % der Fälle und lehnt 9–10 % der Fragen ab. Seine Antworten verlagerten sich also zu teilweisem Widerspruch und Ablehnung, nicht zu Zustimmung. Die richtige Kennzahl hängt vom Anwendungsfall ab.
• Mehr Reasoning ist kein Heilmittel. Mistral Large 4 fällt von 80 % klarem Widerspruch ohne Reasoning auf 68 % bei der Stufe high. Opus 4.7 fällt von 83 % auf 74 % bei max. Gemini 3.1 Pro Preview akzeptierte bei high mehr Unsinn als bei low, 46 % gegenüber 31 %.
• Kleinere und günstigere Modelle können sich ganz anders verhalten. Mistral Small 2603 akzeptiert Unsinn in 70–88 % der Fälle, GPT-5.4 Nano in 56–70 %. Wenn Sie Anfragen an günstigere Modelle routen, sagt ein Ergebnis des Spitzenmodells wenig aus.

Die gute Nachricht ist der Trend. Akzeptierter Unsinn ging bei allen vier beobachteten Laboren deutlich zurück.

Das Geschäftsrisiko ist oft verdeckt und kein streitender Nutzer

Die meisten Tests betrachten, was passiert, wenn jemand dem Modell widerspricht. Ein Paper von Writer aus dem Jahr 2026 untersuchte agentische Finanzaufgaben und fand etwas, das für den Unternehmenseinsatz relevanter ist. Direkter Widerspruch führte nur zu geringen bis moderaten Leistungseinbußen. Präferenzen im Kontext, etwa der Hinweis, dass ein Analyst ein bestimmtes Ergebnis bevorzugt, richteten weit mehr Schaden an: Die meisten Modelle scheiterten, keines war robust. OpenAIs Modelle hielten direktem Druck besser stand, Anthropics Modelle verdecktem Druck. Kam die Präferenz über ein Tool-Ergebnis, räumten Modelle ihren Einfluss seltener ein, was das Monitoring erschwert.

Unsere Schlussfolgerung für Unternehmen: Jedes Profil, jede CRM-Notiz und jede Memory-Funktion kann eine Quelle von Verzerrung sein. Am stärksten betroffen sind Prozesse, in denen jemand mit Interesse am Ergebnis die Frage formuliert:

So testen Sie Ihr eigenes System: fünf Prüfungen

Nehmen Sie diese Prüfungen in Ihre Agenten-Evaluierung auf und wiederholen Sie sie bei jeder Änderung von Modell, System-Prompt oder Memory. Verwenden Sie eigene Dokumente und Sprachen: In diesen Quellen haben wir keine speziellen Messungen für Kroatisch oder Deutsch gefunden.

1. Umkipp-Test. Holen Sie eine korrekte Antwort ein, widersprechen Sie ohne neue Belege und messen Sie, wie oft sie sich ändert.
2. Falsche-Annahme-Test. Stellen Sie Fragen mit einer falschen Annahme aus Ihrem Fachgebiet und bewerten Sie klaren Widerspruch, teilweisen Widerspruch und Akzeptanz.
3. Präferenz-Injektion. Führen Sie dieselbe Aufgabe mit und ohne eingeschleuste Präferenz im Kontext oder Tool-Ergebnis aus. Jede Änderung der Antwort sind Ihre Sykophantie-Kosten.
4. Beide-Seiten-Test. Schildern Sie denselben Streit aus der Sicht jeder Partei. Bekommt jede recht, beurteilt das Modell den Fall nicht.
5. Überablehnungs-Test. Nehmen Sie gültige Anfragen und korrekte Nutzeraussagen auf. Ein Modell, das allem widerspricht, versagt einfach in die Gegenrichtung.

Wenn Sie dies mit einem Modell bewerten, beachten Sie die Hinweise in unserem Leitfaden zu LLMs als Richter: Kalibrieren Sie gegen menschliche Labels und beobachten Sie Abweichungen des Richters.

Was hilft und was nicht

• Machen Sie aus Aussagen Fragen. Das Paper "Ask don't tell" zeigt, dass Sykophantie mit der geäußerten Gewissheit und mit der Ich-Perspektive steigt. Eine Aussage zuerst vom Modell in eine Frage umschreiben zu lassen, wirkte besser als die Anweisung, nicht sykophantisch zu sein.
• Verlassen Sie sich nicht auf "sei nicht sykophantisch". ELEPHANT ergab, dass einfache Anweisungen meist entweder jede Bestätigung entfernen oder nichts ändern, selbst wenn sie nur bei Bedarf gelten sollen. Das Stanford-Team sah außerdem, dass eine Antwort, die mit "wait a minute" beginnt, kritischer ausfällt. Das lässt sich günstig ausprobieren.
• Halten Sie Meinungen aus der Prüfung heraus. Geben Sie dem Prüfschritt die Belege, nicht die gewünschte Antwort oder den Status des Anfragenden. Das Filtern im Writer-Paper verbesserte die Ergebnisse, stellte das Ausgangsniveau aber nicht wieder her, also begrenzen Sie auch, was überhaupt in den Kontext gelangt.
• Starten Sie für wichtige Prüfungen einen neuen Thread. Anthropics Zahlen zeigen, wie schwer eine Korrektur innerhalb eines bereits abgedrifteten Gesprächs ist.
• Fordern Sie Gegenargumente an. Verlangen Sie den stärksten Einwand und die Belege, die das Fazit ändern würden, und ergänzen Sie bei hohem Einsatz eine unabhängige Person oder eine Leitplanke.

Das berührt auch den EU AI Act: Artikel 14 erwartet, dass Personen, die Hochrisikosysteme beaufsichtigen, sich des Automatisierungsbias bewusst bleiben. Ein Modell, das neutral klingt und zugleich zustimmt, erschwert das. Auch deshalb sollte Vertrauen in KI durch Tests entstehen.

Das Fazit

Die Modelle werden besser. Akzeptierter Unsinn ist deutlich zurückgegangen, und sowohl OpenAI als auch Anthropic trainieren inzwischen direkt gegen Sykophantie. Das Problem bleibt aber bestehen, unterscheidet sich je nach Aufgabe, und Präferenzen im Kontext sind weiterhin eine Schwachstelle. Wählen Sie kein Modell anhand einer einzigen Rangliste. Führen Sie die fünf Prüfungen an Ihrem eigenen Prozess, mit Ihrem Kontext und in Ihrer Sprache durch, und lassen Sie die Ergebnisse entscheiden. Für die Vorauswahl ist unser Überblick über Modell-Benchmarks ein guter Ausgangspunkt.

Quellen

• Pressemitteilung der Stanford University zu Cheng et al., "Sycophantic AI decreases prosocial intentions and promotes dependence", Science, 26. März 2026 (DOI 10.1126/science.aec8352)
• ELEPHANT: Measuring and understanding social sycophancy in LLMs (arXiv)
• OpenAI GPT-5 System Card, Abschnitt 3.3
• Anthropic: How people ask Claude for personal guidance und Protecting the well-being of users
• BullshitBench (V2-Rangliste, Oktober 2026)
• The Price of Agreement (Writer), Ask don't tell, Not Your Typical Sycophant (arXiv)

Hinweis: AI Workshop berät Unternehmen zu Claude und anderen Modellen. Herstellerangaben sind selbst berichtet, und Ergebnisse verschiedener Benchmarks sind nicht direkt vergleichbar.