Sicherheit und Qualität von KI-generiertem Code 2026: Was Veracode, GitClear und CodeRabbit gemessen haben

KI-Programmierwerkzeuge schreiben inzwischen einen großen Teil des neuen Codes, und dieser Code kompiliert fast immer. Ob er auch sicher und wartbar ist, ist eine andere Frage, und 2026 gibt es endlich genug unabhängige Daten, um sie zu beantworten. Veracodes Test der führenden Modelle von 2026 ergibt eine durchschnittliche Bestehensquote bei Sicherheitstests von 56 %, unverändert gegenüber dem Vorjahr. Dieser Artikel bündelt die wichtigsten Messungen zur Qualität und Sicherheit von KI-generiertem Code und macht daraus Kontrollen, die Sie noch in diesem Quartal einführen können.

Warum das jetzt zählt: die Nutzung ist dem Vertrauen davongelaufen

Googles DORA-Bericht 2025 ergab, dass 90 % von fast 5.000 Technologiefachleuten KI bei der Arbeit nutzen und 65 % sich in der Softwareentwicklung stark darauf verlassen. Im Stack Overflow Developer Survey 2025 nutzen 84 % der Entwickler KI-Tools oder planen es, nach 76 % im Vorjahr. Das Vertrauen entwickelte sich umgekehrt: 46 % misstrauen der Genauigkeit von KI-Ausgaben, rund ein Drittel vertraut ihr, und nur 3 % vertrauen ihr stark. Die häufigste Frustration, genannt von 66 %, sind KI-Lösungen, die „fast richtig, aber eben nicht ganz” sind; 45 % sagen, das Debugging von KI-generiertem Code dauere länger.

Da Coding-Agenten inzwischen selbst Pull-Requests öffnen, wächst die Menge an KI-geschriebenem Code schneller als die Review-Kapazität. DORA selbst kommt zu dem Schluss, dass KI als Verstärker wirkt: Sie verstärkt die Stärken gut geführter Entwicklungsorganisationen und die Schwächen derer, die kämpfen. Die folgenden Zahlen zeigen, wo diese Schwächen auftreten.

Sicherheit: Die Modelle wurden klüger, nicht sicherer

Veracodes GenAI Code Security Report gibt Modellen eine feste Reihe von Programmieraufgaben, bei denen sowohl eine sichere als auch eine unsichere Lösung möglich ist, ohne Sicherheitshinweise im Prompt, und scannt dann das Ergebnis. Die Ausgabe 2025 umfasste mehr als 100 Modelle und 80 Aufgaben und ergab, dass 45 % der Proben eine Schwachstelle aus den OWASP Top 10 einführten. Java war mit Abstand die schwächste Sprache.

Der Bericht 2026, veröffentlicht am 28. Juli 2026, verfolgt 11 aktuelle Modelle. Die syntaktische Korrektheit liegt nahe 100 %, doch die durchschnittliche Bestehensquote bei Sicherheitstests beträgt weiterhin 56 %, „praktisch unverändert” gegenüber 2025. Bekannte Muster wie SQL-Injection und die Wahl kryptografischer Algorithmen beherrschen die Modelle gut; bei Cross-Site-Scripting und Log-Injection, wo sicherer Code von Kontext abhängt, den der Prompt nicht nennt, scheitern sie überwiegend.

Die Modellwahl hilft, aber weniger als erwartet. OpenAIs GPT-5.5 führt die Rangliste vom Sommer 2026 mit 68 % an; es folgen GPT-5.3-Codex und Anthropics Claude Opus 4.8 mit je 62 %, und sechs der 11 Modelle liegen zwischen 50 % und 53 %. Reasoning-Modelle erreichen im Schnitt 56 % gegenüber 51 % für Modelle ohne Reasoning, während code-spezialisierte Modelle (51 %) nicht besser abschneiden als Universalmodelle (52 %).

Fehler im Review: Was 470 Pull-Requests zeigen

CodeRabbits Bericht „State of AI vs Human Code Generation” (Dezember 2025) verglich 320 KI-gestützte und 150 rein menschliche Pull-Requests in Open-Source-Projekten auf GitHub. KI-Pull-Requests hatten im Schnitt 10,83 Probleme gegenüber 6,45 bei menschlichen, also etwa 1,7-mal so viele, mit 1,4× mehr kritischen und 1,7× mehr schwerwiegenden Problemen. Am größten war der Abstand bei Cross-Site-Scripting.

Zwei Einschränkungen gelten. Die Stichprobe ist klein und auf Open-Source-Projekte beschränkt, und CodeRabbit verkauft KI-Code-Reviews. Dennoch passt das Muster zu Veracode: Die zusätzlichen Fehler sind Logikfehler und kontextabhängige Sicherheitslücken, genau die Art, die im Diff plausibel aussieht.

Wartbarkeit: Codebasen im „Write-Only-Modus”

GitClear analysiert keine Testaufgaben, sondern Commit-Historien. Sein Bericht „Write-Only Mode” vom Juni 2026 umfasst 623 Millionen Änderungen von 2023 bis 2026 und beschreibt Codebasen, die ständig wachsen, während älterer Code nicht mehr angefasst wird. Refactoring ging um 70 % zurück, Änderungen an langjährigem Code um 74 %, während duplizierte Codeblöcke um 81 % und Fehler verschleiernde Konstrukte (etwa das Abfangen und Ignorieren von Exceptions) um 47 % zunahmen.

Die Langzeitbetrachtung ist am deutlichsten. 2022 verschoben (refaktorierten) Entwickler Code etwa doppelt so oft, wie sie ihn kopierten. 2024 überholte Copy/Paste erstmals das Verschieben, und im ersten Halbjahr 2026 ist Copy/Paste etwa viermal so häufig.

GitClear misst den Zeitraum, in dem sich KI-Assistenten verbreitet haben, nicht den Autor jeder Zeile, und verkauft selbst Entwicklungsanalytik. Doch Duplikate und ausbleibendes Refactoring sind genau das, was entsteht, wenn neuen Code zu generieren billiger ist, als die vorhandene Funktion zu finden und wiederzuverwenden.

Lieferkette: erfundene Pakete und „Slopsquatting”

Eine auf der USENIX Security 2025 vorgestellte Studie (University of Texas at San Antonio, University of Oklahoma, Virginia Tech) erzeugte mit 16 Modellen 576.000 Codeproben in Python und JavaScript. 19,7 % der empfohlenen Pakete existierten nicht, das ergibt 205.474 eindeutige erfundene Namen. Als 500 Prompts zehnmal wiederholt wurden, tauchten 43 % der erfundenen Namen jedes Mal wieder auf; sie sind also vorhersehbar. Ein Angreifer kann einen solchen Namen registrieren und warten, bis ein Agent ihn installiert; das nennt man Slopsquatting.

Bestätigte Angriffe in freier Wildbahn fanden die Forscher nicht, doch das Risiko wächst, sobald Agenten Installationsbefehle selbst ausführen. Die Abhilfe ist einfach und günstig: eine Liste freigegebener Pakete oder ein interner Registry-Proxy, Lockfiles und die Regel, dass Agenten keine neue Abhängigkeit ohne Review hinzufügen dürfen.

Was wirkt: acht Kontrollen für KI-geschriebenen Code

Zwei davon verdienen besondere Betonung. Erstens: Sicherheitsanweisungen gehören in den Kontext. Veracodes Zahlen beschreiben Prompts ohne sie, und Regeldateien sind der günstigste Hebel, den Sie haben. Zweitens: messen. Verfolgen Sie den Anteil gemergter Zeilen aus KI, Befunde pro Pull-Request und die Change-Failure-Rate, damit Sie sehen, ob KI Ihre Stärken oder Ihre Schwächen verstärkt.

Regulierung: Der Cyber Resilience Act macht daraus eine Herstellerpflicht

Für Unternehmen, die in der EU Software oder vernetzte Produkte verkaufen, ist unsicherer KI-generierter Code jetzt auch eine Compliance-Frage. Nach dem Cyber Resilience Act gilt die Pflicht zur Meldung aktiv ausgenutzter Schwachstellen seit dem 11. September 2026, die vollen Anforderungen an Security by Design ab dem 11. Dezember 2027. Der Verordnung ist es gleich, ob ein Mensch oder ein Modell die verwundbare Zeile geschrieben hat. Hersteller und Softwareanbieter in der DACH-Region und in Kroatien sollten dokumentierte Kontrollen für KI-gestützte Entwicklung schon jetzt in die CRA-Vorbereitung aufnehmen.

Fazit

KI-Programmierwerkzeuge bringen echtes Tempo, und die Daten sprechen nicht dagegen, sie zu nutzen. Sie sprechen dagegen, ihren Ergebnissen standardmäßig zu vertrauen. Modelle schreiben Code, der kompiliert, aber fast in der Hälfte der Fälle einen Sicherheitstest nicht besteht; Fehler häufen sich bei kontextabhängigen Lücken, und Codebasen sammeln Duplikate an, wenn niemand Wiederverwendung verlangt. Teams, die Regeln im Kontext des Agenten, Scans in der CI, Kontrolle der Abhängigkeiten und menschliche Verantwortung für jeden Merge einführen, behalten das Tempo ohne die Schulden.