Zum Inhalt springen
Reality Graph

Sicherheit

Sicherheitslücken in KI-Code

Zuletzt aktualisiert: 2026-11-04Lesezeit ca. 5 Min.

Quellen geprüft am 2026-11-0413 belegte Zahlen

KI-generierter Code fällt mit gemessenen, stabilen Raten durch Security-Tests: In Veracodes Tests von 2025 mit mehr als 100 LLMs führten 45 % der Code-Beispiele eine OWASP-Top-10-Schwachstelle ein. Cross-Site-Scripting wehrten die Modelle in 86 % der relevanten Beispiele nicht ab, und Java-Code fiel zu 72 % durch. Ein neuer Lauf mit neueren Modellen im Oktober 2025 hob nur die Modelle eines Anbieters an, die übrigen blieben im Band vom Juli. Die Schlussfolgerung ist unbequem und nützlich: Die Lösung liegt im Prozess rund um die Generierung, nicht im Warten auf bessere Modelle.

eure MaschineRepositoryRuns & BelegeDashboardLizenzprüfungsemantische PrüfungoptionalSperrlisteoptional
Inhalt

Die gemessene Ausgangslage

Veracodes GenAI Code Security Report 2025 ist eine große öffentliche Messung zu dieser Frage: mehr als 100 LLMs, vier Sprachen und 80 Aufgaben zur Code-Vervollständigung, bei denen bekannt ist, dass Schwachstellen entstehen können, bewertet per statischer Analyse. Die Schlagzeile, dass 45 % der Code-Beispiele eine OWASP-Top-10-Schwachstelle enthielten, zählt weniger als zwei Befunde zur Struktur. Je nach Sprache gehen die Werte weit auseinander: Java 72 %, C# 45 %, JavaScript 43 %, Python 38 %. Und über die Modellgenerationen stieg die funktionale Qualität, während die Sicherheit flach blieb: Im Juli 2025 brachten neuere und größere Modelle keinen Gewinn an Sicherheit.

Der neue Lauf desselben Benchmarks im Oktober 2025 kennt eine Ausnahme: OpenAIs GPT-5 bestand 70 % der Security-Tests und GPT-5 Mini etwas mehr. Die meisten anderen Modelle blieben im Band von 50 bis 59 % vom Juli, einige darunter. Cross-Site-Scripting und Log-Injection haben sich kaum bewegt. Der Vorsprung eines Anbieters in einem Benchmark ändert nichts an der Haltung: Ganz gleich, welche Modelle ihr plant, die Sicherheitsarbeit bleibt eure.

Die wiederkehrenden Klassen – und was welche findet

Jede Klasse steht neben der Messung oder Empfehlung, die sie benennt, und neben der Kontrolle, die sie findet. Die Schwere steht in Worten, nicht in Farbe. Die Spannweite deckt erst der ganze Stapel ab, keine einzelne Schicht.
Gemessene AnfälligkeitWarum die Generierung sie erzeugtKontrolle, deterministische zuerst
Cross-Site-ScriptingGemessen · In 86 % der relevanten Beispiele nicht abgewehrt (CWE-80)Veracode, GenAI Code Security Report (englisch) · 2025Das Encoding hängt davon ab, wo die Ausgabe landet, und das sieht das Modell nichtRedaktionelle Zuordnung zur Abwehr · 2026-11-04SAST-Regeln und Security-Kriterien im AuftragRedaktionelle Zuordnung zur Abwehr · 2026-11-04
Injection (SQL, Command, Log)Höchste gemessene · Log-Injection in 88 % der relevanten Beispiele nicht abgewehrt (CWE-117); für SQL- und Command-Injection ist keine eigene Rate veröffentlichtVeracode, Pressemitteilung vom 30. Juli 2025 (englisch) · 2025Zusammengesetzte Strings sind in den Trainingsdaten das häufigste MusterRedaktionelle Zuordnung zur Abwehr · 2026-11-04SAST, der klassische reproduzierbare TrefferRedaktionelle Zuordnung zur Abwehr · 2026-11-04
Hartkodierte ZugangsdatenVon BSI und ANSSI benannt · BSI und ANSSI verlangen eine Risikoanalyse, wie Secrets wie API-Schlüssel vor dem Abfluss geschützt werdenBSI und ANSSI, AI Coding Assistants (englisch) · 2024Beispiele in den Trainingsdaten kodieren sie fest ein, das Modell ahmt das nachRedaktionelle Zuordnung zur Abwehr · 2026-11-04Secret-Scanning vor dem Commit; Secrets gar nicht erst im RepositoryRedaktionelle Zuordnung zur Abwehr · 2026-11-04
Schwache KryptografieGemessen · Im neuen Lauf vom Oktober 2025 bestanden über 85 % der Kryptografie-Aufgaben (CWE-327); BSI und ANSSI nennen MD5 für Passwort-Hashes weiter als typischen VorschlagVeracode, neuer Lauf vom Oktober 2025 (englisch) · 2025Veraltete Algorithmen sind in altem öffentlichem Code überrepräsentiertRedaktionelle Zuordnung zur Abwehr · 2026-11-04SAST und Abhängigkeits-Richtlinien mit freigegebenen PrimitivenRedaktionelle Zuordnung zur Abwehr · 2026-11-04
Fehlende Prüfung von Authentifizierung und AutorisierungKontextabhängig · Für Scanner außer Reichweite; BSI und ANSSI: Generierten Code sollen die Entwickler prüfen und nachvollziehenBSI und ANSSI, AI Coding Assistants (englisch) · 2024Vertrauensgrenzen werden in der Architektur festgelegt, nicht im PromptRedaktionelle Zuordnung zur Abwehr · 2026-11-04Menschliches Review der Vertrauensgrenzen; Kriterien je AuftragRedaktionelle Zuordnung zur Abwehr · 2026-11-04
Jede Klasse steht neben der Messung oder Empfehlung, die sie benennt, und neben der Kontrolle, die sie findet. Die Schwere steht in Worten, nicht in Farbe. Die Spannweite deckt erst der ganze Stapel ab, keine einzelne Schicht.

Die Zuordnung erklärt, warum die Sicherheit über Generationen flach bleibt: Am schlechtesten stehen die Klassen da, deren Sicherheit an Kontext außerhalb des Prompts hängt. Wo die Ausgabe landet, wo die Vertrauensgrenze verläuft und welche Kryptografie die Organisation freigegeben hat, steht nicht im Prompt, und mehr Parameter liefern diesen Kontext nicht nach. Die allgemeine Einteilung der Fehler dahinter steht unter Warum KI-Code Fehler macht.

Der Verteidigungsstapel, deterministische Prüfungen zuerst

  1. SAST und Secret-Scanning für jede Änderung. Die musterförmigen Klassen finden deterministische Tools, reproduzierbar und günstig. Wie sich die Arbeit mit der statischen Analyse aufteilt, steht unter SonarQube vs. Verifikation.
  2. Security-Kriterien im Auftrag. „Prüft Eingaben nach X, kodiert die Ausgabe für Y, ändert keine Auth-Pfade“: vor dem Run geschrieben und danach prüfbar. So bekommt das Modell den Kontext, der ihm fehlte.
  3. Menschliches Review an den Vertrauensgrenzen. Von der mechanischen Arbeit entlastet, beurteilt das Review, was kein Scanner kann: ob die Grenze selbst richtig gezogen ist.
  4. Und darunter die Grundlinie von BSI und ANSSI: Generierten Code prüfen und vollziehen die Entwickler nach, bevor er genutzt wird. In Sonars Umfrage von 2026 prüfen 48 % der Entwickler KI-gestützten Code immer vor dem Commit. Unsere Lesart, nicht die von Sonar oder Veracode: Die beiden Zahlen stammen aus verschiedenen Stichproben und lassen sich nicht multiplizieren. Wo aber die andere Hälfte eines Teams nicht immer prüft, trifft der Nachschub an Defekten auf eine Kontrolle, die nicht verlässlich schließt. Die Kennzahl dafür ist die Quote ungeprüfter Merges, gezählt an den Änderungen, die Eingaben, Ausgaben oder die Authentifizierung berühren.

Wo Reality Graph ansetzt

Reality Graph ist kein Security-Scanner und ersetzt kein SAST. Es deckt die zweite Schicht dieses Stapels ab: Die Security-Kriterien stehen im Auftrag, Reality Graph prüft die Änderung in jedem Run dagegen und hält das Ergebnis samt übersprungener Checks im Prüfbericht fest. Reality Graph führt die freigegebenen Checks selbst aus. Deshalb steht der Exit-Code jedes Scans im Eintrag, und ein Scan, der nie lief, erscheint als nicht gelaufen. Scanner beantworten die Frage „Enthält dieser Code bekannte schlechte Muster?“, Verifikation die Frage „Hat diese Änderung die Security-Anforderungen eingehalten, die wir tatsächlich gesetzt haben?“. Beides für jede Änderung: Dafür sprechen die Zahlen.

Diese Analyse gibt euch

  • Das gemessene Bild je Klasse, mit benanntem Studiendesign
  • Den Befund, dass die Sicherheit über Generationen flach blieb, seine eine Ausnahme und die Folge daraus
  • Einen Verteidigungsstapel, deterministische Prüfungen zuerst
  • Eine Gewichtung des Risikos nach Sprache für euren Stack

Sie gibt euch nicht

  • Einen Ersatz für SAST: Reality Graph ist kein Scanner
  • Ein Argument gegen KI an sensiblem Code, nur gegen ungeprüfte KI
  • Genaue Raten für eure Codebasis: Messt mit eurer eigenen Pipeline
  • Eine Modellempfehlung: Der Vorsprung eines Anbieters in einem Benchmark-Lauf ist keine Kontrolle in eurer Pipeline
Keine absolute Sicherheit: Die Analyse ordnet Risiken Kontrollen zu und erlaubt nie, sicherheitskritischen KI-Code allein auf Vertrauen in die Generierung zu mergen.

FAQ

Welche Sicherheitslücken erzeugt KI-Code am häufigsten?
Ein gemessenes Bild liefert Veracodes Auswertung von mehr als 100 LLMs vom Juli 2025. Insgesamt führten 45 % der generierten Code-Beispiele eine OWASP-Top-10-Schwachstelle ein. Zwei Klassen fielen heraus: Log-Injection (CWE-117) wehrten die Modelle in 88 % der relevanten Beispiele nicht ab, Cross-Site-Scripting (CWE-80) in 86 %, und der neue Lauf vom Oktober 2025 hat an beiden kaum etwas geändert. Schwache Kryptografie schnitt vergleichsweise gut ab: Im Oktober bestanden über 85 % dieser Aufgaben. Das Muster ist eindeutig: Am schlechtesten schneiden die Klassen ab, deren Sicherheit an Kontext hängt, den das Modell nicht sieht.
Sind neuere, größere Modelle sicherer?
Meist nicht, und das ist der unbequemste Befund des Berichts. Im Juli 2025 stieg die funktionale Korrektheit über die Modellgenerationen, die Sicherheit aber blieb flach, unabhängig von Modellgröße und Training. Veracodes neuer Lauf vom Oktober 2025 fand eine Ausnahme: OpenAIs GPT-5-Modelle bestanden rund 70 % der Security-Tests. Die meisten anderen Modelle blieben im Band von 50 bis 59 % vom Juli, einige darunter. Für dich heißt das: Auf die nächste Modellgeneration zu warten ist keine Sicherheitsstrategie. Die Lösung gehört in den Prozess rund um die Generierung, in Checks, Kriterien und Freigaben, nicht in die Wahl des Modells.
Warum produziert KI genau diese Schwachstellen immer wieder?
Drei Gründe verstärken sich gegenseitig. Die Trainingsdaten: Die Modelle haben aus Jahrzehnten öffentlichen Codes gelernt, und viel davon ist unsicher. Das unsichere Muster ist deshalb oft das statistisch häufigere. Der fehlende Kontext: Ob die Ausgabe kodiert werden muss, hängt davon ab, wo die Daten landen, und das sieht das Modell im Prompt oft nicht. Und das falsche Ziel: Die Generierung optimiert auf Code, der funktioniert, und unsicherer Code funktioniert meistens. Für den stillen Test „Läuft es?“ bleibt die Schwachstelle unsichtbar.
Spielt die Programmiersprache eine Rolle?
Ja, deutlich, und zwar in derselben Auswertung: Java-Code fiel zu 72 % durch die Security-Tests, der schlechteste Wert der vier getesteten Sprachen. Bei Python waren es 38 %, bei JavaScript 43 % und bei C# 45 %. Die genaue Reihenfolge ändert sich mit Aufgaben und Modellen, der Befund ist die Spannweite. Dein Risiko hängt an deinem Stack, und der Aufwand für die Härtung sollte entsprechend verteilt sein.
Was findet diese Klassen von Schwachstellen wirklich?
Mehrere Schichten, deterministische zuerst: SAST und Secret-Scanning finden die musterförmigen Klassen (Injection, hartkodierte Zugangsdaten, schwache Kryptografie) reproduzierbar und günstig. Hier haben Tools wie SonarQube ihren Platz. Security-Akzeptanzkriterien im Auftrag decken die kontextabhängigen Klassen ab, die kein Scanner beurteilen kann. Und menschliches Review, von der mechanischen Arbeit entlastet, beurteilt die Vertrauensgrenzen. Keine Schicht deckt die ganze Spannweite allein ab, erst der ganze Stapel.
Sollten wir KI für sicherheitskritischen Code meiden?
Die Daten tragen eine engere Schlussfolgerung: Merge sicherheitskritischen KI-Code nie allein auf Vertrauen in die Generierung. Teams, die Security-Anforderungen in den Auftrag schreiben (Eingabeprüfung, Kodierung der Ausgabe, Auth-Pfade als ausdrückliche Kriterien), SAST für jede Änderung laufen lassen und jeden Merge an ein menschliches Review binden, setzen KI an sensiblem Code mit gemessenem statt angenommenem Risiko ein. Die 45 % beschreiben ungeprüfte Ausgaben: ein Argument für die Pipeline, nicht gegen das Tool.

Weiterlesen

Quellen

Wollt ihr sehen, wie euer letzter Agenten-Run ausgesehen hätte?

Zugang anfragen