Audit-Trails für KI-generierten Code
Zuletzt aktualisiert: 2026-11-04Lesezeit ca. 4 Min.
Quellen geprüft am 2026-11-04keine externen Zahlen
Ein Audit-Trail für KI-generierten Code hält pro Änderung fest, was kein Git-Log enthält: welches Tool gehandelt hat, auf welchen schriftlichen Auftrag, was sich geändert hat, was mit welchem Ergebnis validiert wurde und wer freigegeben hat. Er ist ein Muster für technische Kontrollen und kein rechtlicher Safe Harbour. Die datierte Quellenzuordnung unten trennt die Pflichten aus den Primärquellen von der Ableitung dieser Seite und nennt, was jedes verknüpfte Artefakt belegen kann und was nicht.
Inhalt
Warum die Frage plötzlich in Audits auftaucht
Rechtsstand: 4. November 2026. Dieser Artikel beschreibt Regulierung zur Orientierung und ist keine Rechtsberatung; was eure Auditoren akzeptieren, entscheiden sie und euer Justiziariat.
Kein einzelnes Gesetz sagt „führt einen KI-Code-Audit-Trail“. Die relevanten Pflichten haben verschiedene Geltungsbereiche. NIS2 Artikel 20 und 21 behandeln Leitungsaufsicht sowie risikobasierte Lieferketten- und sichere Entwicklungsmaßnahmen. Die Produkthaftungsrichtlinie nimmt Software in den Produktbegriff auf und gilt nach ihrer Berichtigung vom 7. Mai 2026 für Produkte, die nach dem 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden.
Keine Quelle schreibt das Eintragsformat dieser Seite vor. Die Zuordnung unten ist ein begrenztes Kontrolldesign, das ein Verantwortlicher gegen Rechts-, Vertrags- und Audit-Kriterien prüfen muss.
Was der Trail festhalten muss – und wo Git endet
Artefakt, Verantwortliche und Beweisgrenze
| Auftrag | Run-Eintrag | Prüf-Receipt | Freigabe | Aufbewahrungslink | |
|---|---|---|---|---|---|
| Verantwortliche | Produkt-/ÄnderungsverantwortlicheRedaktionelle Kontrollzuordnung · 2026-11-04 | Engineering-VerantwortlicheRedaktionelle Kontrollzuordnung · 2026-11-04 | Kontrollverantwortliche oder unabhängiger ReviewerRedaktionelle Kontrollzuordnung · 2026-11-04 | Benannte verantwortliche RolleRedaktionelle Kontrollzuordnung · 2026-11-04 | Repository-/EintragsverantwortlicheRedaktionelle Kontrollzuordnung · 2026-11-04 |
| Belegt | Beabsichtigtes Ziel und GrenzenRedaktionelle Kontrollzuordnung · 2026-11-04 | Tool, Scope und beobachtete ÄnderungRedaktionelle Kontrollzuordnung · 2026-11-04 | Befehl, Ergebnis und ZeitpunktRedaktionelle Kontrollzuordnung · 2026-11-04 | Wer welche Entscheidung wann trafRedaktionelle Kontrollzuordnung · 2026-11-04 | Zuordnung zu Code-Version und AufbewahrungsortRedaktionelle Kontrollzuordnung · 2026-11-04 |
| Belegt nicht | Nicht, dass die Umsetzung korrekt istRedaktionelle Kontrollzuordnung · 2026-11-04 | Nicht die Autorschaft jeder ZeileRedaktionelle Kontrollzuordnung · 2026-11-04 | Nicht Fehlerfreiheit oder ComplianceRedaktionelle Kontrollzuordnung · 2026-11-04 | Nicht unabhängige AssuranceRedaktionelle Kontrollzuordnung · 2026-11-04 | Nicht die rechtlich ausreichende AufbewahrungsdauerRedaktionelle Kontrollzuordnung · 2026-11-04 |
Die Lücke liegt in der Struktur und ist kein Mangel von Git: Versionskontrolle hält Ergebnisse fest, nicht Aufträge und Prüfungen. Commit-Nachrichten und Diskussionen in Pull Requests enthalten Bruchstücke, unstrukturiert, uneinheitlich und verteilt auf Plattformen, die womöglich nicht zu eurer Aufbewahrung gehören. Für einen Auditor ist das der Unterschied zwischen einem Beleg und mühsamer Spurensuche.
Den Trail aufbauen, ohne ein Bürokratie-Projekt zu starten
- Ein schriftlicher Auftrag pro KI-Run. Ziel, Grenzen, Kriterien – in prüfbarer Form. Das ist der Auftrag, auf den der Trail zurückverweist.
- Ein strukturierter Eintrag pro Run. Tool und Version, Diff-Umfang, Validierungen mit Ergebnis, Übersprungenes, Unsicherheiten, Freigebender: maschinenlesbar, als Nebenprodukt des Workflows erzeugt und nicht hinterher abgetippt. Wie sich solche Einträge verketten lassen, damit ein späterer Leser erkennt, dass sie nachträglich nicht verändert wurden, steht unter Run-Eintrag und Prüfsummenkette.
- Beim Code gespeichert. Das Repository ist der eine Ort, der Lebensdauer und Aufbewahrung des Codes teilt; Trails in Chats und Ticket-Kommentaren überstehen keinen Wechsel des Tools.
- In der Richtlinie verankert. Eine Zeile in eurer KI-Coding-Richtlinie, die festlegt, dass Änderungen von Agenten Belege tragen. So ist der Trail eine Regel und keine Gewohnheit, die unter Termindruck verschwindet.
Der Trail hält eine Prüfung fest, die ohnehin erwartet wird: Im gemeinsamen Bericht von BSI und ANSSI zu KI-Programmierassistenten (2024, geprüft am 4. November 2026) heißt es, generierter Quellcode solle von den Entwicklern grundsätzlich geprüft und nachvollzogen werden. Ein Eintrag pro Run macht diese Prüfung für jemanden sichtbar, der nicht dabei war.
Wo Reality Graph ansetzt
Reality Graph erzeugt diesen Eintrag für jeden KI-Coding-Run. Es prüft den Run gegen seinen schriftlichen Auftrag, führt die freigegebenen Checks selbst aus und schreibt das Ergebnis (Änderungen, Validierungen, Resultate, Übersprungenes, offene Punkte) in einen Prüfbericht auf eurem eigenen Rechner. Ob dieser Eintrag einem konkreten Auditor oder einer konkreten Regulierung genügt, bewerten diese und euer Justiziariat: Reality Graph liefert die Dokumentation, nicht das rechtliche Urteil.
Ein verknüpfter Trail liefert
- Auftrag, Änderung, Prüfung und Entscheidung pro Run
- Benannte Verantwortliche je Artefakt
- Zeit- und Versionsbezug
- Einen Startpunkt für Incident- und Audit-Fragen
Er liefert nicht
- Eine gesetzliche Pflichten-Checkliste
- Ein universell akzeptiertes Format
- Fehlerfreiheit oder Compliance
- Herkunft für historischen Code ohne Einträge
FAQ
- Wie weist man gegenüber Revision und Audit nach, was ein KI-Tool getan hat?
- Mit einem Eintrag pro Änderung, der fünf Fragen beantwortet: Welches Tool hat in welcher Version gehandelt, auf welchen Auftrag mit welchen Grenzen, was wurde geändert, was wurde mit welchem Ergebnis validiert, und wer hat freigegeben? Git beantwortet nur die dritte Frage. Für alle fünf führt ihr pro KI-Run einen strukturierten Eintrag neben dem Code. Dieses Muster kennen Auditoren schon aus der Build-Herkunft und dem Änderungsmanagement.
- Welche Regulierung verlangt konkret einen Audit-Trail für KI-Code?
- Keine der hier geprüften Primärquellen nennt einen „KI-Code-Audit-Trail“ wörtlich. NIS2 Artikel 20 und 21 behandeln Leitungsaufsicht, Lieferkettensicherheit und sichere Entwicklung; die Produkthaftungsrichtlinie behandelt Software als Produkt und gilt nach der Berichtigung vom 7. Mai 2026 für Produkte, die nach dem 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Diese Pflichten auf einen Run-Eintrag abzubilden ist eine Kontrolldesign-Entscheidung, keine Aussage, dass das Gesetz genau dieses Format verlangt.
- Reicht die Git-Historie nicht?
- Git hält fest, was sich geändert hat und wer committet hat. Nicht, was der Auftrag war, was das Tool anfassen durfte, welche Validierung lief, was sie fand und wer das Ergebnis geprüft hat. Commit-Nachrichten und Kommentare in Pull Requests enthalten Bruchstücke davon, unstrukturiert und uneinheitlich. Für einen Auditor ist das der Unterschied zwischen einem Beleg und mühsamer Spurensuche.
- Welche Felder enthält ein brauchbarer Audit-Trail-Eintrag?
- Das Arbeitsset: Zeitstempel; Tool- und Modell-Version; der schriftliche Auftrag inklusive Grenzen; Umfang der Änderung (Dateien, Diff-Statistik); gelaufene Validierungen mit Ergebnis, inklusive bewusst Übersprungenem; offene Unsicherheiten; und der freigebende Mensch. Maschinenlesbar, ein Eintrag pro Run, beim Repository gespeichert. Teams mit Prüfberichten pro Run bekommen das als Nebenprodukt statt als Projekt.
- Müssen wir offenlegen, welcher Code KI-generiert ist?
- Artikel 50 des AI Act regelt Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Der Anbieter eines Systems, das synthetische Texte oder andere Inhalte erzeugt, muss die Ausgabe maschinenlesbar kennzeichnen; dass ein Team gewöhnlichen kommerziellen Quellcode Zeile für Zeile kennzeichnet, verlangt der Artikel nicht. Diese beschreibende Lesart gilt zum 4. November 2026 und ist keine Rechtsberatung. Verträge, Branchenregeln oder interne Richtlinien können eigene Pflichten zur Herkunft setzen; die Bewertung bleibt bei deinem Justiziariat und den Kontrollverantwortlichen.
- Wie fangen wir an, ohne uns zu übernehmen?
- Beginnt mit einer begrenzten Klasse von Änderungen: Runs von Agenten, die Code ändern. Benennt Verantwortliche für Auftrag, Run-Eintrag, Prüf-Receipt, Freigabe und Aufbewahrungslink. Erprobt die Kette in einem Repository und lasst interne Revision, Rechtsabteilung und Schriftgutverwaltung prüfen, ob Integrität, Zugriff und Aufbewahrung zu den geltenden Kriterien passen.
Weiterlesen
Quellen
- NIS2-Richtlinie (EU) 2022/2555 – Artikel 20 (Leitungsorgane billigen und überwachen die Risikomanagementmaßnahmen) und Artikel 21 Absatz 2 Buchstaben d und e (Sicherheit der Lieferkette; Sicherheit bei Erwerb, Entwicklung und Wartung) (EUR-Lex, englisch, geprüft am 4. November 2026)
- Richtlinie (EU) 2024/2853, Berichtigung vom 7. Mai 2026 (ABl. L 2026/90364): Artikel 2 Absatz 1 gilt für Produkte, die nach dem 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden (EUR-Lex, englisch, geprüft am 4. November 2026)
- EU AI Act – Verordnung (EU) 2024/1689, Artikel 50: Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme; Artikel 50 Absatz 2 bleibt im Digital-Omnibus, Verordnung (EU) 2026/1744, unverändert, bereits vermarktete Systeme haben bis zum 2. Dezember 2026 Zeit (EUR-Lex, englisch, geprüft am 4. November 2026)
- BSI/ANSSI – AI Coding Assistants, gemeinsamer Bericht (Stand September 2024, englisch): Generierter Quellcode soll von den Entwicklern grundsätzlich geprüft und nachvollzogen werden (geprüft am 4. November 2026)