Zum Inhalt springen
Reality Graph

Konzept

Proof-Carrying Coding: Änderungen mit Belegen

Zuletzt aktualisiert: 2026-11-04Lesezeit ca. 6 Min.

Quellen geprüft am 2026-11-042 belegte Zahlen

Proof-Carrying Coding ist eine Analogie dafür, Auftrag, Grenzen, ausgeführte Checks, Ergebnisse, Übersprungenes und Herkunft an eine Änderung anzuhängen. Belege, Receipts, Testausgaben, Attestierungen und formale Beweise sind nicht dasselbe. Ohne formale Eigenschaft, Beweisobjekt, Annahmen und Checker sind es begrenzte Unterlagen für das Review, kein Beweis und keine Garantie für Korrektheit.

DiffChecksScopeeine Regelgeprüfteingeschränktblockiert
Inhalt

Die Idee von 1997: Vertrauen durch prüfbare Artefakte

In Proof-Carrying Code (POPL 1997; SIGPLAN zeichnete es 2007 als einflussreichstes POPL-Paper dieses Jahrgangs aus) löste George Necula ein Vertrauensproblem mit möglichem Angreifer: Ein Host muss ein Binary aus einer nicht vertrauenswürdigen Quelle ausführen. Statt der Quelle zu vertrauen oder das Binary mühsam zu analysieren, hängt die Quelle einen formalen Sicherheitsbeweis an, und der Host lässt einen kleinen, schnellen Beweisprüfer laufen. Der Kern ist ungleich verteilter Aufwand: Den Beweis zu konstruieren ist teuer und Sache des Produzenten, ihn zu prüfen ist billig und Sache des Empfängers. Der Host behält die Kontrolle, ohne die Arbeit des Produzenten zu wiederholen.

Die Übertragung aufs KI-Coding – ehrlich als Analogie markiert

Beim KI-Coding entsteht fast genau dieselbe Lage: Ein produktiver Produzent, dem man nicht voll vertraut (das Modell), liefert Arbeit an einen Empfänger (euer Team), der es sich nicht leisten kann, sie nachzubauen. In Sonars Umfrage von 2026 vertrauen 96 % der Entwickler nicht voll darauf, dass KI-Code funktional korrekt ist, und 48 % prüfen ihn immer vor dem Commit. Unsere Lesart, nicht die von Sonar: Wo nur die Hälfte der Entwickler immer prüft, wird ein großer Teil des KI-Codes trotzdem auf Vertrauen gemergt, und die Kennzahl dafür ist die Quote ungeprüfter Merges. Proof-Carrying Coding löst das Dilemma auf die Art von 1997, mit einem ehrlichen Unterschied, der offen gesagt gehört:

Proof-Carrying Code (1997)Proof-Carrying Coding (2026)
Nicht vertrauter ProduzentCode-Lieferant (möglicherweise feindlich)Das generierende Modell / der Agent
Angehängtes ArtefaktFormaler, maschinell prüfbarer SicherheitsbeweisEintrag mit Belegen: Auftrag, Checks, Ergebnisse, Übersprungenes
Aufgabe des EmpfängersEinen kleinen Beweisprüfer laufen lassenBelege prüfen, Trade-offs beurteilen
Abgedeckte EigenschaftEnge Sicherheitseigenschaften, mit GewissheitTreue zum Auftrag und Validierung, mit begründetem Vertrauen
Die ÖkonomiePrüfen ≪ BeweisenBelege prüfen ≪ den Run rekonstruieren
Neculas Proof-Carrying Code und Proof-Carrying Coding nebeneinander: Die Architektur lässt sich unverändert übertragen, die Garantie wird bewusst getauscht, Gewissheit über enge Eigenschaften gegen begründetes Vertrauen in die breite Frage.

Die unterste Zeile macht die Analogie tragfähig statt dekorativ: In beiden Systemen gibt es das ganze Verfahren nur, weil Prüfen sehr viel billiger ist als Nachbauen. Belege, deren Prüfung mehr kostet als die Arbeit zu wiederholen, wären wertlos. Daran misst sich auch, was in den Eintrag gehört.

Was das Prinzip praktisch verlangt

  1. Produzenten hängen an, immer. Jeder KI-Run liefert seine Änderung und seinen Eintrag mit: den schriftlichen Auftrag, die gelaufenen Validierungen, ihre Ergebnisse, das Übersprungene. Ohne Eintrag keine Review-Anfrage.
  2. Empfänger prüfen statt zu rekonstruieren. Das Review beginnt bei den Belegen: Umfang gegen Grenzen, Kriterien gegen Ergebnisse. Die Zeit für das Urteil geht in Architektur und Trade-offs, nicht in Spurensuche.
  3. Nichts wird auf bloßes Vertrauen gemergt. „Der Agent sagt, es besteht“ ist eine Behauptung, kein Beleg. Prüfbar wird der Eintrag erst durch eine Validierung, die außerhalb der generierenden Session entsteht.
  4. Der Eintrag bleibt. Beim Code gespeichert, wachsen die Einträge zu dem Audit-Trail, den niemand nachträglich schreiben musste. Die Struktur des Artefakts samt gekennzeichnetem Beispiel steht auf der Prüfbericht-Seite.

Die Wiederkehr 2026 – und die ehrlichen Grenzen

Die formale Seite der Idee wird gerade für Agenten neu gebaut. Ein Preprint vom Juni 2026 zu Proof-Carrying Agent Actions lässt eine folgenreiche Aktion eines Agenten nur zu, wenn ein Zertifikatspfad besteht, und prüft das an einer Schranke, bevor Seiteneffekte eintreten: Neculas Architektur, übertragen auf die Steuerung zur Laufzeit und auf einem Benchmark erprobt, nicht in Produktion. Die pragmatische Seite, oben beschrieben, ist heute einsetzbar. Ihre Grenzen verdienen dieselbe Klarheit: Belege stärken das Vertrauen, sie beweisen keine Korrektheit. Ein Eintrag kann vollständig und die Architektur trotzdem falsch sein, deshalb bleibt die menschliche Freigabe. Und das ganze Verfahren ist nur so gut wie der Auftrag: Vage Aufträge erzeugen Belege, die sich nicht widerlegen lassen.

Was ist Proof-Carrying Coding?

Was Proof-Carrying Coding ist, lässt sich klar sagen: eine Analogie, keine Technik. Sie entlehnt die Form von Proof-Carrying Code, bei dem ein Programm zusammen mit einem Beweis ausgeliefert wird, den ein Checker prüfen kann, und überträgt sie auf KI-gestützte Änderungen: Die Änderung wird zusammen mit Auftrag, Grenzen, ausgeführten Checks, Ergebnissen, Übersprungenem und Herkunft ausgeliefert, damit ein Reviewer den Eintrag prüfen kann, statt dem Autor zu glauben.

Das Original ist ein Forschungsergebnis. George Neculas Aufsatz von 1997 in der ACM Digital Library und seine Projektseite in Berkeley (zuletzt 2002 überarbeitet) sind die Primärquellen für Proof-Carrying Code selbst. Wer die formale Technik sucht, liest dort; diese Seite beschreibt die Übertragung und kennzeichnet sie als solche.

Der Unterschied, auf den es ankommt: Ein Receipt hält fest, was gelaufen ist, eine Testausgabe gibt Beobachtungen wieder, eine Attestierung die Aussage eines Beteiligten. Nichts davon ist ein Beweis, solange formale Eigenschaft, Beweisobjekt, benannte Annahmen und Checker nicht tatsächlich vorliegen. In der Praxis liegen sie selten vor; deshalb sind die Artefakte dieser Analogie begrenzte Review-Einträge, näher am Prüfbericht als an einem Zertifikat.

Wo Reality Graph ansetzt

Proof-Carrying Coding ist das Arbeitsprinzip von Reality Graph, als Konzept formuliert. Reality Graph prüft jeden Run gegen seinen schriftlichen Auftrag, führt die freigegebenen Checks selbst aus und hält das Ergebnis im Prüfbericht fest, als Nebenprodukt des Runs und auf eurem eigenen Rechner. Worauf dieser Eintrag hinausläuft, ein Ergebnis pro Run und die Regel, die einen Run auch bei grünen Tests blockiert lässt, steht unter wie das Ergebnis zustande kommt. Das Prinzip steht ohne jedes bestimmte Tool; das Tool existiert, weil das Prinzip bei KI-Volumen von Hand mühsam durchzuhalten ist.

Dieses Prinzip gibt euch

  • Reviews, die bei geprüften Fakten beginnen statt bei der Spurensuche
  • Den ungleich verteilten Aufwand, der bei jeder Änderung für euch arbeitet
  • Einen Audit-Trail, der als Nebenprodukt entsteht
  • Eine Architektur von 1997, die SIGPLAN 2007 als einflussreichstes POPL-Paper auszeichnete

Es gibt euch nicht

  • Formale Beweise: Die Belege stärken das Vertrauen, sie schaffen keine Gewissheit
  • Einen Ersatz für die menschliche Merge-Entscheidung
  • Nutzen aus vagen Aufträgen: Prüfbare Aufträge sind die Voraussetzung
  • Neculas Garantien: Die Analogie sagt offen, dass sie eine ist

Wenn diese Grenzen zu eurem Team passen:

FAQ

Was ist Proof-Carrying Coding und wie funktioniert es in der Praxis?
Proof-Carrying Coding ist eine Analogie dafür, Auftrag, Grenzen, ausgeführte Checks, Ergebnisse, Übersprungenes und Herkunft an eine Änderung anzuhängen. Ein Receipt hält fest, was gelaufen ist. Eine Testausgabe gibt Beobachtungen wieder, eine Attestierung die Aussage eines Beteiligten. Nichts davon ist ein formaler Beweis, solange formales System, Eigenschaft, Beweisobjekt und Checker nicht tatsächlich vorliegen. Review und Freigabe bleiben eigene Entscheidungen.
Woher stammt der Begriff?
George Neculas POPL-Paper von 1997 beschreibt Programme, die formale, maschinell prüfbare Belege für festgelegte Sicherheitseigenschaften mitbringen. Dieser Artikel übernimmt davon nur die Architektur: Der Produzent hängt an, der Empfänger prüft. Gewöhnliche Belege aus der Entwicklung erben weder das Theorem noch die abgedeckten Eigenschaften, die Annahmen oder die Garantien des formalen Systems.
Sind das echte Beweise wie bei Necula?
Meist nicht. Tests, Lint-Ausgaben, Abgleiche mit dem Auftrag, Receipts und Attestierungen sind Belege zu benannten Checks und Umgebungen. Sie können unvollständig oder falsch sein und belegen nicht, dass die Änderung fachlich richtig ist. Nenn ein Artefakt nur dann einen formalen Beweis, wenn formale Eigenschaft, Annahmen, Beweisobjekt und Checker benannt sind.
Warum ist die Asymmetrie so wichtig?
Angehängte Belege können die Arbeit des Nachvollziehens verringern, wenn sie aktuell, reproduzierbar und relevant sind. Ein allgemeingültiges Ergebnis zu Zeit oder Kosten liefert diese Seite aber nicht. Belege zu erzeugen und zu prüfen kostet beides Aufwand, und der Reviewer bewertet weiterhin Abdeckung, Herkunft, Annahmen und Restrisiko und trifft die Entscheidung.
Was unterscheidet das vom Prüfbericht?
Der Prüfbericht ist das Artefakt: was pro Run festgehalten wird, in welcher Struktur, mit einem gekennzeichneten Beispiel. Proof-Carrying Coding ist das Prinzip, dem das Artefakt dient: Produzenten hängen an, Empfänger prüfen, nichts wird auf bloßes Vertrauen übernommen. Du kannst beide Seiten in beliebiger Reihenfolge lesen. Die Seite zum Prüfbericht zeigt das Wie, diese Seite begründet das Warum.
Wendet das jemand formal auf KI-Agenten an?
Ein arXiv-Preprint eines einzelnen Autors vom 2. Juni 2026 schlägt Proof-Carrying Agent Actions vor: Eine folgenreiche Aktion eines Agenten wird nur zugelassen, wenn ein Zertifikatspfad besteht, und das wird an einer Schranke geprüft, bevor Seiteneffekte eintreten. Das Paper nennt Neculas Arbeit von 1997 als Ursprung der Idee. Es zeigt eine Referenzimplementierung auf einem Benchmark mit 96 Traces, keinen Einsatz in Produktion, und es belegt nicht, dass gewöhnliche Änderungen mit angehängten Belegen formal bewiesen sind.
Gibt es ein Tool für Proof-Carrying Coding?
Nicht im formalen Sinn: Kein Tool auf dieser Seite erzeugt ein Beweisobjekt, das ein Checker gegen eine benannte Eigenschaft prüft. Es gibt Tools, die die Zutaten der Analogie an eine Änderung hängen, also Auftrag, Grenzen, ausgeführte Checks, Ergebnisse und Herkunft, und sie prüfbar halten. Reality Graph tut das für jeweils einen Run; es nennt das Ergebnis Eintrag, nicht Beweis, und die Review-Entscheidung bleibt bei einem Menschen.

Weiterlesen

Quellen

Wollt ihr sehen, wie euer letzter Agenten-Run ausgesehen hätte?

Zugang anfragen