Lokales LLM fürs Code-Review
Zuletzt aktualisiert: 2026-11-04Lesezeit ca. 4 Min.
Quellen geprüft am 2026-11-049 belegte Zahlen
Lokales LLM-Code-Review funktioniert, wenn das Modell filtert und ein Mensch entscheidet. Das ist der Zwei-Phasen-Review-Workflow, bei dem das Modell innerhalb der Maschinen-Phase sitzt: In Phase 1a laufen die deterministischen Checks, in Phase 1b prüft das lokale Modell nur, was diese Checks überstanden hat, und in Phase 2 entscheidet ein Mensch im Review über den Merge. Ein Hinweis des Modells ist nie ein Prüfnachweis und senkt deshalb eure Quote ungeprüfter Merges nicht; das tun nur festgehaltene Checks und die Entscheidung des Menschen. Die Hardware kommt danach: Ein 7–9B-Modell passt bei Q4 in etwa 6–8 GB VRAM, ein 22–35B-Modell in 16–24 GB (LocalLLM.in, 2026, geprüft am 4. November 2026).
Inhalt
Warum Teams das überhaupt tun
Der Grund ist die Datengrenze, nicht der Benchmark. Mit einem lokalen Modell fügt der Review-Schritt eurer Prüfung der Rechtsräume keinen Anbieter hinzu, der Karte der Übertragungswege keinen Eintrag und euren Kosten keinen Betrag pro Anfrage, der mit dem KI-Volumen wächst. Die Prüfung selbst bleibt, egal wo das Modell läuft: Im gemeinsamen Bericht von BSI und ANSSI zu KI-Programmierassistenten (2024, geprüft am 4. November 2026) heißt es, generierter Quellcode solle von den Entwicklern grundsätzlich geprüft und nachvollzogen werden. Ein lokaler Filter ist ein Weg, dieser Prüfung ein Modell hinzuzufügen, wo der Code das Haus nicht verlassen darf.
Die Methode: zwei Phasen, die Maschinen-Phase zweigeteilt
Die Reihenfolge ist die Methode. Jeder Schritt sieht nur, was der vorige durchgelassen hat, und reicht dem nächsten einen Eintrag weiter, kein Urteil. Nehmt das Modell heraus, bleibt ein funktionierendes Zwei-Phasen-Review; nehmt die Checks oder den Menschen heraus, bleibt keines. Daran prüft ihr, ob das Modell an der richtigen Stelle sitzt.
- Phase 1a: deterministische Checks
- Eingang:
- Der Diff, der schriftliche Auftrag mit Grenzen und Akzeptanzkriterien und Tests, die vor der Änderung geschrieben wurden.
- Ausgang:
- Ein Ergebnis pro Check (Formatierung, Lint, Typen, Build, Tests, Umfang gegen die erklärten Grenzen), jeweils mit Exit-Code. Ein rotes Ergebnis stoppt die Änderung hier; das Modell sieht sie nie.
- Der Mensch entscheidet weiter:
- Welche Checks Pflicht sind, was die Tests abdecken müssen und ob ein roter Check je übergangen werden darf. Eine Ausnahme ist eine festgehaltene Entscheidung, kein übersprungener Schritt.
- Phase 1b: das lokale Modell als Filter
- Eingang:
- Nur Änderungen, die 1a bestanden haben, eine nach der anderen, mit dem Auftragstext, zugeschnitten auf das Kontextfenster des Modells.
- Ausgang:
- Eine kurze Liste von Hypothesen (vermutete Probleme, jedes mit Zeile und dem Kriterium, das es verletzen könnte) oder eine leere Liste. Kein Score, keine Freigabe, kein blockierender Status.
- Der Mensch entscheidet weiter:
- Die Schwelle dafür, was angezeigt wird, und ob ein einzelner Hinweis zutrifft. Ein Hinweis kann um einen genaueren Blick bitten; bestehen oder durchfallen lassen kann er die Änderung nicht.
- Phase 2: menschliches Review
- Eingang:
- Der Diff, die Ergebnisse aus 1a und die Hinweise aus 1b, getrennt dargestellt, damit sichtbar bleibt, was von einem Check und was von einem Modell kommt.
- Ausgang:
- Die Merge-Entscheidung, mit einem Eintrag dazu, was geprüft, was markiert und was verworfen wurde.
- Der Mensch entscheidet weiter:
- Alles, was Urteil braucht: ob der Ansatz stimmt, ob er ins System passt, ob es die Änderung überhaupt geben sollte.
Regeln, die das Modell an seinem Platz halten
- Nichts Entscheidbares geht ans Modell. Kann ein Check mit Ja oder Nein antworten, gehört er in Phase 1a. Das Modell bekommt die Fragen, die kein Check klärt, etwa einen übersehenen Randfall oder einen irreführenden Namen.
- Der Filter sperrt nie. Die Ausgabe eines Modells kann sich zwischen zwei Läufen und zwischen Modellversionen ändern. Ein Hinweis darf einen Merge für einen menschlichen Blick aufhalten; allein blockieren oder freigeben darf er ihn nie.
- Der Auftrag reist mit dem Diff. Ohne schriftliche Absicht rät das Modell, wofür die Änderung gedacht war, und prüft seine Vermutung. Mit einem schriftlichen Auftrag kann auch ein kleines Modell Umfang und Kriterien prüfen, also fokussierte Arbeit, die es gut kann.
- Eine Änderung pro Lauf. Auf lokaler Hardware ist das Kontextfenster die enge Grenze. Prüft pro Änderung statt pro Branch, dann spielt die Grenze meist keine Rolle mehr.
- Hinweise bleiben als Hinweise markiert. Im Eintrag und im Pull Request steht eine Hypothese des Modells nie in derselben Liste wie ein Testergebnis. Wer beides mischt, macht aus einer Vermutung einen Nachweis.
Woran ihr erkennt, ob der Filter sich lohnt
Zählt ein paar Wochen lang zwei Dinge: wie viele Hinweise der Mensch aufgegriffen und wie viele er verworfen hat. Wird das meiste verworfen, hebt die Schwelle oder engt ein, was das Modell gefragt wird; hilft das nicht, streicht Phase 1b. Phase 1a und Phase 2 funktionieren ohne sie weiter, und genau deshalb sitzt das Modell in der Mitte. Einen Zielwert für diesen Anteil setzt ihr selbst; diese Seite nennt keinen.
Was der Zähler nicht zeigen kann, ist, was der Filter übersehen hat. Übersehenes taucht erst später auf, als Fix an Code, der alle drei Schritte passiert hat. Lest die Zahl der verworfenen Hinweise deshalb zusammen damit, wie oft gemergte Änderungen kurz danach wieder einen Fix brauchen.
Was die Methode von der Hardware braucht
Die Aufgabe des Filters bestimmt die Größe. Das Modell muss eine Änderung samt Auftrag in seinem Kontextfenster lesen, in einem Tempo, das die CI nicht aufhält. Jenseits dieser Grenze bringt ein größeres Modell vor allem weniger leere oder falsche Hinweise.
| VRAM | Passende Modellgröße (Q4_K_M) | Was ein Filter dieser Größe trägt | |
|---|---|---|---|
| Einstieg | 6–8 GBLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | 7–9BLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | Kleine Diffs in einer Datei; die Schwelle muss nachjustiert werdenEinschätzung dieser Seite · 2026-11 |
| Mitte | 10–12 GBLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | 12–14BLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | Typische Einzeländerungen mit schriftlichem AuftragEinschätzung dieser Seite · 2026-11 |
| Ernsthaft | 16–24 GBLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | 22–35BLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | Änderungen über mehrere Dateien im Rahmen des KontextfenstersEinschätzung dieser Seite · 2026-11 |
| Team-Server | 48 GB oder mehr, oder 2×24 GBLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | 70B und darüberLocalLLM.in, VRAM-Guide (Community-Lesart), geprüft am 4. November 2026 · 2026 | Ein gemeinsamer Filter-Endpoint für die CI eines TeamsEinschätzung dieser Seite · 2026-11 |
Hinter der Tabelle stehen zwei Fakten. Q4_K_M-Quantisierung braucht etwa 75 % weniger VRAM als FP16, so der LocalLLM.in-Guide (aktualisiert im Februar 2026, geprüft am 4. November 2026). Ollama unterstützt eine Teilmenge der OpenAI-API (Dokumentation geprüft am 4. November 2026), sodass die meisten Tools mit konfigurierbarem Endpoint ein lokales Modell ansprechen können; llama.cpp ist die Alternative eine Ebene tiefer.
Die ehrlichen Grenzen
Ein lokales Modell filtert schlechter als ein Frontier-Modell, wenn es über viele Dateien hinweg schließen, übergreifende Effekte erkennen oder seltene Technologien beurteilen soll. Diese Seite sagt das als Einschätzung, nicht als Messung, und zitiert dafür keinen Benchmark. In dieser Methode kostet die Lücke weniger, als wenn das Modell der Reviewer wäre: Was der Filter übersieht, trifft noch auf die Checks davor und den Menschen danach.
Die andere Grenze ist der Durchsatz: Ein gemeinsamer Server muss passend dimensioniert werden, und ein Laptop filtert eine Änderung nach der anderen. Die Entscheidungsregel aus dem Guide zur lokalen KI-Code-Prüfung gilt: lokal, wo die Datengrenze bindet, stärkere Modelle, wo sie es nicht tut, entschieden pro Repository und nicht aus Überzeugung.
Wo Reality Graph ansetzt
Reality Graph liefert die Struktur, die diese Methode voraussetzt. Es hält den schriftlichen Auftrag mit Grenzen und Akzeptanzkriterien fest, führt die freigegebenen Checks selbst aus, vergibt für jeden Run ein Prüfurteil und schreibt einen Prüfbericht, alles auf eurem eigenen Rechner. Es liefert kein LLM mit und verlangt kein bestimmtes Modell; der Filter in Phase 1b bleibt eure Wahl. Welche Bytes auf eurer Hardware bleiben, ist samt der Ausnahmen gesondert beschrieben.
Die konkreten Setup-Schritte, auf die dies zeigt
- Wählt das größte Coder-Modell, das auf eurem VRAM bei Q4 mit brauchbarem Tempo läuft
- Stellt es mit Ollama lokal hinter einem OpenAI-kompatiblen Endpoint bereit
- Gebt ihm den schriftlichen Auftrag und nur das, was Typen, Tests und Linter überlebt hat
- Bindet es in Pre-Commit oder CI ein und prüft pro Änderung, nicht pro Branch
Was es euch nicht gibt
- Frontier-Modell-Qualität aus einem kleinen lokalen Modell – die Lücke ist real
- Eine zeitlose Modell-Empfehlung – beim Setup eine aktuelle Liste prüfen
- Ein Datenschutz-Urteil – lokal entfernt einen Übertragungspfad, Hygiene gilt trotzdem
- Einen Grund, die deterministische Schicht zu überspringen – sie trägt offline die Grundlast
FAQ
- Wie betreibt man Code-Review mit einem lokalen LLM?
- In drei Schritten mit einer Entscheidung am Ende. Deterministische Checks laufen zuerst und stoppen alles, was rot ist. Danach liest das lokale Modell jede verbleibende Änderung samt Auftrag und liefert Hypothesen, nie ein Urteil. Ein Mensch prüft den Diff mit beiden Ergebnissen im Blick und entscheidet über den Merge. Das Modell sitzt in der Mitte, weil die Methode ohne es weiter funktioniert und ohne die anderen beiden nicht.
- Welche Hardware braucht ein lokales Review-Modell?
- Weniger, als die Modell-Listen nahelegen, denn ein Filter liest eine Änderung nach der anderen. Beginnt mit der kleinsten Stufe, die eine Änderung samt Auftrag in den Kontext bringt, und zwar so schnell, dass die CI darauf warten kann. Im LocalLLM.in-Guide (aktualisiert im Februar 2026, geprüft am 4. November 2026) sind das 6–8 GB VRAM für ein 7–9B-Modell bei Q4_K_M. Geht eine Stufe höher, wenn die Zahl der aufgegriffenen Hinweise zeigt, dass zu viele davon unbrauchbar sind, und nicht, weil sich eine Rangliste geändert hat.
- Warum ist das lokale Modell Filter und nicht Reviewer?
- Weil sein Output nicht stabil genug ist, um eine Entscheidung zu tragen. Derselbe Diff kann bei zwei Läufen oder nach einem Modell-Update andere Hinweise auslösen, und ein kleines Modell übersieht mehr als ein großes. Als Filter ist das tragbar: Ein falscher Hinweis kostet einen Menschen eine Minute, und ein übersehenes Problem trifft noch auf die Checks davor und den Reviewer danach. Als Sperre würde es eine Vermutung zur Merge-Regel machen.
- Welches Modell sollen wir nehmen?
- Diese Seite nennt absichtlich keins. Die Community-Liste, die sie im Juli 2026 zitiert hat, nannte bei der erneuten Prüfung am 4. November 2026 andere Modelle. Die Regel, die die Listen überdauert: Nehmt das größte Coder-Modell, das auf eurem VRAM bei Q4 so schnell läuft, dass eure CI darauf warten kann, und gleicht es in der Woche des Setups mit einer aktuellen Liste ab. Danach entscheidet die Zahl der aufgegriffenen Hinweise, ob es bleibt.
- Wie schwer ist das Setup?
- Die Laufzeitumgebung ist der kleine Teil: Ollama oder llama.cpp stellt ein quantisiertes Modell hinter einer lokalen API bereit, und die meisten Tools mit konfigurierbarem Endpoint können es ansprechen. Die Arbeit ist die Reihenfolge darum herum. Bindet Phase 1a als Pflicht-Check ein, gebt Phase 1b nur, was bestanden hat, und zeigt Hinweise in Phase 2 getrennt von Check-Ergebnissen. Plant Zeit für diese Verdrahtung ein, nicht für das Modell.
- Wann ist lokales LLM-Review die falsche Wahl?
- Wenn euch nichts von stärkeren Optionen abhält. Erlauben eure Richtlinien Cloud-Verarbeitung für den fraglichen Code, findet ein Frontier-Modell oder ein guter Cloud-Reviewer pro Lauf meist mehr; das ist eine Einschätzung dieser Seite, keine Messung. Lokales Review verdient seinen Platz, wo die Datengrenze die Randbedingung ist (Kundencode, regulierte Repositories, Air-Gapped-Umgebungen), oder als immer verfügbarer Filter ohne Kosten pro Anfrage. Wer es aus Überzeugung statt wegen einer Randbedingung wählt, nutzt es am Ende meist nicht mehr.
Weiterlesen
Quellen
- LocalLLM.in – Ollama-VRAM-Anforderungen, aktualisiert am 3. Februar 2026 (Community-Sekundärquelle, englisch, geprüft am 4. November 2026)
- Ollama-Dokumentation – OpenAI-Kompatibilität: eine Teilmenge der OpenAI-API (2026, englisch, geprüft am 4. November 2026)
- BSI/ANSSI – AI Coding Assistants, gemeinsamer Bericht (Stand September 2024, veröffentlicht am 4. Oktober 2024, englisch): Generierter Quellcode soll von den Entwicklern grundsätzlich geprüft und nachvollzogen werden (geprüft am 4. November 2026)
- PromptQuorum – lokale LLMs nach VRAM-Stufe (Community-Sekundärquelle, englisch, Inhalt zuletzt am 3. November 2026 durchgesehen; Empfehlungen nach Juli 2026 geändert, geprüft am 4. November 2026)