Das LLM-Wiki-Muster
Woher das Konzept stammt: Karpathys ursprüngliche Idee
Woher das Konzept stammt: Karpathys LLM-Wiki
Dies ist eine Zusammenfassung von Andrej Karpathys Originalbeitrag. Die Oberfläche von Central LLM Wiki folgt diesem Muster.
Die Grundidee
Viele verwenden RAG, um Dokumente mit einem Sprachmodell abzufragen: Dateien hochladen, passende Textstellen suchen und daraus eine Antwort formulieren lassen. Das funktioniert, doch bei jeder Frage wird Wissen neu zusammengesucht, ohne dass etwas hinzukommt. Beim LLM-Wiki baut und pflegt das Sprachmodell stattdessen schrittweise ein dauerhaftes Wiki zwischen dir und den Originalquellen. Bei jeder neuen Quelle liest es den Inhalt, fasst das Wesentliche zusammen und integriert es in die vorhandenen Seiten. Es ergänzt Personen und Konzepte, überarbeitet Zusammenfassungen und macht Widersprüche sichtbar. Wissen wird einmal ausgearbeitet und anschließend weiter gepflegt. Du kuratierst Quellen, steuerst die Analyse und stellst gute Fragen; die KI übernimmt die Dokumentationsarbeit.
Das Muster eignet sich für Forschung über Wochen oder Monate, Projektmanagement mit Besprechungsnotizen und Entscheidungen, die Lektüre eines Buches, persönliche Aufzeichnungen, Team-Wikis, Wettbewerbsanalysen und Kursnotizen.
Drei Ebenen
- raw/ – Originalquellen: Deine kuratierte, unveränderliche Sammlung. Das Sprachmodell darf sie lesen, aber nicht ändern.
- wiki/ – Wissensseiten: Das Modell erstellt und aktualisiert Markdown-Seiten und pflegt Querverweise. Du liest, die KI schreibt.
- schema/ – Regeln: Hier steht, wie das Wiki aufgebaut ist, welche Konventionen gelten und welche Abläufe der Agent befolgt. Du und die KI entwickeln diese Regeln gemeinsam weiter.
Die drei Abläufe heißen Ingest, Query und Lint; die beiden besonderen Seiten sind index.md und log.md. Mehr dazu steht in der Anleitung. Karpathys Hinweise zu Obsidian-Graphen, Dataview, Marp-Folien, lokal gespeicherten Bildern und Git finden sich hier als Graph, Tabelle, Folien, Bildanhänge und Versionsverlauf mit Export wieder.
Warum das funktioniert
Am aufwendigsten an einer Wissensdatenbank ist nicht das Lesen oder Nachdenken, sondern die laufende Pflege: Querverweise aktualisieren, Zusammenfassungen ergänzen, Widersprüche markieren und viele Seiten aufeinander abstimmen. Menschen geben Wikis auf, wenn die Pflege mehr kostet, als sie bringen. Sprachmodelle werden dieser Arbeit nicht überdrüssig, vergessen keine Querverweise und können viele Dateien in einem Durchlauf bearbeiten. So bleibt das Wiki aktuell. Deine Aufgabe ist es, Quellen auszuwählen, die Analyse zu lenken, gute Fragen zu stellen und die Ergebnisse einzuordnen.