Agent-Memory

Definition

Agent-Memory bezeichnet die Gesamtheit aller Mechanismen, mit denen ein KI-Agent Informationen über die Dauer eines einzelnen Prompts hinaus behalten und gezielt wieder abrufen kann. Im Kern geht es darum, die Zustandslosigkeit eines reinen Sprachmodells zu überwinden und einem Agenten so etwas wie eine Biografie zu geben.

Die meisten Architekturen unterscheiden zwei Ebenen: Kurzzeit-Memory innerhalb des aktiven Kontextfensters und Langzeit-Memory in externen, persistenten Speichern. Beide Ebenen sind notwendig, weil das Kontextfenster auch bei modernen Modellen begrenzt ist und teure Reads verursacht, während externe Stores billig speichern, aber selektiv geladen werden müssen.

Mechanismus und Architektur

Ein typisches Memory-System besteht aus mehreren Komponenten:

• Working Memory: Der aktive Prompt-Kontext, in dem die jüngsten Turns und das System-Prompt liegen. Volatil, teuer, schnell zugreifbar.
• Long-Term Store: Externe Datenbank, häufig Vector-Store, Graph-DB oder klassisches SQL. Hier werden Erfahrungen, Fakten und User-Daten persistiert.
• Retrieval-Layer: Ein Mechanismus, der bei jedem Turn entscheidet, welche Memory-Einträge in das Working Memory geladen werden. Klassisch via Embedding-Ähnlichkeit, modern auch via Graph-Traversal oder hybride Re-Ranking.
• Write-Policy: Eine Logik, die entscheidet, welche Inhalte aus dem Working Memory langfristig gespeichert werden sollen. Trivial bei vollständiger Speicherung, komplex bei Summarization oder selektivem Schreiben.
• Forgetting-Policy: Strategie zur Veraltung oder Löschung von Einträgen, oft via Zeit, Häufigkeit oder explizite User-Aktion.

MemGPT, vorgestellt 2023 von Packer und Kollegen, war eine der ersten ausgearbeiteten Referenzarchitekturen. Es interpretiert das Kontextfenster als RAM und die externe Datenbank als Festplatte, mit dem LLM in der Rolle eines Betriebssystems, das aktiv Pages zwischen beiden bewegt.

Memory-Typen

Die Forschung übernimmt häufig die Trennung aus der Kognitionswissenschaft:

• Semantisches Memory: Abstrakte Fakten ohne Episode, zum Beispiel Wikidata-artige Triple oder User-Präferenzen.
• Episodisches Memory: Konkrete Ereignisse mit Zeit, Ort und Beteiligten. Wichtig für Assistenten, die sich an konkrete Gespräche erinnern müssen.
• Prozedurales Memory: Erlernte Abläufe und Skills, beispielsweise wiederverwendete Tool-Sequenzen oder Code-Snippets.

In der Praxis werden alle drei oft im selben Vector-Store gehalten, aber mit unterschiedlichen Metadata-Tags und Retrieval-Strategien.

Praxis und Anwendung

Typische Anwendungsfelder:

• Persönliche Assistenten: Speichern User-Präferenzen, Kontakte, frühere Aufgaben, Tonfall-Vorlieben.
• Coding-Agenten: Erinnern sich an Codebase-Conventions, frühere Refactors und Stilrichtlinien.
• Customer-Support-Agenten: Behalten Ticket-Historien und Kunden-Informationen über mehrere Sessions hinweg.
• Research-Agenten: Akkumulieren Quellen, Belege und Zwischenergebnisse über lange Untersuchungen.
• Multi-Agent-Systeme: Teilen geteilte Memory zwischen kooperierenden Agenten.

Ein konkretes Setup mit LangChain oder LlamaIndex kombiniert typischerweise einen Vector-Store wie Chroma oder Qdrant für unstrukturierte Erinnerungen, eine SQL-Tabelle für User-Profile und ein In-Memory-Buffer für die laufende Session.

Häufige Fehler

• Alles speichern: Unselektives Schreiben führt zu verrauschtem Retrieval und steigenden Kosten.
• Kein Forgetting: Veraltete Fakten bleiben dauerhaft und überlagern neue Informationen.
• Nur Vector-Memory: Reine Ähnlichkeits-Suche scheitert an präzisen, relationalen Anfragen, hier sind Graphs überlegen.
• Keine Provenance: Memory ohne Quelle und Zeitstempel ist nicht auditierbar.
• Fehlendes User-Consent: Persistente Memory ohne Sichtbarkeit für den User ist datenschutzrechtlich heikel und Vertrauens-killend.
• Kontext-Bloat: Zu viel Retrieved-Memory pro Turn lähmt das Modell und führt zu Halluzinationen.

Abgrenzung

• RAG: Wissens-Retrieval aus Dokumenten-Korpora, Memory ist agentenspezifische Erfahrung. Infrastrukturell oft identisch.
• Knowledge Graph: Strukturierte Faktenbasis, kann als Memory-Backend dienen, ist aber breiter angelegt.
• Kontextfenster: Das Working Memory, nicht das gesamte Memory-System.
• Caching: Performance-Optimierung, kein semantischer Speicher.
• Fine-Tuning: Speichert Wissen in den Modellgewichten, nicht abrufbar im klassischen Sinn und nicht User-spezifisch.