Governed Memory

Governed Memory bezeichnet hier Agentengedächtnis, dessen Speicherung und Verwendung nachvollziehbar kontrolliert werden können. Redis: Context Poisoning und Memory Redis beschreibt darunter insbesondere begrenzbare Schreibbereiche, einsehbare Erinnerungen und die Möglichkeit, Einträge ungültig zu machen. Redis: Context Poisoning und Memory

Kontrolle statt stiller Ansammlung

Der Ausdruck wird hier als Gestaltungsprinzip verwendet, nicht als Zertifizierung oder vollständig festgelegtes technisches Produktmerkmal. Welche Kontrollen tatsächlich vorhanden sind, muss für die jeweilige Anwendung beschrieben werden.

CoALA sieht vor, Lese- und Schreibrechte für verschiedene Gedächtnisbereiche ausdrücklich festzulegen. Sumers et al.: CoALA Beispielsweise kann ein Agent eigene Ereignisse protokollieren dürfen, ohne zugleich seinen verbindlichen Ablauf oder fachliche Stammdaten verändern zu dürfen. Sumers et al.: CoALA

Die Dokumentation zu Memory-Werkzeugen weist zusätzlich auf die Verantwortung der Anwendung für sichere Pfade und sensible Inhalte hin. Anthropic: Memory Tool Ein Gedächtniswerkzeug allein übernimmt damit noch nicht die gesamte Steuerung.

So kannst du dir das vorstellen

Für einen hypothetischen Projektassistenten würde ich folgende Regeln entwerfen:

• Bereich: Erinnerungen gelten nur für das zugehörige Projekt.
• Herkunft: Wichtige Angaben verweisen auf ihre Grundlage.
• Status: Vermutungen und freigegebene Entscheidungen bleiben unterscheidbar.
• Änderung: Verbindliche Arbeitsregeln werden nicht ungeprüft überschrieben.
• Korrektur: Überholte oder falsche Einträge lassen sich auffinden und gezielt außer Kraft setzen.

Diese Liste ist ein eigener Gestaltungsvorschlag. Sie behauptet nicht, dass jeder als „governed“ beworbene Speicher all diese Funktionen bereitstellt.

Struktur ist noch keine wirksame Zugriffskontrolle

Agentenbibliotheken organisieren Langzeitinformationen beispielsweise in benannten Speicherbereichen, sogenannten Namespaces. LangChain: Memory overview Eine solche Zuordnung beschreibt zunächst die Organisation der Daten; für eine eigene Umsetzung würde ich zusätzlich prüfen, welche Zugriffe tatsächlich technisch erlaubt oder blockiert werden.

Ebenso macht Kontrollierbarkeit einen gespeicherten Satz nicht automatisch richtig. Der Redis-Beitrag beschreibt gerade das Risiko, dass falsche Schlussfolgerungen später als verifiziert behandelt werden. Redis: Context Poisoning und Memory Governance sollte daher sowohl Zuständigkeit und Zugriff als auch den Umgang mit Gültigkeit und Korrekturen umfassen.

Verwandte Begriffe

Memory Tool, Memory Poisoning, Context Freshness, Procedural Memory, Long-Term Memory.