Langzeitgedächtnis für LLM-Agenten entwerfen

2026-10-02

Ein größeres Kontextfenster schafft nicht automatisch zuverlässiges Gedächtnis. Werden alle früheren Nachrichten in jeden Prompt kopiert, steigen Kosten und Latenz; relevante Fakten sind schwerer zu finden und veraltete oder widersprüchliche Angaben können irreführen. Ein Gedächtnissystem muss entscheiden, was gespeichert wird, wann es relevant ist und wann es gelöscht werden soll.

Trennen Sie den Arbeitskontext vom dauerhaften Gedächtnis. Der Arbeitskontext enthält die aktuelle Anfrage, letzte Gesprächsschritte und den vorübergehenden Aufgabenstatus. Dauerhafte Erinnerungen können bestätigte Präferenzen, stabile Fakten, Projektentscheidungen oder Erkenntnisse aus früheren Aufgaben speichern. Bewahren Sie nur Informationen auf, die eine künftige Handlung verändern; speichern Sie nicht jedes Gespräch und behandeln Sie Schlussfolgerungen des Modells nicht als geprüfte Fakten.

Geben Sie jedem Erinnerungseintrag Herkunfts- und Lebenszyklusfelder: Inhalt, Quelle, Person oder Mandant, Erstellungszeit, letzte Bestätigung, Vertrauensgrad, Sensibilität, Ablauf und Löschstatus. Begrenzen Sie Erinnerungen auf die zuständige Person, das Projekt oder die Organisation. Lösen Sie Widersprüche mit Zeit- und Quellenangaben auf, etwa bei einer geänderten Rolle, statt mehrere Angaben als gleichzeitig aktuell darzustellen.

Das Schreiben ins Gedächtnis ist ein kontrollierter Vorgang: mögliche Fakten extrahieren, Richtlinien prüfen, Duplikate zusammenführen oder Einträge aktualisieren und sensible Angaben gegebenenfalls bestätigen lassen. Nutzer sollten ihre Daten einsehen, berichtigen, exportieren und löschen können. Prüfen Sie Berechtigungen vor dem Abruf; auch über Gedächtnis können Prompt Injection und mandantenübergreifende Datenlecks auftreten.

Der Abruf sollte gezielt erfolgen: kombinieren Sie semantische Ähnlichkeit mit Metadatenfiltern, Aktualität, Bedeutung und Aufgabenbezug und geben Sie dem Modell nur wenige Quellen an. Lassen Sie den Agenten gespeicherte Fakten von aktuellen Beobachtungen unterscheiden und das Fehlen verlässlicher Erinnerungen melden. Bewerten Sie Abrufpräzision, Aktualisierung, Widersprüche und selektives Vergessen mit Mehrsitzungsfällen. Beginnen Sie mit dem einfachsten passenden Speicher und ergänzen Sie Graphen nur bei nachgewiesenem Bedarf. Referenz: https://aclanthology.org/2026.acl-long.27/

Geben Sie dem nächsten Produkt jemanden, der bleibt.

Bereit für den Start? Schreiben Sie mir – ich kann sofort beginnen und bleiben. Langfristige Mandate statt Übergabe nach zwei Wochen. Lassen Sie uns über Ihr Projekt, die Anforderungen und den besten Weg nach vorn sprechen.

Frage nach Erfahrung oder Leistungen