Progettare la memoria a lungo termine per gli agenti LLM

2026-10-02

Una finestra di contesto più ampia non garantisce una memoria affidabile. Copiare ogni messaggio passato nel prompt aumenta costi e latenza, rende più difficile trovare i fatti utili e lascia che dettagli vecchi o contraddittori confondano il modello. Il sistema deve decidere cosa conservare, quando richiamarlo e quando eliminarlo.

Separa il contesto di lavoro dalla memoria persistente. Il primo contiene richiesta attuale, turni recenti e stato temporaneo dell’attività. La memoria può conservare preferenze confermate, fatti stabili, decisioni di progetto o lezioni precedenti. Conserva solo ciò che può modificare un’azione futura; non archiviare ogni conversazione né trattare un’inferenza del modello come fatto verificato.

Definisci campi di provenienza e ciclo di vita: contenuto, fonte, persona o tenant, creazione, ultima conferma, affidabilità, sensibilità, scadenza e stato di eliminazione. Limita i ricordi alla persona, al progetto o all’organizzazione proprietaria. Risolvi le contraddizioni mantenendo data e fonte, per esempio quando cambia un ruolo.

La scrittura in memoria va controllata: estrai possibili fatti, applica le policy, elimina duplicati o aggiorna i record e chiedi conferma per dettagli sensibili. L’utente deve poter consultare, correggere, esportare ed eliminare i propri dati. Applica i permessi prima del recupero: anche la memoria può introdurre prompt injection o perdite tra tenant.

Il recupero deve essere selettivo: combina somiglianza semantica, filtri di metadati, recenza, importanza e pertinenza e invia al modello pochi record con la fonte. Valuta recupero dopo molti turni, aggiornamento, contraddizioni e oblio selettivo su più sessioni. Parti dall’archivio più semplice adatto e aggiungi grafi solo se la valutazione mostra una necessità. Riferimento: https://aclanthology.org/2026.acl-long.27/

Dai al prossimo prodotto qualcuno che resti.

Pronto a iniziare? Scrivimi: posso cominciare subito e restare. Collaborazioni a lungo termine, non passaggi di consegne dopo due settimane. Parliamo del progetto, dei requisiti e del modo migliore per procedere.

Chiedi informazioni su esperienza o servizi