Větší kontextové okno samo o sobě nezajistí spolehlivou paměť. Kopírování každé starší zprávy do promptu zvyšuje náklady a latenci, ztěžuje hledání důležitých faktů a může model zmást zastaralými či rozpornými údaji. Paměťový systém musí rozhodnout, co uchovat, kdy to použít a kdy to odstranit.
Oddělte pracovní kontext od trvalé paměti. Pracovní kontext obsahuje aktuální požadavek, poslední výměny a dočasný stav úlohy. Trvalá paměť může uchovávat potvrzené preference, stabilní fakta, projektová rozhodnutí nebo poznatky z minulých úloh. Ukládejte jen informace, které mohou změnit budoucí akci; neukládejte každou konverzaci a nepovažujte úsudek modelu za ověřený fakt.
Záznam paměti opatřete původem a životním cyklem: obsah, zdroj, osoba či tenant, vytvoření, poslední potvrzení, jistota, citlivost, vypršení a stav odstranění. Omezte záznamy na vlastnící osobu, projekt či organizaci. Rozpory řešte se zachováním času a zdroje, například když se změnila pracovní role.
Zápis do paměti musí být řízený: vytáhněte kandidátní fakta, ověřte je podle pravidel, odstraňte duplicity nebo aktualizujte záznamy a u citlivých údajů vyžadujte potvrzení. Uživatel musí moci informace zobrazit, opravit, exportovat a odstranit. Před vyhledáním ověřte oprávnění; pamětí se mohou šířit i prompt injection nebo úniky mezi tenanty.
Vyhledávání musí být selektivní: spojte sémantickou podobnost s filtry metadat, aktuálností, důležitostí a relevancí úlohy a modelu předejte jen několik záznamů se zdroji. Hodnoťte vybavení po mnoha tazích, aktualizaci, rozpory a zapomenutí na žádost napříč relacemi. Začněte nejjednodušším vhodným úložištěm a grafy přidejte, jen když hodnocení prokáže potřebu. Odkaz: https://aclanthology.org/2026.acl-long.27/
Dejte příštímu produktu někoho, kdo zůstane.
Chcete začít? Napište mi – mohu začít hned a zůstat. Dlouhodobé retainery, ne dvoutýdenní předání. Proberme váš projekt, požadavky a nejlepší cestu vpřed.