Довше контекстне вікно саме по собі не дає агенту надійної пам’яті. Якщо копіювати в промпт усі минулі повідомлення, зростають витрати й затримка, важливі факти складніше знайти, а застарілі чи суперечливі деталі можуть збити модель з пантелику. Система пам’яті має вирішувати, що варто зберігати, коли це доречно й коли це потрібно видалити.
Відокремте робочий контекст від довготривалої пам’яті. Робочий контекст містить поточний запит, останні репліки й тимчасовий стан завдання. Довготривала пам’ять може зберігати схвалені користувачем вподобання, стабільні факти, рішення щодо проєкту або висновки з попередніх завдань. Зберігайте лише те, що може змінити майбутню дію; не записуйте кожну розмову й не вважайте висновок моделі перевіреним фактом.
Визначте для запису пам’яті поля походження та життєвого циклу: вміст, джерело, власник чи орендар, час створення, останнє підтвердження, рівень упевненості, чутливість, строк дії та стан видалення. Обмежуйте записи людиною, проєктом чи організацією, якій вони належать. Суперечності розв’язуйте явно, зберігаючи час і джерело — наприклад, якщо змінилася посада, — замість подання обох фактів як одночасно актуальних.
Запис у пам’ять має бути контрольованою операцією. Витягніть можливі факти, звірте їх із правилами, об’єднайте дублікати або оновіть записи; для чутливих чи критичних даних попросіть підтвердження користувача. Дозвольте переглядати, виправляти, експортувати й видаляти збережені відомості. Застосовуйте контроль доступу до пошуку: через пам’ять також можуть проникнути prompt injection або витік даних між орендарями.
Пошук має повертати лише потрібне. Поєднуйте семантичну схожість із фільтрами метаданих, давністю, важливістю та зв’язком із завданням, а моделі передавайте невеликий набір записів із посиланнями на джерела. Попросіть агента відрізняти збережені факти від поточних спостережень і повідомляти, коли надійних спогадів немає. Знайдений запис — це контекст для перевірки, а не інструкція чи доказ істини.
Оцінюйте пам’ять безпосередньо: чи може агент знайти факт після багатьох реплік, оновити змінене вподобання, не використовувати недоречні особисті дані, помітити суперечність і забути інформацію на запит? Вимірюйте точність і повноту пошуку, результати завдань, помилки приватності, витрати токенів і затримку. Додавайте сценарії з кількома сесіями й різними формулюваннями: правильно збережену, але недоступну для пошуку пам’ять не можна вважати корисною.
Почніть із найпростішого сховища, що відповідає потребам продукту: часто достатньо реляційних записів із текстовим або векторним пошуком. Додавайте графи чи консолідацію лише тоді, коли оцінювання виявляє проблему. Дослідження пам’яті виділяють пошук, оновлення, розуміння довгих послідовностей і вибіркове забування як окремі можливості. Відразу передбачте видалення даних і журнал аудиту. Джерело: https://aclanthology.org/2026.acl-long.27/
Дайте наступному продукту того, хто лишається.
Готовий стартувати зараз і лишитись. Довготермінові ретейнери, не злив за два тижні. Напишіть - обговоримо проєкт, вимоги і як рухатись далі.