Контекст — это рабочий стол, а не архив
Модель видит только то, что оказалось в текущем запросе. Если складывать туда историю целиком, важные факты начинают конкурировать с повторами, служебными сообщениями и устаревшими решениями. Поэтому хороший контекст собирают заново для каждого шага: цель, последние наблюдения, обязательные ограничения и только те материалы, которые нужны прямо сейчас.
Практическое правило простое: каждый фрагмент должен отвечать на вопрос «какое решение он помогает принять?». Всё остальное лучше оставить в долговременном хранилище и извлекать по необходимости.
Память должна иметь происхождение
Полезная память — не бесконечный журнал сообщений. Это набор коротких утверждений с источником, временем и областью действия. Пользовательское предпочтение, результат измерения и предположение модели нельзя хранить одинаково: у них разная надёжность и разный срок жизни.
Система становится предсказуемее, когда умеет не только вспоминать, но и объяснять, откуда взялось воспоминание.
Агент — это цикл с контрольными точками
Надёжный цикл состоит из небольших шагов: сформулировать намерение, выбрать действие, проверить результат, обновить состояние. Длинные планы полезны как направление, но не как неизменный сценарий. После каждого внешнего действия реальность могла измениться, поэтому следующий шаг нужно рассчитывать по свежим данным.
- Сохраняйте состояние отдельно от текста диалога.
- Ограничивайте число шагов и стоимость каждой попытки.
- Требуйте подтверждение перед необратимыми действиями.
- Записывайте причину выбора инструмента и итог проверки.
Что измерять
Одной оценки «ответ понравился» мало. Для прикладной системы полезнее четыре независимых сигнала: выполнена ли задача, соблюдены ли ограничения, сколько понадобилось шагов и можно ли повторить результат. Такой набор быстро показывает, где проблема — в данных, выборе действия или самой формулировке цели.
Киллер-фича агентного продукта — не максимальная автономность. Это способность уверенно продолжить работу после ошибки, не потеряв состояние и не скрыв от человека, что именно произошло.