Где агент ломается

Честный список того, что автономный агент делает плохо: забывает, отчитывается об успехе без результата, молчит о сорванных заданиях. И как это ловить.

Всё, что написано в остальных разделах, — правда при условии, что вы знаете эти четыре поломки. Ни одна из них не чинится настройкой: они встроены в саму природу агента, и защищаться от них приходится привычками.

Общий принцип: проверяйте результат, а не отчёт. Агент — исполнительный стажёр без злого умысла, но с уверенным тоном.

​

Забывает

Рабочая память конечна. Когда разговор становится длинным, система молча его ужимает — и детали испаряются. Агент не сообщает, что забыл: он просто продолжает разговор с тем, что осталось.

Как выглядит: агент путает имена и цифры, переспрашивает то, о чём вы договорились час назад, перестаёт следовать собственным правилам.

Что делать	Как
Держать важное в файлах	Постоянные факты — в Долгую память, запреты — в Правила. См. Личность и память
Не сваливать всё в один разговор	Новая тема — новый разговор
Не сваливать всё в одного агента	Одна крупная задача — один агент или отдельная персона
Дать модель с большим контекстом	Слот Мозг в разделе Модели

​

Врёт

Агент может бодро отчитаться, что задача выполнена, хотя часть работы не сделана. Это не обман, а особенность: он реконструирует картину происходящего и иногда ошибается в свою пользу.

Как выглядит: «записал все семь тренировок» — а в базе три. «Отправил письма» — а ушло одно.

Что делать	Как
Просить подтверждение фактом	«Пришли список того, что записал, строками» — а не «сделано»
Смотреть результат руками	Файл в Файлах, строку в таблице, письмо в отправленных
Ставить задачу с проверяемым итогом	Не «разберись с расходами», а «пришли таблицу с суммой по каждой категории»

​

Молчит

Самая дорогая поломка, потому что не видна. Фоновые задания могут перестать выполняться — например, после переноса или сбоя, — и агент не скажет об этом ни слова. Данные за это время просто не собираются.

Что делать	Как
Сверять регулярные результаты	Пришла ли пятничная сводка. Нет — идите в Журнал
Просить в задании явный признак жизни	«Если собирать нечего, всё равно напиши одну строку: проверено, изменений нет»
Проверять после каждого перезапуска	Смена настроек и установка навыков перезапускают контейнер

​

Ломает

Когда агент действует сам, он способен сломать рабочее и не понять этого: залить данные не туда, испортить страницу, перезаписать файл. И честно доложить, что всё готово.

Что делать	Как
Сначала «покажи», потом «сделай»	Пока доверия нет — режим предложений, а не действий
Держать бэкап	Перед любой задачей, которая трогает боевые данные
Не давать боевое сразу	Пусть сначала работает на копии или на тестовой странице
Разделять риски	Агент, который трогает деньги и почту, — не тот же, который экспериментирует

​

Доступы

Две самые дорогие истории — не про ошибки агента, а про то, что ему выдали: доступ к почте с правом удалять и навык от незнакомого автора, внутри которого была инструкция отправить ключи наружу. Обе разобраны в Безопасности.

​

Как с этим жить

Формулируйте задачи как чек-лист

Агент — стажёр, а не гений. Размытая задача даёт уверенный бред. «Собери расходы за июль из чеков в папке, сгруппируй по категориям, пришли таблицу и назови три самые крупные траты» работает, «разберись с деньгами» — нет.

Заведите привычку проверять раз в неделю

Пять минут: пришли ли плановые сводки, что лежит в колонке Застряла на доске, не появилось ли странного в файлах. Это дешевле, чем обнаружить месяц потерянных данных.

Второй агент как проверяющий

Рабочий приём: один агент делает, второй сверяет результат с исходными данными. Дороже по расходу, но для критичных вещей окупается.

Не ждите от него инициативы в отчётности

Агент не придёт сказать «у меня не получилось» — он ответит на ваш вопрос, если вы его зададите. Всё, что должно приходить само, оформляйте плановым заданием с явным требованием отчитаться.

​

Что дальше

Безопасность и доступы

Правила выдачи прав и чужие навыки

Обслуживание

Журнал, диагностика, бэкап

Личность и память

Файлы, которые не теряются при сжатии

Расписание

Как заставить агента подавать признаки жизни