Глава 29. Постоянно работающий агент

До сих пор речь шла об агенте, которого зовёшь, когда нужна работа. Есть второй класс: агент, который живёт постоянно и сам решает, когда что-то сделать.

Различие принципиальное, и путать их дорого.

Верстак и дом Метафора, которая закрепилась в разговорах.

Верстак. Подошёл, взял инструмент, сделал работу, ушёл. Агент существует ради задачи, между вызовами никакой своей жизни у него нет. Сюда относятся кодовые агенты, помощники по документам, всё, что запускается под задачу.

Дом. Он есть, даже когда тебя нет. У него своё состояние, свои дела, своё расписание. Он замечает изменения и реагирует. Сюда относятся личные ассистенты, дежурные, мониторинг, всё, что работает в фоне.

Свойство Верстак Дом

Когда работает Когда вызвали Всегда

Откуда берёт задачи От тебя Сам

Что с состоянием между запуска- Ничего Всё ми

Главный риск Сделал не то Не заметил или отреагировал не туда

Что важнее всего Качество результата Качество внимания

ГЛАВНОЕ ПРО ДВА КЛАССА Верстак проверяется по результату. Дом проверяется по тому, на что он обратил внимание и на что не обратил. Это разные метрики и разная инженерия. Хороший кодовый агент, поставленный работать постоянно, превращается в генератор шума, потому что механизма решать, что важно, у него нет ни хуя.

Пять точек проектирования Разбор, который лучше всего описывает, из чего собирается постоянно работающий агент. Пять пунктов, каждый закрывает свой провал.

1. Генератор бесконечной работы. Нужны детерминированные показатели, по которым видно, есть работа или нет. Без них агент всегда может сказать, что всё заебись, и остановиться. И скажет, потому что это дешевле.

Постоянно работающий агент

2. Система восприятия. Пассивное наблюдение отделяется от триггеров реакции. Агент постоянно смотрит, но реагирует не на всё подряд.

Ключевая идея: триггер строится на нарушении ожидания, а не на пороге метрики. Порог даёт шум, потому что нормальные колебания его пересекают. Нарушение ожидания означает, что случилось то, чего по твоей модели мира происходить не должно.

3. Организационная память. Хранит три вещи: источник, интерпретацию и рамку, в которой эта интерпретация сделана.

Третий элемент обычно проёбывают, и зря. Без рамки вывод протухает молча и незаметно: ты помнишь, что решение было принято, но хуй вспомнишь, при каких условиях, и продолжаешь им пользоваться, когда условия давно другие.

4. Много мозгов, которые спорят. И большинство из них люди. Постоянно работающий агент не должен быть единственным источником суждения о том, что происходит.

5. Переиспользование существующих процедур. Бюрократические процедуры в организациях созданы ровно для решения проблемы ненадёжного исполнителя. Согласования, сверки, отчётность. Агент это ненадёжный исполнитель, и все эти механизмы к нему применимы без изобретения новых.

АРХИТЕКТУРА ДОМА

Наблюдение Ожидание Нарушение Решение Действие Память

пассивно, всегда модель нормы триггер что делать с с рамкой подтверждением

Почему триггер по порогу не работает Стоит остановиться, потому что это самая частая ошибка.

Порог выглядит просто: значение выше такого-то, зови. На практике получаешь либо шквал ложных срабатываний, либо проёб настоящих проблем, потому что нормальное поведение системы одним числом не описывается.

Нарушение ожидания устроено иначе. Ты описываешь, чего ждёшь: в это время дня нагрузка примерно такая, эти отчёты приходят по понедельникам, этот показатель растёт медленно. Триггер срабатывает, когда наблюдение расходится с ожиданием.

Побочная польза: описав ожидания, ты с удивлением обнаружишь, что половину из них сам ни хуя не знал.

Связка из двух агентов Схема, которая работает у практиков и стоит отдельного упоминания.

Один агент наблюдает и формулирует. Второй исполняет. Между ними формализованная передача: не разговор, а структурированное задание.

Постоянно работающий агент

Смысл в разделении внимания и действия. Наблюдающий не отвлекается на исполнение, исполняющий не отвлекается на наблюдение. И, что важнее, между ними появляется точка, куда можно поставить человека.

НУЖЕН ЛИ ЧЕЛОВЕК В ЦИКЛЕ ПОСТОЯННО РАБОТАЮЩЕГО АГЕНТА Да, всегда. Полностью автоматические системы регулярно наебываются, и чем дольше работают, тем вероятнее. Подтверждение действия человеком это дешёвая страховка. Нет, иначе теряется смысл. Нужно подтверждение на каждое действие, значит ты получил не агента, а уведомления с кнопкой. Рабочий компромисс. Разделить действия на обратимые и необратимые. Обратимые агент делает сам и записывает. Необратимые требуют подтверждения. Список необратимых составляется заранее и пересматривается.

Что реально поручают Чтобы разговор не был абстрактным, вот список задач, ради которых постоянно работающих агентов действительно держат.

Сводка дня: дела, напоминания об оплатах, курсы, новости по интересующим темам.

Разбор входящей почты и приведение в порядок облачных дисков.

Учёт финансов, коммунальные платежи, регулярные расходы.

Заметки после встреч: расшифровка, выделение решений, напоминания.

Мониторинг: заметил изменение, сформулировал, спросил.

Ежедневный разбор одной темы из области, в которой ты работаешь.

Список бытовой до зевоты, и это правильно: постоянно работающий агент оправдывает себя на рутине, а не на подвигах.

Чего ждать по надёжности Честная картина. Постоянно работающий агент ломается тише, чем верстак.

Кодовый агент, наворотивший хуйни, виден сразу: код не собирается. Постоянно работающий агент, переставший замечать важное, не виден вообще, потому что отсутствие сообщений выглядит как отсутствие проблем.

ПРОВЕРКА ЖИВОСТИ 1. Заведи проверку, которая срабатывает, если агент долго молчит. Молчание должно быть событием. 2. Раз в неделю подсовывай ему заведомо значимое изменение и смотри, заметит ли. 3. Веди журнал того, о чём он сообщил, и раз в месяц сверяй с тем, что действительно происходило. 4. Отдельно отмечай, о чём он не сообщил, а стоило. Это и есть материал для настройки ожиданий.

Постоянно работающий агент

Что запомнить Два класса агентов: верстак и дом. Разные метрики, разная инженерия.

Дому нужен генератор работы с детерминированными показателями, иначе он всегда скажет, что всё хорошо.

Триггер строй на нарушении ожидания, а не на пороге метрики.

Память должна хранить источник, интерпретацию и рамку интерпретации.

Раздели действия на обратимые и необратимые. Вторые с подтверждением.

Молчание должно быть событием, иначе ты не заметишь, что агент давно откинулся.

Модуль 8. Люди и компании Четыре главы про то, что происходит, когда агентов развелось до хуя, а людей столько же.

Что реально получилось у команд, почему внедрение упирается в неявное знание, во что превращается хранилище скиллов через полгода и что теперь вообще делает разработчик.

Модуль для тех, кто отвечает не только за себя.

← Автономный режим: что он реально делает · оглавление · AI-first процессы →

Спросить книгу может любой, кто вошёл в Neuraldeep Hub: агент ищет ответ по тексту и приводит цитату со ссылкой на главу.