Глава 20. Многоагентность и рои

Предыдущая глава была про одного субагента, эта про десятки. Тема, вокруг которой больше всего шума и больше всего разочарований.

Главный спор и его разрешение Спор шёл почти весь наблюдаемый период и звучал так.

Позиция скептиков. Многоагентность это способ спалить в десять раз больше токенов и получить в среднем тот же результат. Ошибки копятся, агенты дублируют работу, координация сжирает весь выигрыш.

Позиция сторонников. Одна голова большую задачу не удержит. Разделение неизбежно, вопрос только в том, как его организовать.

Разрешение оказалось не компромиссом, а разграничением: многоагентность хороша на одних задачах и разъёбывает всё на других, и граница проходит там же, где в прошлой главе.

ГЛАВНОЕ ПРО РОИ Параллельные агенты хороши на сборе и структурировании материала. Хуёвы на выборе. Собрать сведения из тридцати источников, разобрать сорок файлов, прочитать длинную переписку и вернуть структуру: делится идеально, потому что куски независимы. Выбрать между двумя архитектурами, решить, что важнее, определить приоритет: не делится вообще, потому что сравнение требует всех вариантов в одной голове.

Три топологии Практически все рабочие схемы сводятся к трём формам.

Топология Как устроена Что даёт Чем платит

Цепочка Результат одного идёт Простота, воспроизво- Медленно, ошибка ранследующему димость них передаётся дальше

Веер Один разослал, все ра- Настоящая параллель- Сборка результатов и их ботают, один собрал ность противоречия

Дерево Веер, у которого ветки Масштаб Взрыв, потеря контектоже ветвятся ста, непредсказуемый счёт

Первые две предсказуемы. Третья это то, где случаются истории про сорок субагентов за минуту.

Многоагентность и рои

ВЕЕР, САМАЯ РАБОЧАЯ ФОРМА

Разбить Раздать Собрать Свести

на независимые куски параллельно результаты в одну голову

Последний шаг критичен и чаще всего его проёбывают. Сведение делает один агент или человек, потому что именно там принимается решение.

Цифры, которые полезно знать Замеры из практики, чтобы представлять масштаб.

Полсотни агентов параллельно читали длинную переписку. Весь проход занял около получаса. Задача чистого сбора, делится идеально.

Девять агентов собирали карту незнакомого кода, потом дюжина в несколько заходов писала проектный документ. Здесь уже смешанная задача, и заметная часть времени ушла на согласование.

Восемь агентов два часа разбирали развилку в архитектуре. Результат: материал для человеческого решения. Само решение принял человек.

Отдельная строка: прогнать полный набор агентных бенчмарков стоит как квартира. Это не шутка автора, а цитата из разбора, и она объясняет, почему независимых проверок днём с огнём не сыщешь.

Как ошибки накапливаются Самое важное для понимания рисков.

Ошибки в многоагентном потоке копятся нелинейно. Долго всё выглядит стабильно, а потом резко идёт по пизде. Аналогия, которую приводили: это как прогноз погоды. На три дня вперёд считается неплохо, на четыре почти невозможно, и разница между тремя и четырьмя гораздо больше, чем кажется.

Практическое следствие: схема отработала пять раз, и это ни хуя не значит, что она отработает шестой. А отодвинуть точку срыва гораздо труднее, чем её обнаружить.

ЧТО С ЭТИМ ДЕЛАТЬ Ограничивать. Держать глубину в один уровень, число агентов в десятках, а не сотнях, и всегда иметь потолок расхода. Проверять. Считать не результат одного прогона, а разброс между несколькими. Стабильная схема даёт близкие результаты, нестабильная разные. Не масштабировать раньше времени. Схема, отработавшая на трёх задачах, не готова к тридцати. Это разные режимы.

Многоагентность и рои

Мета-обвязка Тренд, оформившийся ближе к концу наблюдаемого периода, и выглядит он разумно.

Оркестратор держит чистый контекст и почти ни хуя не знает. Обвязка собирается субагентам под конкретную задачу: этому дали такие инструменты и такие правила, тому другие.

Смысл в том, что универсальный набор инструментов для всех агентов сразу это и дорого, и вредно: каждый агент видит инструменты, которые ему нахуй не нужны, и рано или поздно ими воспользуется.

Рядом идёт вторая идея: на проект делается два набора обвязки, рабочий и тестирующий. Второй существует, чтобы измерять первый.

Ферма не заменяет голову Отрезвляющее наблюдение, которым закончился один из самых длинных споров.

Кто-то предположил, что скоро можно будет сказать системе собери мне хороший продукт, и рой агентов всё сделает. Ответ был такой: если постановка верхнего уровня звучит как собери отличный продукт, никакое количество агентов в циклах не даст хорошего результата, потому что человек, который так ставит задачу, не отличит отличный результат от хуёвого.

И вывод, который стоит запомнить целиком.

ГЛАВНОЕ ПРО ПРЕДЕЛЫ Агентские фермы полезны в руках людей, которые справились бы и без агентских ферм. Ферма умножает то, что у тебя есть. Есть внятная постановка и умение проверить результат, она умножит их. Нет, она умножит отсутствие.

Практическая схема на сегодня Что реально работает у людей, которые пользуются этим каждый день.

РАБОЧАЯ СХЕМА МНОГОАГЕНТНОСТИ 1. Дели только то, что действительно независимо. Проверка: результат одного куска нужен другому? Значит не независимо. 2. Глубина один уровень. Субагенты не запускают субагентов, пока ты не проверил, что ограничение работает. 3. Каждому субагенту минимальный набор инструментов. Лишний инструмент будет использован, к гадалке не ходи. 4. Формулировка задания одинаковая для всех: собери и верни, решать будем вместе. 5. Сведение результатов делает один агент или человек. Это точка принятия решения. 6. Потолок расхода на задачу и остановка при его достижении.

Многоагентность и рои

Что запомнить Рои хороши на сборе и структурировании, хуёвы на выборе.

Три топологии: цепочка, веер, дерево. Первые две предсказуемы, третья взрывается.

Ошибки копятся нелинейно: долго стабильно, потом резкий срыв.

Оркестратор держит чистый контекст, обвязка собирается субагентам под задачу.

Ферма умножает то, что есть. Постановка хуёвая, значит умножит хуёвую постановку.

← Субагент: когда помогает, когда мешает · оглавление · Роли и конвейер →

Спросить книгу может любой, кто вошёл в Neuraldeep Hub: агент ищет ответ по тексту и приводит цитату со ссылкой на главу.