Обучение · Агенты и вайб-кодинг
Глава 39. Подписки, лимиты и горизонт
Глава про то, на чём держится нынешняя экономика твоей работы и что с ней, скорее всего, произойдёт.
Как устроены лимиты Практически все поставщики продают не токены, а доступ с ограничениями. Ограничений обычно два уровня: короткое окно на несколько часов и длинное на неделю. И оба ты словишь в самый неподходящий момент.
Это порождает поведение, которое со стороны выглядит как хуйня какая-то, а изнутри совершенно логично.
Люди планируют работу вокруг сбросов лимитов, как крестьяне вокруг дождя. Держат по несколько подписок разных поставщиков, чтобы переключаться. Заводят отдельные каналы, где сообщают о сбросах. Копят тяжёлые задачи на момент после обновления. Ебля, конечно, но иначе никак.
ГЛАВНОЕ ПРО ЛИМИТЫ Лимит это не деньги, а расписание. Он не даёт доплатить и работать дальше, он заставляет ждать. Отсюда две стратегии: либо несколько поставщиков и переключение, либо планирование крупных задач под окна. Обе жрут внимание, и это скрытая цена подписочной модели.
Скрытая переменная: качество плавает Наблюдение, которое стоит держать в голове при любых сравнениях.
Качество ответов меняется в течение суток. В пиковые часы поставщики врубают приёмы экономии, и поведение модели заметно отличается от ночного.
Люди составляют себе личные памятки о том, когда лучше работать. И памятки эти у разных людей разные, что само по себе говорит: проверяй у себя, а не верь чужим.
Отсюда практическое следствие для измерений: сравниваешь два подхода, гоняй их в одно и то же время суток. Иначе ты меряешь не подход, а загрузку поставщика.
Настройки, которые могут забрать Отдельный риск, который редко закладывают.
Поставщик может изменить или выпилить настройку, на которой держался твой процесс. Урезать объём контекста. Изменить поведение уровня усилий. Убрать режим, которым ты пользовался. Ужесточить фильтры.
Всё это происходило и происходит, обычно без предупреждения и без всякой возможности остаться на старом поведении. Проснулся, а оно уже наебнулось.
Подписки, лимиты и горизонт
ЧТО РУШИТСЯ ПРИ ИЗМЕНЕНИИ НА СТОРОНЕ ПОСТАВЩИКА
Твоя обвязка рассчитана Настройка убрана Поведение поменялось Процесс встал на старое
без предупреждения незаметно правила и хуки разбираешься неделю
Практика показывает подлую закономерность: первым наебнётся то, что ты настраивал дольше всего, потому что оно тоньше подогнано.
Экономика на горизонте Разговор, которым фактически заканчивается корпус, и он отрезвляющий.
Позиция, названная автором непопулярным мнением: подписки при полном использовании стоят поставщику до хуя больше, чем стоят тебе. Как только кончится приток инвестиций, посмотрим, у кого производительность за деньги окажется выше.
Сопутствующие наблюдения из того же обсуждения. Поставщики, которые считались дешёвой альтернативой, начали задирать цены. Многие вышли на биржу, а значит от них ждут прибыли, а не благотворительности. Месячный лимит одной из подписок сгорал за два дня, и это не пиздёж, а замер.
ЧТО С ЭТИМ ДЕЛАТЬ Циник. Успеть сделать всё сейчас, пока дёшево. Через год за ту же работу придётся платить больше, и это надо заложить. Прагматик. Строить процесс так, чтобы смена поставщика была вопросом настройки, а не переписывания. Осторожный. Считать стоимость единицы результата уже сейчас, при нынешних ценах умножая её на два-три. Если при таких числах экономика не сходится, она не сойдётся и потом.
Независимость от поставщика Практический раздел, следующий из всего вышесказанного.
Совет, прозвучавший после того, как у одного из участников заблокировали аккаунт: пересядь на обвязку, не привязанную к конкретному поставщику. Тогда при блокировке ты теряешь не рабочий процесс, а только подписку: выбрал другого поставщика и поехал дальше.
Формулировка, которая объясняет суть: ты теряешь не модель, а обвязку. Модель заменима, обвязка нет.
Подписки, лимиты и горизонт
ЧЕК-ЛИСТ НЕЗАВИСИМОСТИ 1. Сколько мест в твоём процессе жёстко завязаны на имя конкретной модели? 2. Что перестанет работать, если этот поставщик станет недоступен завтра? 3. Есть ли у тебя вторая, настроенная и проверенная связка, или она существует только на словах? 4. Твои правила и скиллы написаны под конкретную модель или под задачу? 5. Твои эвалы прогоняются на второй модели хотя бы иногда? 6. Твои данные и память лежат в формате, который переживёт смену инструмента?
Четвёртый пункт заслуживает пояснения. Наборы инструкций под разные модели приходится держать отдельно, потому что отличаются они не на копейку: одной модели надо было всегда добавлять дополнительные пояснения, а другой те же пояснения только путали карты.
Это не аргумент против независимости, а уточнение её цены: независимость означает два комплекта, а не один универсальный.
Чего делать не надо Отдельно про то, чего лучше избегать, потому что встречается это сплошь и рядом.
Строить систему вокруг отпечатка машины. Привязка к конкретной установке делает перенос невозможным нахуй.
Полагаться на бесплатные лимиты. Они существуют для привлечения и исчезают первыми.
Обходить ограничения поставщика. Помимо очевидных рисков, это делает твою систему заложником чужих настроек, которые меняются.
Считать текущие цены постоянными. Они не постоянные ни в одну сторону, ни в другую.
Что запомнить Лимит это расписание, а не деньги. Он заставляет ждать, а не платить больше.
Качество плавает по времени суток. Сравнивай подходы в одинаковых условиях.
Поставщик может убрать настройку, на которой держится твой процесс, без предупреждения.
Нынешние цены держатся на инвестициях. Считай экономику с запасом в два-три раза.
При блокировке ты теряешь обвязку, а не модель. Независимость от поставщика это страховка.
И независимость стоит денег: это два комплекта настроек, а не один универсальный.
← Токеномика · оглавление · Личный агент →
Спросить книгу может любой, кто вошёл в Neuraldeep Hub: агент ищет ответ по тексту и приводит цитату со ссылкой на главу.