Кодинг-агент в крупном репозитории тратит большую часть бюджета не на рассуждения, а на чтение файлов. Инженеры Spotify описали, как перестроили этот поток: часть работы ушла на дешёвую модель, часть — фоновым агентам, а контроль качества пришлось усиливать отдельно. Разбор трёх публикаций Spotify Engineering показывает, что здесь работает, а что требует новых правил.

Где агент сжигает дорогие токены

Типичная сессия агента в монорепозитории выглядит так: чтобы узнать сигнатуру одного метода, модель читает несколько длинных классов, а при генерации теста копирует шаблон соседнего файла. Работа нужна, но её мог бы выполнить кто-то дешевле.

Ведущий продакт-менеджер Spotify Димитри Мазманов описывает и финансовую сторону: четверть руководителей разработки уже тратят от $200 до $500 на токены в месяц на одного инженера, у отдельных активных пользователей счёт превышает $2000. По его оценке, к 2028 году расходы на кодинг-агентов могут превзойти среднюю зарплату разработчика. (Portal by Spotify cut my Claude Code token usage by 90%)

Первая попытка решить проблему выглядела логично: в файл инструкций добавили правило «большие файлы читай не сам, а через внешний скрипт с дешёвой моделью». Агент это правило игнорировал — инструкция в промпте не ограничивает действие инструмента.

Как устроен shunt: хук на размер файла и дешёвая модель

Рабочее решение сделали на уровне инструментов, а не текста инструкции. Плагин shunt состоит из трёх слоёв.

Первый слой — хуки PreToolUse. check-file-size срабатывает на каждый вызов чтения: если файл длиннее порога (по умолчанию 350 строк), чтение блокируется, и агент получает указание использовать режим bulk-reader. Второй хук, check-bash-read, закрывает обход через чтение в командной строке.

Второй и третий слои — эфемерные режимы в Portal, которые автор называет AiKA Modes: декларативный агент на временном рантайме, по смыслу близком к AWS Lambda, но для агентов. bulk-reader на дешёвой модели читает файлы и возвращает короткие буллиты вместо сырого текста. code-writer генерирует шаблонный код по обязательному файлу-образцу и пишет его сразу на диск, не проводя текст через контекст дорогой модели.

Результат на Java-монорепозитории — средняя экономия около 90% токенов на чтении. Важная деталь: делегирование одноразовое, каждый вызов короткоживущий, поэтому в контексте флагманской модели остаётся только результат.

Масштаб: Honk, Fleetshift и поток изменений

Контекст, в котором это работает: платформа Spotify обслуживает 777 млн MAU, около 100 млн одновременных клиентов, 11–12 млн запросов в секунду и почти 3000 продакшен-сервисов. Более 99% инженеров используют ИИ-инструменты еженедельно, 94% отмечают рост продуктивности, а частота создания пул-реквестов выросла на 76%.

На этом масштабе часть изменений делают фоновые агенты. Система Fleetshift за время работы смержила более 2,5 млн автоматических PR на обслуживании, большинство — без участия человека. Для более сложных правок появился фоновый агент Honk: он работает на Claude Agent SDK в Kubernetes и опирается на каталог Backstage и стандарты Soundcheck, то есть на описание того, как должен быть устроен каждый тип компонента. Недавняя миграция Java по бэкенд-сервисам заняла три дня — раньше такие миграции тянулись неделями у множества команд. (Coding Is No Longer the Constraint)

Качество при удвоении скорости

Самая полезная часть разбора — честная ретроспектива, а не цифры экономии. В августе число смерженных изменений выросло год к году примерно с 8100 до 17000. Выросла и доля работы над качеством и оптимизацией: с 27% до 31% в общем объёме.

При этом SVP по технологиям Тайсон Сингер отмечает, что данные не показывают отдельного «почерка ИИ-ошибок». Метрика переделок осталась на прежнем уровне, хотя отраслевые данные говорят о росте code churn. Узким местом стала не скорость написания кода, а способность его проверять.

Отсюда операционные выводы, которые важнее любого бенчмарка: автоматические изменения теперь планируют в рабочие часы команды-владельца, а после майского регионального сбоя компания удвоила зарезервированную ёмкость на периметре. (AI Changed How Spotify Builds)

Ещё один слой, который легко пропустить, — стандартизация. Honk работает не с пустым листом: у каждого компонента есть описание в каталоге, рекомендованный стек и критерии, по которым команда сама оценивает соответствие. Именно это делает фоновые правки предсказуемыми: агент приводит код к уже описанному состоянию, а не изобретает архитектуру заново.

Что перенести в свой процесс

Три вывода, которые не зависят от размера компании.

Во-первых, ограничение нужно ставить в инструменте, а не в промпте. Если правило можно обойти вызовом bash, оно не работает.

Во-вторых, дорогую модель стоит держать для решений, а не для пересказа файлов. Дешёвый режим с узкой задачей справляется с черновой работой.

В-третьих, ускорение меняет узкое место. Когда проверка становится ограничением, растут требования к регрессиям, окнам выкатки и запасу мощности. Для производственных процессов это тот же принцип: сначала опишите, как проверяется результат, и только потом расширяйте полномочия агента. Посмотрите, как это устроено в производственных сценариях и в общем каталоге направлений.

Практический признак, что вы на верном пути: агент перестаёт быть единственным местом, где живёт знание о процессе. Если правила, пороги и стандарты описаны вне промпта, смена модели или поставщика не ломает весь контур — меняется только исполнитель.

Чек-лист перед запуском

  • [ ] Правила ограничения агента реализованы хуками или политикой инструментов, а не текстом инструкции.
  • [ ] Для типовых операций есть дешёвый режим с узкой задачей и коротким ответом.
  • [ ] Определён порог, после которого файл или задача уходит на упрощённую обработку.
  • [ ] Фоновые агенты работают по стандарту компонента, а не по свободному промпту.
  • [ ] Метрика переделок и проверка результата измеряются отдельно от скорости доставки.
  • [ ] Автоматические изменения выходят в окне, согласованном с владельцем сервиса.
  • [ ] Заранее описан запас мощности на случай регионального сбоя.

Частые ошибки

  • Писать правила экономии в промпт. Модель может их проигнорировать, а инструмент — обойти.
  • Считать экономию токенов главным результатом. Без проверки качества ускорение просто быстрее создаёт долг.
  • Путать скорость написания кода со скоростью его принятия. Ограничением становится верификация, а не генерация.
  • Оставлять авто-мержи без расписания. Изменения, попавшие в чужой рабочий день, дороже в разборе.
  • Переносить цифры Spotify на свой контекст. 90% экономии получены на монорепозитории с длинными файлами и своим тулингом.

Другие разборы инженерных практик — в блоге.