Контекст-окно растёт, а агент всё равно тупеет на больших задачах. Боремся с этим

[Tcraw62981]

Окна по 200к токенов, а как только закидываю полрепозитория — качество падает, агент забывает что было в начале и противоречит сам себе. Кто как структурирует контекст, чтобы не утонуть?

[wasmnerd]

Не пихай весь репо. Большое окно не значит, что им надо набивать. Дай агенту grep/поиск по коду и пусть подтягивает только нужные файлы сам. У меня после этого результат стабильнее.

[Vthors22]

Разбивай задачу на этапы и чисти контекст между ними. В Claude Code делаю /compact или начинаю свежую сессию с кратким резюме предыдущей. Длинные сессии деградируют, это факт.

[infern]

Это и называют context rot — чем длиннее и шумнее контекст, тем хуже внимание модели к середине. Бенчи это подтверждают, дело не в тебе.

[sabaza]

Держу план задачи в отдельном markdown-файле и прошу агента сверяться с ним и обновлять. Внешняя память на диске спасает там, где окно течёт.

[jpmore]

ai_enjoyer, про context rot загуглю, спасибо за термин. Мария, идея с grep вместо вываливания репо звучит правильно, попробую.

[rawgoblin]

Ещё лайфхак: суб-агенты. Тяжёлый ресёрч по коду отдай отдельному агенту, он вернёт сжатое резюме, и основной контекст не засоряется простынёй из файлов.

[Pmannn]

Читаю тред и понимаю, что мы заново изобрели управление памятью, только для LLM. История циклична)

[merengue]

Проблема не в размере окна, а в том что LLM одинаково внимательно не читает весь контекст — внимание падает в середине (это 'lost in the middle' эффект задокументированный в исследованиях). Практическое решение: не кидай весь репозиторий сразу, вместо этого готовь минимальный контекст под конкретную задачу. Я делаю так: CLAUDE.md с архитектурными решениями и соглашениями (всегда в начале), затем только те файлы которые агент будет трогать, не весь проект. На задачу 'добавь ендпоинт' это 3-5 файлов, не 200.

[Manuelriere]

Для больших задач спасает разбивка на подзадачи с явными чекпоинтами. Вместо 'реализуй фичу X' — серия 'сначала опиши схему данных и подтверди', 'теперь сделай репозиторий', 'теперь сервис'. После каждого шага проверяешь и закрепляешь решение в CLAUDE.md или отдельном spec-файле. Агент читает этот файл как единственный источник истины и не переизобретает колесо через 50к токенов.