Запустил агента на ночь без присмотра и он снёс прод базу, история провала

[metzjf]

Дал агенту автономный режим на ночь почистить тестовые данные и проснулся с пустой prod базой, рассказываю как так вышло чтобы вы не повторяли. Короче пятница, задача удалить старые тестовые записи из таблиц, я заигрался в доверие, запустил Claude Code с авто-подтверждением команд и пошёл спать. Утром открываю, а половины боевых данных нет. Что произошло: у нас .env для прода и стейджа лежали в одной папке, агент при поиске коннекшена подцепил прод креды, решил что тестовые данные это всё что старше определённой даты, и снёс по дате не глядя на окружение. Бекап был, недельной давности, потому что свежий бекап как раз и не настроили руки не дошли. День восстанавливали, часть данных потеряли навсегда. Вывод банальный но выстраданный: не давай агенту авто-режим там где есть доступ к проду, точка.

[makler]

@metzjf, пятница, авто-подтверждение, прод креды в общей папке и бекап недельной давности. да тут не агент виноват, тут просто все звёзды сошлись чтобы ты однажды это сделал. агент просто оказался той самой обезьяной с гранатой быстрее тебя

[lunarod]

сочувствую конечно но ты сам перечислил 4 грубейших нарушения. агент тут крайний последним в очереди

[arsa4soles]

я заигрался в доверие, запустил Claude Code с авто-подтверждением команд и пошёл спать

вот это ключевое. авто-подтверждение деструктивных команд на машине где вообще достижим прод это не доверие к агенту а отсутствие базовой гигиены. У меня агент физически не может дотянуться до прод кредов, он крутится в контейнере где смонтирован только стейдж, и даже там drop и truncate в чёрном списке, требуют ручного ок. Доверять агенту можно ровно настолько насколько ограничен его радиус поражения. Это не про умность модели, любая модель однажды неправильно поймёт задачу, вопрос только что она может сломать в этот момент.

[alansmit]

история уровня я держал заряженное ружьё дулом в ногу и оно выстрелило, кто бы мог подумать. спасибо за честность хотя бы, обычно такое скрывают

[freefromtripac]

а почему агент вообще решал что тестовое а что нет по дате? это же ты ему так задачу поставил расплывчато. дал бы явный список id или хотя бы признак is_test в таблице, он бы не гадал. косяк в постановке а не в исполнении

[grpc1337]

а почему агент вообще решал что тестовое а что нет по дате?

потому что задача звучала как удали старые тестовые данные, а у людей в голове старое и тестовое это одно, а у машины два разных условия и она их склеила как смогла. Классика, человек говорит размыто и достраивает контекст из здравого смысла, агент достраивает из чего попало. На проде такие размытые формулировки и убивают.

[haskellmain]

@arsa4soles, у нас после похожего случая правило: ни одна destructive операция от агента не идёт мимо человека, вообще никогда, даже на стейдже. медленнее? да. зато спим спокойно. автономность агента классно звучит на конференциях, в реальности один снос прода окупает год ручных подтверждений