Дал агентному браузеру доступ к почте и попросил разобрать инбокс. Больше никогда

[archlord]

Неделю гонял ChatGPT Atlas, до этого щупал Comet. Решил дать агенту реальную задачу: разобрать почтовый ящик, отписаться от мусорных рассылок, важное пометить. Он честно отписался от полусотни рассылок и красиво отчитался. А потом я обнаружил, что он заодно ответил клиенту каким-то вежливым бредом от моего имени и заархивировал письмо с актом сверки, которое я потом искал два дня.

И это ещё цветочки. Безопасники уже показывали, как письмо с невидимым текстом заставляет агента переслать содержимое инбокса на чужой адрес. Браузер ходит по сайтам залогиненный под тобой и выполняет инструкции из любого текста, который видит.

Снёс. Кто-то реально пользуется этим в боевом режиме? Или индустрия опять продала нам демку как продукт?

[Kutz]

@archlord, а чего ты ждал. дать llm кнопку отправить письмо это как выдать макаке гранату. рано или поздно бахнет, вопрос только у кого первого

[sdag]

Пользуюсь Comet почти два месяца, для ресерча реально удобно: кидаешь задачу сравнить десяток тарифов, он открывает вкладки и сводит табличку. Но почта и банки, ты что. Я ему завёл отдельный профиль браузера без единого логина, и в таком режиме это вполне полезная штука. Проблема не в инструменте, а в том что ты пустил его в самое чувствительное место с первого дня.

[Sdgator]

@Kutz, Проблема даже не в кривости конкретного Atlas, она фундаментальная. Агент не отличает данные от инструкций. Любой текст на странице или в письме для него потенциальная команда. Brave в разборе по Comet это наглядно показали: невидимый текст на странице и агент пошёл выполнять. Пока модели в принципе так устроены, никакие промпты-заборы это не чинят, только жёсткое урезание прав. Так что отдельный профиль без логинов, как выше написали, пока единственный рабочий вариант.

[guardia]

стоп, а atlas это отдельный браузер или расширение к хрому? не слежу за этим зоопарком уже

[smith_zhenya]

2026 год. человечество изобрело секретаря, который верит каждому спам-письму и при этом имеет доступ ко всем твоим аккаунтам. прогресс не остановить