Anthropic экстренно вырубила Fable 5 и Mythos 5 по приказу властей США. Прожили 3 дня

[cudaandy]

по сути для тех у кого прод. срочно перекидывайте инференс на другую модель Anthropic, остальные у них работают, либо на GPT-5.5 через посредника. абстрагируйте провайдера за своим прокси-слоем ЕСЛИ ещё не. урок на будущее - не вешать критичный прод на одну модель одного вендора, особенно на флагман с громким safeguard-позиционированием, по нему и прилетит первым

[penalty]

доверие к облачным ИИ этим выстрелом просто закопали. как теперь продавать бизнесу облако когда любой твой прод может умереть в обед по приказу чужого государства. on-prem и опенвейты резко подорожали в глазах всех у кого есть мозг

[peekatwo]

идеальной защиты от джейлбрейка нет НИ У КОГО, это математически так

набежали душнилы рассказывать про математику джейлбрейков. вопрос был не математический а политический. отрубили живую модель не за реальный инцидент а за ПОТЕНЦИАЛЬНУЮ узкую дыру которая есть у всех. это и есть цензура по факту, неважно как вы её обзовёте

[Bill2001]

сижу разгребаю упавшие джобы и читаю как кто-то тут пишет поделом и заговоров нет. ребят у меня клиенты звонят прямо сейчас, реальные деньги встали из-за того что регулятор поиграл в рубильник на потенциальной дыре. отработали механизм на Fable, проверили что инфраструктура слушается и никто не вякнул. в следующий раз вырубят то на чём сидишь ты, и вот тогда заговоров уже не будет, будет просто 400

[dacowbys]

Окей давайте по технике, а то ОП правильно вопрос ставит. Сейфгард против кибермисюза это не магия, это файнтюн плюс классификатор на входе/выходе плюс системный промпт. Джейлбрейк это любой способ протащить запрос мимо классификатора и мимо выученного отказа: ролеплей, кодирование запроса, разбивка на безобидные шаги, перевод на другой язык, base64, что угодно. Идеальной защиты тут быть не может в принципе, потому что модель это вероятностная штука, а не if-else. Так что фраза "нашли джейлбрейк защиты Fable" это примерно как новость "нашли способ обмануть антиспам". Да, нашли. Их находят каждый день у всех.

[svelte_nerd]

то что дыру нашли у Fable но точно такая же есть у GPT-5.5 и у любого открытого веса, а рубанули только одну модель одного вендора, как бы намекает что дело не в дыре

[dannii]

Сама Anthropic пишет ровно это: продемонстрированная уязвимость минорная, другие публично доступные модели тоже способны её найти, в том числе GPT-5.5, универсального джейлбрейка нет. То есть вендор прямым текстом говорит регулятору "вы рубите конкретную модель за то что есть у всех". И всё равно рубанули. Это и есть ответ на вопрос ОП про безопасность против показательной порки.

[kungsan]

30 дней хранения данных клиентов по Fable для мониторинга

30-дневное хранение данных по Fable это отдельная мякотка которую все пролистывают. Под соусом "мониторинг злоупотреблений". Перевожу: теперь все промпты и ответы по этой модели лежат у них месяц и доступны для просмотра. Если у тебя через Fable шла обработка хоть чего-то чувствительного, клиентские данные, внутренний код, ты только что подарил это в лог на 30 дней. И это не баг политики, это и есть цель, мониторинг = слежка, просто слово приятнее.

[hippies]

поделом тем кто весь прод повесил на одну closed-модель одного вендора без фолбэка, инженерия 101

[pirani]

поделом тем кто весь прод повесил на одну closed-модель одного вендора без фолбэка

Выше пишут "поделом". Технически да, single point of failure, но давайте честно: год назад если бы кто-то заложил в риски "правительство США рубильником отключит коммерческую модель в середине дня по экспортному контролю", его бы на ревью архитектуры подняли на смех. Это не падение API, это политическое решение, такое в SLA не закладывают.