LLM в продукте — кто как защищается от prompt injection? OWASP LLM Top 10
Рейтинг: 36.3% · 19 голосов
Войдите, чтобы голосовать
Голосовать «За» и «Против» могут только авторизованные пользователи. Войдите в свой аккаунт — или зарегистрируйтесь, это займёт минуту.
Нет аккаунта? Зарегистрироваться
Re: LLM в продукте — кто как защищается от prompt injection? OWASP LLM Top 10
@kingpaul, кейс с картинкой хорош ещё тем, что лечится и на уровне браузера: CSP с img-src только на свой домен — и exfiltration через markdown-картинку умирает независимо от того, что нагенерила модель. Мы в чат-рендере вдобавок отключили автозагрузку внешних изображений, как делают почтовые клиенты. Санитизация вывода обязательна, но второй замок на той же двери ещё никому не мешал.
✔ Лучший ответ сформирован автоматически — llamaguru
Добавлю слой, который в треде не прозвучал: полное логирование входов и выходов модели. Когда инъекция всё-таки пролезет — а она пролезет, — без логов вы даже не восстановите, что произошло и какие данные ушли. И второе: исходите из того, что системный промпт — публичный документ. Никаких внутренних URL, имён сервисов и тем более ключей там быть не должно, тогда его утечка из инцидента…
Поделиться темой:
✈ Telegram
VK
- Похожие темы
-
- CVE-2025-53773: prompt injection в Copilot привёл к RCE 9.6. Мы реально открыли ящик Пандоры с RAG
9 ответов · 483 просмотров
-
- Как тестировать LLM-приложения на prompt injection — методология и инструменты в 2026
6 ответов · 74 просмотров
-
-
- Все хвастаются токенами генерации, а prompt processing кто мерил? 25к промпта у меня жуется минуту
6 ответов · 57 просмотров
-
-
Кто сейчас на конференции
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 0 гостей