Чат‑боты, ассистенты и браузерные агенты прочно и надолго встроились в привычные нам процессы, а за этот год их развитие заметно ускорилось. При этом изменилась и поверхность атак, и уязвимым местом теперь может оказаться ваш промт. Man‑in‑the‑Prompt – это атака, которая незаметно внедряет чужие инструкции в запрос и меняет поведение модели.

В этой статье я хочу рассказать, как такие атаки реализуются и какие шаги помогут вам от них защититься.

Источник: Хабрахабр

Источник: naslou1 (Beget)

Перейти на сайт

Другие материалы на сайте b.Z - Записки о гаджетах, людях и музыке