Агентные системы - это уже не чат. Они планируют задачи, дергают инструменты и оставляют свой след в данных. Сетка фильтров не спасёт, если у агента есть доступ к чувствительному контенту, недоверенные источники и выход в интернет. Разбираем OWASP Agentic Top 10 и модель Trifecta чтобы не допустить утечек и взлома системы.

Источник: Хабрахабр

Источник: KissedByF1re

Перейти на сайт

Другие материалы на сайте b.Z - Записки о гаджетах, людях и музыке