AI‑агенты все чаще используются для принятия важных решений и даже управления активами на десятки миллионов долларов, встает вопрос возможности определения LLM модели по ее ответам — fingerprinting. Это нужно для анализа безопасности использования агента, о котором не известно технических деталей «черного ящика» и учета особенностей конкретных моделей, о чем мы писали в прошлых статьях (часть 1, часть 2). Также можно отслеживать изменения используемых моделей в конкретном AI‑агенте и вовремя распознать попытку подмены.

Источник: Хабрахабр

Источник: mmvds (Positive Technologies)

Перейти на сайт

Другие материалы на сайте b.Z - Записки о гаджетах, людях и музыке