Когда LLM перестаёт быть просто чат-интерфейсом и начинает сама планировать шаги, вызывать инструменты и общаться с другими агентами, ломаются и привычные способы контроля. В статье — о том, почему для агентных систем уже недостаточно мерить качество ответа, какие новые метрики нужны для оценки их работы и как меняются требования к безопасности, трассировке и эксплуатации таких архитектур.

Источник: Хабрахабр

Источник: SiYa_renko (OTUS)

Перейти на сайт

Другие материалы на сайте b.Z - Записки о гаджетах, людях и музыке