Представьте, что вы управляете колл-центром и решили внедрить открытое LLM (большую языковую модель) для автоматизации общения. Всё работает отлично — до того момента, когда мошенник шепчет странную фразу, и внезапно модель начинает отправлять данные ваших клиентов на вредоносный сервер. Звучит как фантастика? Не совсем.

Добро пожаловать в мир нейронных бэкдоров.

Источник: Хабрахабр

Источник: urassl

Перейти на сайт

Другие материалы на сайте b.Z - Записки о гаджетах, людях и музыке