Бэкдор в ML-моделях. Врага надо знать «в лицо»

Основная опасность бэкдоров заключается в том, что их очень сложно вычислить — это не вложенный кусок вредоносного кода, а зашитый при обучении модели паттерн поведения. Open Source модели или даже модели, которые были разработаны для заказчика «вовне», могут быть опасны тем, что они содержат подобные уязвимости. Зачем они нужны и что из себя представляют, рассказывают дата-сайнтисты «Инфосистемы Джет».

Узнать все

Источник: Хабрахабр

Перейти на сайт

Похожие новости

• AlinaTen: DeepRoute.ai заявила о более чем 300 тысячах автомобилей с её системой автопилота
• AlinaTen: Суд в США отклонил обвинения Илона Маска в мошенничестве против OpenAI перед началом разбирательства
• О создании в России центральной базы данных идентификаторов пользовательского оборудования (оконечного оборудования)
• Почему у тиранозавра маленькие ручки?
• ONLYAPPS: Как самостоятельно сделать инфографику для маркетплейсов
• MarketingNews: Getblogger добавил возможность размещения рекламы в мессенджере «Макс»
• Блог ленивого инвестора: Итоги недели: рост на ожиданиях, падение на факте
• Это — все что вам надо знать о белых списках: ресерч, сканы, обход
• Краткая история биометрии: как ПЦР-метод изменил идентификацию по ДНК
• Права в Linux: chown/chmod, SELinux context, символьная/восьмеричная нотация, DAC/MAC/RBAC/ABAC