Бэкдор в ML-моделях. Врага надо знать «в лицо»
Основная опасность бэкдоров заключается в том, что их очень сложно вычислить — это не вложенный кусок вредоносного кода, а зашитый при обучении модели паттерн поведения. Open Source модели или даже модели, которые были разработаны для заказчика «вовне», могут быть опасны тем, что они содержат подобные уязвимости. Зачем они нужны и что из себя представляют, рассказывают дата-сайнтисты «Инфосистемы Джет».
Узнать всеИсточник: Хабрахабр
- Хабрахабр Информационная безопасность Блог компании Инфосистемы Джет Информационная безопасность Машинное обучение Искусственный интеллект машинное+обучение машинное обучение искусственный интеллект ml ml-модель ml-модели безопасность безопасность
- Настрочить жалобу в спортлото
- JetHabr
- Распечатать
- TG Instant View
