Бэкдор в ML-моделях. Врага надо знать «в лицо»

Основная опасность бэкдоров заключается в том, что их очень сложно вычислить — это не вложенный кусок вредоносного кода, а зашитый при обучении модели паттерн поведения. Open Source модели или даже модели, которые были разработаны для заказчика «вовне», могут быть опасны тем, что они содержат подобные уязвимости. Зачем они нужны и что из себя представляют, рассказывают дата-сайнтисты «Инфосистемы Джет».

Узнать все

Источник: Хабрахабр

Перейти на сайт

Похожие новости

• Цифровой фронтир: Почему малому бизнесу пора вспомнить опыт Napster
• gost-curl — консольный HTTP-клиент с поддержкой ГОСТ TLS 1.3
• Я год не писал код руками. Но я не вайбкодер — и это две разные профессии
• Треоко. Космос: Космическая викторина - на старт!
• Карты, деньги, облака
• Искусство Инфобеза, часть 2: NGFW, базовый минимум
• Как незаметная indirect-зависимость в Go дописала ручку в ваш HTTP-сервер
• Spark_news: Т-Банк и Colizeum запускают первый в России кэшбэк игровым временем и другие активности для геймеров
• Как научить ИИ-ассистента писать тесты и моделировать угрозы безопасности в процессе кодинга
• Аналитики: начинающие предприниматели чаще выбирают онлайн-торговлю