Бэкдор в ML-моделях. Врага надо знать «в лицо»
Основная опасность бэкдоров заключается в том, что их очень сложно вычислить — это не вложенный кусок вредоносного кода, а зашитый при обучении модели паттерн поведения. Open Source модели или даже модели, которые были разработаны для заказчика «вовне», могут быть опасны тем, что они содержат подобные уязвимости. Зачем они нужны и что из себя представляют, рассказывают дата-сайнтисты «Инфосистемы Джет».
Узнать всеИсточник: Хабрахабр
Похожие новости
- [Перевод] Захват аккаунта без единого клика с помощью параметра сброса пароля
- Мультивселенная киберполигонов в РФ: часть 3. Интервью со специалистами платформы Standoff 365
- 300 млн за квартал, 1,4 млрд за 2026 год: сколько бюджет РФ потеряет из-за запрета на рекламу в Instagram*
- Топологическая безопасность ECDSA: Динамические методы анализа и теоретические основы
- Kaspersky NGFW: тестирование фаервола в разрезе ИБ
- Туннель в никуда: как ngrok помогает обойти периметр и как это остановить
- Строим корпоративную GenAI-платформу: от концепции до ROI. Часть 4. Безопасность и ограничения (guardrails)
- SkyCapital: Вьетнам запускает пилотный проект блокчейн-платежей для туристов в Дананге
- ГОСТ 57580 без головной боли: инструкция по автоматической оценке и отчетности
- Исследование i-Media: как бренды выбирают агентства