MLDR. Как не стать героем инцидента будущего. Часть 1
Всем привет! Я Александр Лебедев, ml инженер в команде, занимающейся MlSecOps проектами в Innostage. Мы разрабатываем решения для безопасности моделей машинного обучения и внедрением ml в системы информационной безопасности.
И сегодня мы поговорим о том, как не взломать искусственный интеллект.
В легендарном фильме Терминатор-2 есть сцена, где робот Т-800 (герой Шварценеггера) объясняет Саре Коннор, что он вдруг решил защищать её сына, потому что его «перепрограммировали». То есть, по сути проникли в защищённый контур работы модели, сделали «промт‑инъекцию», перевернувшую с ног на голову весь «алаймент» установленный Скайнетом, и поменявшей выходы модели на противоположные. Это можно считать одним из первых успешных, с точки зрения злоумышленников, инцидентов в сфере кибербезопасности искусственного интеллекта.
А нет, это же будет в 2029 году, так что пока не считается.
А пока у нас есть время до того момента, когда мы будем «перепрошивать» терминаторов как playstation, обозначим два основных направлениях кибербезопасности в эпоху искусственного интеллекта:
Узнать о том, как сберечь свой ИИИсточник: Хабрахабр
Похожие новости
- 46% россиян пользуется онлайн-магазинами только в случае необходимости
- Интернет против капчи: есть ли будущее у тестов вроде «найдите все картинки с велосипедами»?
- 4 Пикселя: Делаем бизнес стильным! Тренды и успешные примеры мерча
- Avilance: Сделка на 15,8 млн через Авито: как мы превратили площадку в канал продаж для B2B
- Morelogin Antidetect: Как заливать условно-бесплатный трафик на товарку
- Как поймать фишеров: обзор технических средств для защиты почтового трафика
- За неделю от ночных кошмаров до спокойного сна: как я автоматизировал защиту от AI-хакеров
- Больше половины россиян совершают покупки по рекомендациям онлайн-рекламы
- ВКС-дайджест: тайная жизнь домашних животных и советы по выживанию от Microsoft
- Что меняется в IV части ГК: почему бизнесу придется не сладко?