Кибербезопасность ИИ. Часть 3. Регулирование, стандартизация и кибербезопасность ИИ

Описав в предыдущих статьях архитектуры нейросетей и типы современных ИИ-систем, настало время обсудить текущие вызовы и риски, связанные с использованием ИИ. В настоящее время вопрос регулирования и применения ИИ регулярно обсуждается на самих высоких уровнях, а отрасль ИИ, несмотря на скепсис и опасения, не стала «пузырём» и продолжает активно развиваться, приникая во многие сферы и способствуя развитию смежных сегментов экономики. Однако, столь стремительная интеграция активно эволюционирующей технологии неизбежно поднимает технические и правовые вопросы безопасности, надежности, этичности её использования. В данной статье опишем текущее состояние российского и международного законодательства в области ИИ, перечислим разнообразные стандарты и фреймворки управления рисками ИИ, опишем принципы атак на системы ИИ и меры защиты, поговорим о нарастающих трендах.

Читать далее

Источник: Хабрахабр

Перейти на сайт

Похожие новости

• Почему безопасность на этапе релиза обходится в десять раз дороже и как это исправить
• Как пчёлы, муравьи и рыбы привели нас к мультиагентному ИИ — и почему его так трудно защитить
• ИБ глазами архитектора: между «карточным домиком» и «бетонным саркофагом»
• ИИ-браузер: сотрудник, который ходит по сайтам, кликает баннеры и верит скидкам 90%
• Как одна кривая регулярка может «положить» ваш сервер: разбираем уязвимость ReDoS
• Я открыл боевую базу своего clipboard-sync, чтобы показать, что он знает о вашем пароле. Ответ: ничего
• Интернет выключили целиком: офлайн-чат на Bluetooth и Wi-Fi Direct, и почему мы не обещаем mesh на весь город
• Muxalma — обмен пакетами данных через общее хранилище
• Western Digital создала жесткий диск с защитой от квантовых атак: разбираем, как он работает
• Как платформа управления AI-агентами будет справляться с нагрузкой: архитектура без магии