Когда AI ошибается уверенно

Это третья глава серии про AI Innovation Lab — исследовательскую площадку, где я строю AI-augmented SOC: систему из шести AI агентов, которая следит за корпоративной инфраструктурой, расследует инциденты и предлагает действия.

В этой главе я подключил к платформе внешнюю разведку угроз — и во время первого же теста AI уверенно предложил отключить операционный аккаунт, через который работает сама система защиты. Аргументация выглядела профессионально. Rule ID, MITRE-техники, количество алертов. Я почти согласился.

История не про баг. История про то, почему уверенный AI опаснее неуверенного — и как с этим жить.

Источник: Хабрахабр