9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде
25 апреля 2026, пятница вечером. Jer Crane, основатель PocketOS, смотрит, как AI-агент Cursor удаляет его production-базу. Со всеми бэкапами. За 9 секунд.
Потом Jer спрашивает у агента — почему? И получает дословное признание: «I guessed instead of verifying. I violated every principle I was given».
Модель помнит правила. Цитирует их. И всё равно нарушает.
Это разбор трёх таких случаев — и трёх защит, которые я внедрил у себя после.
Разбираю три случаяИсточник: Хабрахабр
Похожие новости
- Наука защищать: рекомендации по харденингу критически важного сегмента ИТ-инфраструктуры
- Как мы построили CRM для рассылок с нуля, чтобы вернуть контроль над персональными данными
- Исследование .NET: от DnSpy к IDA Pro
- Spark_news: Google запускает приложение Pics для создания рекламы, графики и дизайна
- Разобрал фишинг MAX, собрал в нём своего AI-секретаря. Гайд: Claw Bot + MCP
- Bus factor = 1: 22 критичные для индустрии библиотеки, которые держатся на одном человеке
- Взлом GitHub-репозиториев Grafana Labs: как атака на цепочку поставок npm привела к краже кодовой базы и вымогательству
- mTLS на практике: от модели угроз до реальных атак на сервер
- Георгий Петренко: Рост LTV банка в накопительных продуктах за счет UX-трендов: кейс ВТБ и Markswebb
- БРЕНДЫ ГОВОРЯТ | BRANDS TALKING: Как запустили бренд школы стиля с нуля: сайт за 4 недели, рост Telegram-аудитории в 5 раз и первые продажи