Как я построил guardrails, которые не дали моему AI-агенту пойти вразнос
На третий день в проде мой support-агент на LangGraph и GPT-4o слил email одного клиента в переписку с другим. Причина банальна: модель вставила сырой контекст из базы прямо в ответ, и ничто в пайплайне это не проверяло. Фреймворки для агентов дают оркестрацию, вызов инструментов и память — но не...
Былинные приключения Антропикопитека в стране Мифов
Жил-был за океаном Антропикопитек — зверь учёный, безопасный, этичный, совсем не доктор Зло. И вывел он в тайных палатах своих модель невиданную, и нарёк её именем гордым — Мифос. И было у Мифоса удаль богатырская: любую крепость софтверную ковыряет за ночь, дырку находит там, где двадцать семь лет...
Не давайте ИИ-агенту прямой доступ к базе. Как я проектировал безопасный контур действий на FastAPI и PostgreSQL
Последнее время я всё чаще встречаю одну и ту же мысль: бизнес никогда не даст ИИ‑агенту доступ к базе клиентов, заявкам, платежам, CRM или внутренним документам. На первый взгляд звучит логично. Если агент ошибётся, перепутает контекст или выполнит не то действие, ущерб может быть вполне реальным....
RuStore качает MAX без спроса и мониторит GPS каждые 5 минут и ему даже не стыдно
Привет, Хабр. С 1 апреля 2024 года RuStore принудительно предустанавливается на все смартфоны, продаваемые в РФ. После недавнего разбора правительственного мессенджера MAX, я декомпилировал APK самого национального стора и проверил его реальное поведение по коду. нашёл: скрытую подсистему трекинга...
AI не убил разработчиков. Он сделал дешёвой видимость разработки
«Я собрал приложение за вечер. Разработчики больше не нужны». Лента забита такими постами, но мало кто показывает продолжение этих историй. А оно бывает ярким: от продовской базы, снесённой AI-агентом, до взлома на второй день после запуска. По красивой картинке больше не понять, кто её собрал —...
Встраиваем проверку возраста без ЕБС в Telegram, MAX и любой другой мессенджер
Привет, Хабр! Говоря о проверке возраста для доступа к онлайн-платформам, нельзя обойти стороной один из наиболее очевидных кейсов: мессенджеры. Они давно вышли за рамки простого обмена сообщениями – и для многих новых функций есть конкретные возрастные ограничения. В этой статье мы поговорим о...
Let's Encrypt больше не вариант? Обзор альтернатив
4 июня 2026 года Let's Encrypt тихо обновил пользовательское соглашение до версии 1.7. Новый пункт обязывает получателя сертификата подтвердить, что он не находится под полными санкциями США. В России это вызвало волну обсуждений — и не без причины. В Беларуси пока тихо. Но тихо — не значит...
Маршрутизируем отдельные сервисы через внешний шлюз на MikroTik: BGP + DNS FWD + xray core
Как-то раз в мою сисадминскую жизнь пришел простой и понятный, но, как оказалось, не самый тривиальный запрос - как сделать так, чтобы на WiFi клиентам не нужно было включать ВПН/прокси. Подключился к сети - [Вставьте свой любимый сервис] заработал. Красота. И чтобы надежно было, не отваливалось. И...
Домик для ИИ: как завод пришёл к идее AI ready для бизнеса
Бизнес нацелился делать свой собственный AI. Все задают вопрос: «Какая модель мне нужна?» Но никто не задумывается, на каких мощностях модель будет работать. Мы тоже сначала не задумывались. Разработали корпоративного AI-агента, прокачали ИТ-команду, чтобы двигаться дальше — и споткнулись о...
Влияние ИИ на кибербезопасность: MITRE ATLAS и новый ландшафт угроз
Сегодня искусственный интеллект кардинально меняет как подходы к защите, так и методы атак. С развитием технологий ИИ-модели могут обрабатывать и анализировать огромные объемы данных в реальном времени. Это активно использует не только бизнес, но и злоумышленники. В статье рассмотрим современные...
«РБПО для бедных»: настраиваем сервисы безопасной разработки
В прошлой статье цикла мы закончили разворачивать инфраструктуру будущего РБПО: установили GitLab, Nexus, HashiCorp Vault, Dependency-Track и DefectDojo, подготовили отдельную виртуальную машину с инструментами безопасности и убедились, что все сервисы успешно запускаются. Но установить сервисы —...
Обращение к разработчикам Telegram: уязвимость тихой смены мобильного номера при краже аккаунта
До недавнего времени у меня была ложная уверенность, что покуда аккаунт Telegram привязан к реальному мобильному номеру и при этом у пользователя есть доверенное устройство, то удалённо украсть аккаунт, как минимум, чрезвычайно сложно, если вообще возможно. Максимум, кто-то может открыть ещё одну...
Что находит DBF в первый месяц: 10 типовых аномалий в СУБД
Привет, Хабр! Меня зовут Алексей Шмелёв, я руковожу группой аналитики и безопасности данных в «Гарде». Мы занимаемся настройкой «решающих правил» в таких продуктах «Гарды», как DBF и DLP. Когда заказчики начинают использовать DBF в продакшене, обычно ждут чего-то такого: «Сейчас мы увидим, где у...
Вам не нужен BloodHound
Изначально цели у меня свергнуть с пьедестала популярные сетевые инструменты типа BloodHound и иже с ними не было. Нет ее и сейчас. У них было, есть и будет заслуженное место в арсенале redteam и blueteam‑команд. Все нижеописанное можно воспринимать с легкой иронией, как необычный побочный эффект...
Под капотом одного ползунка: как устроена защита от ботов в Яндексе
Роботный трафик — это посещения сайта не людьми, а автоматическими программами, скриптами или ботами. Автоматизированный трафик бывает и полезным, например от поисковых роботов, и вредоносным — когда искажает аналитику, перегружает веб‑ресурс или используется для спама, атак, причинения...
Путь к ошибке: зачем нужны «Breadcrumbs» во frontend-мониторинге
Пользователь столкнулся с ошибкой в вашей программе. Трекер ошибок ее зафиксировал. Стек-трейс показывает место сбоя. Но что делал пользователь за несколько секунд до этого? Какие запросы выполнялись? На каком шаге сценарий пошёл не так? Для ответа на эти вопросы в трекерах ошибок используются...
LLM Sandbox: изолированная среда для исполнения кода от LLM [часть 1, теория]
В большинстве бизнес-сценариев LLM перестала быть просто чат-ботом. Современные модели становятся частью агентских систем: у них есть инструменты, доступ к файлам, терминалу, браузеру, базам данных. Они не только отвечают на вопросы, но и выполняют действия. В этой статье (ее первой части) разберём...
В попытках разобраться с VPN зачем то написал Bash-костыль и немного проализировал обстановку 2026 году
Тысячи статей про VPN? Да, знаю. Но я всё равно написал свой Bash-костыль, разобрался, почему в июне 2026 всё сломалось, и даже сделал отказоустойчивую систему. Хейтеры, я вас жду в комментах. Читать далее...