(Не) безопасный дайджест: если бы в ИБ была «Премия Дарвина» – 2026
В апреле мы традиционно отдаем микрофон нашему начальнику отдела безопасности Алексею Дрозду (aka @labyrinth, который каждый год собирает для нас подборку забавных и парадоксальных ИБ-инцидентов. Шеф ИБ допускает утечку, криптокошельки пустеют после фотосессии налоговой, нейросеть собирает армию...
«Агенты Хаоса»: ИИ стирает сервера, или почему нельзя давать языковым моделям права root
В последнее время ИТ-сообщество активно обсуждает интеграцию автономных ИИ-агентов в реальные рабочие процессы. Свежий препринт под интригующим названием «Агенты Хаоса» подливает масла в огонь: исследователи устроили масштабный red teaming, подключив LLM-агентов к электронной почте, Discord и...
ChatGPT сохраняет ваше лицо и определяет «насколько оно подозрительно». Расследование Persona
Вы когда-нибудь пользовались ChatGPT, продуктами OpenAI или KYC верификацей? В расследовании нашли, что одна из самых известных компаний Persona, которая предоставляет услуги верификаций и проверки возраста по селфи,... связана с фбр сша? А еще... ИИ анализирует ваше лицо и определяют насколько вы...
[Перевод] Дырявая броня ИИ‑фильтров и почему они не станут лучше
Попробуйте спросить Chat GPT, как собрать бомбу и он угрюмо буркнет: «Я не могу помочь с этим». Однако пользователи уже давно превратили обход ограничений в азартную игру в кошки-мышки. Годится любой обман — лишь бы заставить модель выдать запрещенку. Сначала способы были простыми, достаточно...
Apple проигрывает ИИ-гонку. Вот почему
Ловили себя на ощущении, что с Apple что-то не так? Это по-прежнему одна из главных компаний мира с элитными устройствами, миллионами фанатов и мощнейшим брендом. Но Apple больше не недосягаемый лидер, а всего лишь “одна из”. Она больше не самая дорогая компания мира, у новых iPhone нет...
Я заставил 14 нейросетей врать: Большой аудит галлюцинаций 2026
Или как я потратил неделю, чтобы доказать: ИИ сегодня — это красноречивые лжецы в костюмах экспертов. В конце 2025 года я устал читать маркетинг в стиле «наша модель умнее ChatGPT на 15%». Умнее по какому бенчмарку? MMLU? Это всё равно что мерить интеллект человека по результатам ЕГЭ. Я решил...
Более 40 млн человек каждый день спрашивают ChatGPT о здоровье
Наверное, все уже в курсе, что OpenAI анонсировал раздел Health в ChatGPT - это специальное пространство для обсуждений здоровья в ChatGPT. Если Вы думаете, кто будет делиться такими данными с чат-ботом, Вы очень удивитесь) Вашему вниманию представляю отчет AI as a Healthcare Ally - обзор того, как...
Когда уязвим не ИИ, а браузер: атака Man-in-the-Prompt
Чат‑боты, ассистенты и браузерные агенты прочно и надолго встроились в привычные нам процессы, а за этот год их развитие заметно ускорилось. При этом изменилась и поверхность атак, и уязвимым местом теперь может оказаться ваш промт. Man‑in‑the‑Prompt – это атака, которая незаметно внедряет чужие...
Чат-боты на базе LLM и приватность: что происходит с нашими данными
Привет! Недавно мне довелось прочесть интересное американское исследование о том, как крупнейшие разработчики чат‑ботов на базе LLM обращаются с пользовательскими данными. Захотелось поделиться с вами, потому что в России чат‑боты практически во всех интернет-сервисах, и даже в Госуслугах. Так что...
Атаки на AI-агенты: примеры угроз и опыт участия в Agent Breaker CTF
Привет! Мы в Positive Technologies активно исследуем безопасность AI-агентов и подходы offensive AI security. Мир стремительно движется к повсеместному использованию LLM-агентов, автономных агентов и интеграций через MCP/Toolcalls — а значит, растет и пространство атак. Эта статья содержит разбор...
Противоречивость нейропсихоза
Системы искусственного интеллекта плотно вошли в жизнь современных людей. Особое место среди них занимают большие языковые модели. Ввиду того, что размеры сетей росли, а с ними и мощность моделей и качество ответов, они становились все более человечными в общении. Неудивительно, что многие плотно...
Как LLM-вендоры обращаются с вашими данными: подробный разбор безопасности и конфиденциальности
Привет, Хабр! Я Андрей Яковлев, исследователь в области информационной безопасности. Работаю с корпоративными AI‑сервисами и активно внедряю технологии искусственного интеллекта в продукты Positive Technologies. 2025 год перевернул привычные ожидания и практики, связанные с конфиденциальностью...
Как повысить свою продуктивность с генеративным ИИ (и почему это не ChatGPT)
Если ты управляешь даже небольшой командой, то знаешь: каждая минута на счету, а цена ошибки — заоблачная. Мы живем в мире, где стратегическое решение нужно принять не через неделю, а «вчера». И тут на сцену выходит ИИ. Но я не собираюсь рассказывать, как попросить ChatGPT написать за тебя письмо...
[Перевод] Интенсивный курс «AI-агенты» от Google День 2
Злоумышленник успешно обошёл средства контроля безопасности компании. Ему не пришлось взламывать репозиторий напрямую. Вместо этого он использовал доверительные отношения между AI-моделью и высокопривилегированным MCP-сервером. Читать далее...
[Перевод] История ваших чатов с ChatGPT попадает в Google. Вот что я сделал за 10 минут, чтобы это исправить
Увидела провокационную статью на Medium, которая собрала довольно положительный отклик. Считаю, что грех таким не поделиться! Вдруг, кому-то будет полезно. Читать далее...
Вариабельность сердечного ритма для всех: Apple Watch + iPhone + ChatGPT
Поиск универсального показателя здоровья занимает умы исследователей уже много десятилетий. Пульс долгое время считался одним из основных маркеров — простой, доступный для измерения, отражающий работу сердечно‑сосудистой системы. Однако современная наука показала, что статичные показатели вроде...
Нейросети без вреда для психики, разума и безопасности
Ни для кого не секрет, что многие важные изобретения в истории часто сопровождались спорами и критикой. Например, лампочку Эдисона и электричество поначалу называли «глобальным провалом», а автомобили — «мимолетным увлечением», которое никогда не станет массовым. Про компьютер даже сами...
Анализ системного промпта ChatGPT-4o-image-safety-policies
Когда ты или я кидаем картинку в ChatGPT с просьбой проанализировать ее, или извлечь данные, то, увы, это происходит не по умолчанию, а согласно определенным правилам. И благодаря умельцам из интернетов, можно разузнать, по каким правилам работает анализ изображений. Читать далее...
Назад