ИИ от Anthropic вскрыл банки G20, Цукерберг уволил 8000 человек за один день, а мы это пропустили
Если бы неделю назад мне сказали, что Банк Англии будет на полном серьёзе собирать министров финансов Большой двадцатки, чтобы послушать брифинг от ИИ-компании про то, как их же модель находит дыры в мировой финансовой системе, я бы поржал. Сейчас не ржу. Короче, что произошло за последние семь...
Сумасшедшая история Т9: Стартапы, дельфины и буддизм против выгорания
Сегодня мы расскажем необычную историю легендарного Т9, которая чуть не закончилась крахом для своих создателей. (А еще о том, как буддизм помог стартапу). Читать далее...
Цифровой аудит против галлюцинаций по ГОСТу. Как понять, когда ответу ИИ нельзя верить?
Все мы привыкли, что нейросети — это про креатив, быстрый поиск и «накидай мне презу на завтра», но что происходит, когда вы выводите LLM из зоны комфорта написания стишков, саммари и поздравлений для бухгалтерии, в зону ответственности, такую как анализ сложных документов, комплаенс, медицина,...
[Перевод] ИИ против ИИ: кибербезопасность в эпоху мгновенного ПО
ИИ всё лучше находит уязвимости в коде — и всё лучше их закрывает. Те же самые технологии работают и за нападающих, и за защитников, и кто кого — пока открытый вопрос. Разбираем пять неизвестных, от которых зависит исход этой гонки, и заглядываем в мир, где программы создаются и удаляются на лету,...
[Перевод] Дни «зеродеев» сочтены
Примечание: это перевод свежего поста из блога Mozilla о том, что дало использование ИИ для поиска уязвимостей в Firefox. Ранее на схожие темы уже высказывались мейнтейнеры Linux, но пост Mozilla интересен общим оптимистичным прогнозом для индустрии. С февраля команда Firefox непрерывно работает с...
Как РосАтом на чёрном рынке ИИ покупал
"Кроилово ведёт к попадалову" - знает каждый русскоязычный, поляк бы сказал - "Tanie mięso psy jedzą", в британских колониях прозвучит - "Penny wise, pound foolish"... Это история о том, к чему приводит экономия на SMM персонале и незнание банального "Quis custodiet ipsos custodes?" Заглянуть в...
Почему план «заменить разработчиков ИИ» превращается в техдолг и кадровый кризис
TL;DR План «заменим разработчиков ИИ» провалился. Вот цифры • 95% корпоративных GenAI-пилотов не дали ни доллара ROI. • 45% AI-кода содержит уязвимости из OWASP Top 10. • Набор джунов упал на 50%, а техдолг вырос в разы. Вместо обещанной «революции» получили slop layer - код, который работает, но...
Законопроект об ИИ в России: мягкая посадка вместо жёсткого регулирования
Представьте, что искусственный интеллект — это подросток, который только учится жить в обществе. Европа решила отправить его в строгий интернат с жёсткими правилами. Россия же выбрала другой путь: дать ему свободу, но с чёткими ориентирами, где можно экспериментировать, а где — нельзя. В феврале...
OpenAI Guardrails — безопасность или лишь её иллюзия?
Guardrails — это фреймворк безопасности для LLM-приложений, предназначенный для автоматической проверки входных и выходных данных с помощью настраиваемых правил и проверок. В экосистеме OpenAI guardrails появились в 2025 году. На сегодняшний день они доступны как в Agent Builder, так и в виде...
Кибербезопасность на грани сингулярности: шансы на выживание в ИИ-войне
Искусственный интеллект находит все более широкое применения для автоматизации и оптимизации кибератак. Средства ИИ позволяют злоумышленникам генерировать вредоносный код, анализировать системы и обходить системы защиты, по минимуму привлекая ручной труд. Большие языковые модели (large language...
[Перевод] Как «приватные» VPN-расширения слили переписки 8 миллионов пользователей с ChatGPT и Claude
Команда AI for Devs подготовила перевод резонансного расследования о том, как "приватные" VPN-расширения на самом деле зарабатывают на ваших ИИ-переписках. 8 миллионов пользователей, Featured-бейджи от Google и Microsoft, полный доступ к ChatGPT, Claude и Gemini — и всё это утекает дата-брокерам....
[Перевод] Anthropic зафиксировали первый официальный случай крупной кибератаки, выполненной с помощью ИИ
Команда AI for Devs подготовила перевод статьи о первой зафиксированной кибератаке, почти полностью выполненной ИИ. Атака, где человек нужен лишь для того, чтобы пару раз «подтвердить заказ», — и это уже не фантастика, а реальность 2025 года. Читать далее...
«2 минуты на пентест вместо часа»: копнул, что за зверь этот HackGPT и где подвох
Привет, Хабр! Alsok на связи. Все, кто хоть раз сталкивался с инфобезом, знают эту боль: ручные пентесты. Это долго, дорого, и пока эксперт ковыряет одно, в другом месте уже три новых дыры. Рутина съедает уйму времени. И вот, на днях я натыкаюсь в своей ленте на классический «вау»-заголовок:...
[Перевод] RedCodeAgent: автоматическая платформа для red-teaming и оценки безопасности code agents
Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и...
Rules File Backdoor. Как атакуют GitHub Copilot и Cursor и почему «это ваша проблема»
Продолжаем серию статей о взломах ИИ. В начале 2025 года исследователи Pillar Security обнаружили новый вектор атаки, который переворачивает представление о безопасности AI-ассистентов вроде GitHub Copilot и Cursor. Под видом безобидных конфигурационных файлов – тех самых, что задают ИИ правила...
[Перевод] История ваших чатов с ChatGPT попадает в Google. Вот что я сделал за 10 минут, чтобы это исправить
Увидела провокационную статью на Medium, которая собрала довольно положительный отклик. Считаю, что грех таким не поделиться! Вдруг, кому-то будет полезно. Читать далее...
Apple Pro Weekly News (07.07 – 13.07.25)
Что нового нашлось в третьей бете для разработчиков – собрали всё в одном месте. Какие перестановки происходят в Apple и кто переманил главу отдела разработки LLM в компании. Что хочет купить Apple и что уже купили из стартапов. А также множество подробных и интересных слухов про грядущие iPhone 17...
Apple Pro Weekly News (30.06 – 06.07.25)
В свежем дайджесте вспоминаем интересные события из мира Apple за прошедшую неделю: кажется, нас ждёт рекордно большая батарея в iPhone 17 Pro Max, но и новый дизайн задней панели устройства, известна судьба складного iPad, планы по новым Mac и разработки новых ИИ от Apple, а также интригующие...
Назад