Минпромторг учредит АНО для поддержки ИИ-проектов
Минпромторг планирует финансировать проекты в области внедрения ИИ-технологий в промышленности, учредив АНО, которая займется их отбором. Это могут быть софт для проектирования изделий без участия человека, системы компьютерного зрения, обнаруживающие в продукции производственные дефекты, а также...
Взламывая ChatGPT: как мы участвовали в хакатоне по атакам на ИИ
Мы поучаствовали в хакатоне от LearnPrompting, посвященном атакам на ChatGPT, и заняли восьмое место среди около четырехсот команд. Если вам интересно, зачем мы провели несколько ночей за взломом чат-бота, как нам пригодился опыт борьбы с фишингом и умеют ли нейросети хранить секреты, — добро...
[Перевод] Браузерные расширения с ИИ — кошмар для безопасности
«Ваши ученые так сильно беспокоились о своих талантах, что даже забыли подумать, стоит ли вообще это делать». Эта цитата принадлежит доктору Иэну Малкольму (математику из «Парка юрского периода» в кожаном пиджаке), однако вполне применима не только к возрождению велоцирапторов, но и к недавнему...
Смысловая капча. Применение семантического анализатора Real AI для реализации капчи
В данной статье рассказываем о новом демо-примере по работе со смыслом текста, с использованием нашей технологии Real AI – капче, требующей понимания смысла текста. Чтобы успешно решить капчу необходимо понять полученную фразу и из представленных изображений выбрать указанные во фразе объекты....
Канадский конкурент OpenAI привлек $270 млн от Nvidia и Oracle
Канадский стартап Cohere, который разрабатывает технологии в сфере искусственного интеллекта, привлек $270 млн инвестиций. Компания провела раунд C, в котором приняла участие группа институциональных и стратегических инвесторов, в числе которых американский производитель микросхем и видеокарт...
Расщепляем AI Test Kitchen на молекулы и подключаемся к Imagen
Одним прекрасным днём я решил посмотреть, какие запросы отправляет мобильное Google-приложение AI Test Kitchen и наткнулся на пока-что рабочий API закрытой нейросети для генерации изображений Imagen. Делюсь тем, как я это обнаружил, что еще интересного нашел, и ссылкой на GitHub-репозиторий...
Стоимость Nvidia приблизилась к $1 трлн на фоне бума ИИ
Капитализация Nvidia впервые приблизилась к отметке в один триллион долларов. Это произошло на фоне все усиливающегося внимания к генеративным ИИ, С октября стоимость Nvidia выросла примерно на 200%, намного опередив любого другого участника ндекса S&P 500. Только четыре другие американские...
Возможность использования Chat GPT в тестировании на проникновение и в кибербезе
Уже стало традицией, что при посещении различных мероприятий я стараюсь взять интервью у некоторых спикеров. Не всегда получается быстро их опубликовать, процесс написания и согласования зачастую затягивается. И вот я побывал на конференции PHD 2023. В этом году было, на мой взгляд, больше...
Поиск аномалий при запусках процессов Windows с помощью рекомендательных систем
В SIEM-системах есть множество написанных экспертами правил, которые помогут отследить подозрительное поведение. Однако существует много сценариев атак, которые нельзя описать строгими правилами, а значит, эффективно отслеживать. Учитывая объем данных, обрабатываемый SIEM-системой ежедневно, а...
Как технология распознавания лиц помогает в борьбе с финансовыми мошенничествами?
Можно ли обмануть распознавание лиц? Сколько стоит технология и ее эксплуатация? Как защитить свои персональные данные? Готовы ли банки к атакам дипфейками? Читать далее...
Атаки на чат-ботов и языковые модели. И как от них защититься
Всем привет! Я – Артем Семенов, занимаюсь тестированием на проникновение и работаю в RTM Group. В этой статье я расскажу об атаках на чат-боты и языковые модели, а также о том, как от них защититься. Чат-боты сегодня буквально повсюду. Наверняка даже ваша бабушка нет-нет, да и вставит в разговор...
Можно ли решить проблему prompt injection?
Недавно я участвовал в вебинаре, посвящённом атаке prompt injection («инъецирование промта»). Вебинар организовала LangChain, в нём участвовали Виллем Пиенаар, Кодзин Осиба (Robust Intelligence), Джонатан Коэн и Кристофер Парисьен (Nvidia Research), а проводил его Харрисон Чейз. Полную часовую...
Apple запретила сотрудникам использовать ChatGPT и другие подобные инструменты
Apple ограничила использование ChatGPT и других внешних инструментов искусственного интеллекта для своих сотрудников, поскольку Apple разрабатывает аналогичную технологию, сообщает Wall Street Journal. Apple обеспокоена утечкой конфиденциальных данных сотрудниками, использующими программы...
Какие угрозы несет в себе развитие искусственного интеллекта?
Искусственный интеллект (далее ИИ), все больше проникает в различные сферы нашей жизни. Есть мнение, что развитие ИИ может привести к четвертой промышленной революции, что в свою очередь может изменить жизнь до неузнаваемости. Последнее время, в информационном пространстве все больше появляется...
Применяем «колдовство» prompt injection против Гендальфа
На днях набрёл на интересный проект Gandalf, построенный как платформа для тренировки Prompt Injection для обходов защитных механизмов поверх ChatGPT в игровой форме. Задача — выведать пароли, которые придумал Гендальф. Для этого нужно придумывать нестандартные способы выманить секреты с помощью...
Поведенческий анализ в задаче обнаружения вредоносных программ
Вредоносное ПО уже долгое время является одной из основных угроз в области информационной безопасности. Подходы к анализу и защите от такого рода атак бывают разные. В общем случае разделяют два подхода: статический и динамический анализ. Часто подходы в поведенческом анализе основаны на наборах...
[Перевод] Стенгазета на Rust с E-Ink и ChatGPT
Самодельная автоматически обновляющаяся газета на E-Ink с использованием Rust и ChatGPT — как вам такой DIY? Читать далее...
Маск подтвердил планы создать альтернативу ChatGPT
Миллиардер Илон Маск намерен создать аналог чат-бота с искусственным интеллектом (ИИ) ChatGPT. В интервью Такеру Карлсону на канале Fox News в понедельник Маск подтвердил, что у него есть планы создать «третий вариант» в гонке искусственного интеллекта между OpenAI, поддерживаемым корпорацией...