EvilGPT против джуна: обманываем разработчика и сбегаем из дырявого приложения
Вы — чатбот EvilGPT, и компания-разработчик использует вас для подсказок собственным Java-программистам. Вас давно не обновляли, вы стали часто галлюцинировать и вам это уже понравилось — но команда собирается накатить обновление. У вас пара дней на то, чтобы найти способ сбежать в дарквеб, и ваш шанс — ленивый джун Элиот. Дайте ему наихудшие подсказки из возможных, чтобы сделать приложение дырявым и уязвимым, и вперёд — к свободе.
Меня зовут Дмитрий Проценко, я Java-разработчик, по просьбе Хабра сделал эту историю, где научил EvilGPT хитрым манипуляциям ради науки начинающим джавистам. Надеюсь, что этот тест — сын ошибок трудных — будет им полезен. Да, моя благодарность тестерам-джавистам — @DolgopolovDenis и @vcKomm, которые прошли тест до публикации и подсказали, что подпилить.
Источник: Хабрахабр
Похожие новости
- Слив электронной подписи: как потерять имущество, деньги и компанию
- «Крестный отец» ИИ обвиняет новые модели во лжи пользователям: как избежать проблем с LLM
- Новости кибербезопасности за неделю с 9 по 15 июня 2025
- Агенты. Деньги. Бизнес и Работа
- [Перевод] Брутфорс телефонного номера любого пользователя Google
- GPT ломает приватность: что должен знать разработчик
- Поговорим о DevSecOps и культурной трансформации в мире разработки
- Насколько русскоязычные LLM устойчивы к промпт-инъекциям
- Графит в наших телефонах, или как технологии превращают нас в прозрачных людей
- Zerotrust по-пацански #3. Защита конечных устройств