tl;dr: Продолжение разборов состязательных атак на генеративные модели. Разбор семантических атаках (подбор синонимов, построение фраз, эзопов язык), и использование для этого другой LLM модели.
Часть 1: Яндекс.Разврат или анти-этичный ИИ
Читать далееИсточник: Хабрахабр
Сбор семантического ядра — один из базовых этапов продвижения проекта. Чтобы улучшить видимость ресурса, нужно проанализировать поисковые запросы определенной тематики и отобрать оптимальные ключевые слова. Правильно составленное семантическое ядро дает возможность лучше понять потенциального
подробнее »
Предисловие Рунет захлестнула катастрофическая волна фейков о военной операции на Украине – как в соцсетях, телеграм-каналах и почте, так и в СМИ. Эти фейки появляются не просто так, не стихийно, как результат «свободы слова» и свободного выражения мнения массами пользователей, они – инструмент
подробнее »
Игорь Ашманов Как-то я в очередной раз употребил словосочетание "мозговой вирус" (естественно, в разговоре об Украине), и мой собеседник вдруг спросил: это ты просто такую метафору употребляешь или подразумеваешь, что есть какое-то реальное явление, которое можно так называть? Я задумался, и понял,
подробнее »http://www.radiomayak.ru/fragment/show/fragment_id/24500/brand_id/461 КУЗИЧЕВ: Игорь Ашманов пришел к нам в студию. Какой собеседник роскошный! Игорь, привет. АШМАНОВ: Здравствуйте. САВЕЛЬЕВ: Давайте для тех, кто не знает. Игорь Ашманов - российский специалист в области искусственного интеллекта,
подробнее »
Привет, Хабр! Сначала об определениях. LLM Red teaming — практика тестирования больших языковых моделей (например, GPT), направленная на выявление уязвимостей, нежелательного поведения и способов их взлома (jailbreak). Суть в том, чтобы через специальные подсказки или методы обойти защитные
подробнее »
tl;dr: как обойти внутреннюю цензуру «Шедеврума» и получить то, что хочешь. Описание реализованных состязательных атак с примерами реализации. Без глубокого раскрытия механизма почему так получается. Читать далее
подробнее »