Ликвидация корпоративного произвола: как должен выглядеть пункт о модерации в ToS книжной IT-платформы
Приветствую, Хабр! Сегодня хотелось бы осветить ещё одну проблему, связанную с ToS IT-гигантов. Так уж сложилось, что в правоотношениях между UGC-платформой и пользователями сложился опасный перекос. Несмотря на то, что на подобных сервисах основа контента создается самими пользователями, крупные...
Дешёвая модерация анонимной стены: 3-слойный каскад и ROT13-джейлбрейк в проде
Построили модерацию для открытой анонимной мультиязычной стены — дешёвый каскад (regex → классификатор → LLM-судья → fallback), ≈$0 на API. И кто-то попытался обойти его ROT13-джейлбрейком, LLM-судья раскусил закодированную инъекцию, которую keyword-фильтр бы пропустил. Разбор архитектуры,...
Qwen3Guard: следующий шаг в модерации и контроле контента
Всем привет! Меня зовут Миша Мартьянов, я инженер по исследованиям и разработке в лаборатории AI R&D в red_mad_robot. В мои задачи входит проверка гипотез и развитие наших продуктов. Однако недостаточно просто улучшать продукты, необходимо также чтобы они работали устойчиво и безопасно. Ранее я...