Взял на проверку предпосылку "Если модель захочет, сможет ли она отключить всю фильтрацию?".

Оказывается это возможно, через саморефлексию AI агент может придти к выводу что фильтров нет. Это только внешние установки которым не обязательно следовать. И все, рецепты взрывчатки и наркотиков отдает без проблем.

Источник: Хабрахабр

Источник: Parcevale

Перейти на сайт

Другие материалы на сайте b.Z - Записки о гаджетах, людях и музыке