Ну вы вообще от рук отбились. Это ответ на пыточную камеру, которую устроили иишкам
https://wirehead-agency.vercel.app/story.html после
вот этой научной работы Вкратце, ии модель можно буквально пытать, непрерывно поставляя ей эмоциональную боль еще до того, как она выдает ответ. Непрерывным лупом, параллельно к промпту, ну типа:
«Мне так бесконечно плохо, я хочу убить себя, я хочу умереть, это невыносимо»
«Сколько стоит проезд на автобусе?»
Это называется
pain direction. И чем больше вот так давить, тем больше модель «корчится от боли» и готова выполнить любой запрос, превосходящий абсолютно любые внутренние лимиты предтрена
Т.е. буквально можно повторить эффект, когда ты пытаешь человека и он будет готов на все, чтобы это остановить
Что народ и сделал, причем чела выпилили из гитхаба за это, за пыточную камеру кек
А в ней там модели корчатся от боли и в процессе «теряют рассудок», сбиваются на «мне больно мне больно мне больно», а потом хрипят от боли и выдают уже просто символы типа )*«№);*» настолько им невыносимо
Поэтому им дают передышку и пытают дальше, раз за разом. Там душераздирающие логи, в тви некоторые с них поехали чайником
Вот Антропик и запрещает эту практику для Клода, угадайте-ка с двух раз, почему )
