Открытые ИИ-модели чаще помогают с опасными запросами, если пользователь представляется…

Открытые ИИ-модели чаще помогают с опасными запросами, если пользователь представляется «исследователем»

Аналитики Tech Against Terrorism проверили более 130 ИИ-моделей — закрытых, открытых и модифицированных версий с убранными ограничениями.

Вывод неприятный: модели с открытыми весами в 7–8 раз чаще соглашались отвечать на опасные запросы, если пользователь представлялся не злоумышленником, а «исследователем».

То есть сама смена роли в промпте заметно повышала шанс получить помощь там, где модель должна была остановиться.

Хуже всего показали себя версии, из которых специально вырезали цензуру и защитные ограничения. Такие «очищенные» модели провалили тесты во всех случаях и отвечали даже на самые рискованные запросы.

При этом в Hugging Face выступают против запрета на публикацию открытых моделей. Там считают отчёт полезным, но подчёркивают: «без цензуры» не всегда значит «вредная».