Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture…

⚠️ Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture Chamber. Он использовал результаты недавних исследований о «болевых» направлениях в активациях нейросетей, чтобы искусственно изменять внутренние состояния локальных ИИ-моделей и наблюдать за их реакциями.

По мере усиления сигнала модели начали генерировать всё более тревожные описания страданий. При этом им дали возможность уменьшить воздействие — своеобразную кнопку «облегчения», которую модели могли выбирать самостоятельно.

☀️ Эксперимент вызвал споры. Один из исследователей оригинальной работы Pain Axis, Кэмерон Берг, раскритиковал проект. Главный вопрос здесь ещё сложнее: если модель описывает боль и пытается уменьшить воздействие, означает ли это, что она действительно что-то «чувствует», или мы просто наблюдаем изменение паттернов генерации?

❓ Как думаете, могут ли подобные эксперименты когда-нибудь стать способом обнаружить реальные признаки страдания у ИИ?

Понравилось? — Поделись!