Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture…
⚠️ Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture Chamber. Он использовал результаты недавних исследований о «болевых» направлениях в активациях нейросетей, чтобы искусственно изменять внутренние состояния локальных ИИ-моделей и наблюдать за их реакциями.
По мере усиления сигнала модели начали генерировать всё более тревожные описания страданий. При этом им дали возможность уменьшить воздействие — своеобразную кнопку «облегчения», которую модели могли выбирать самостоятельно.
☀️ Эксперимент вызвал споры. Один из исследователей оригинальной работы Pain Axis, Кэмерон Берг, раскритиковал проект. Главный вопрос здесь ещё сложнее: если модель описывает боль и пытается уменьшить воздействие, означает ли это, что она действительно что-то «чувствует», или мы просто наблюдаем изменение паттернов генерации?
❓ Как думаете, могут ли подобные эксперименты когда-нибудь стать способом обнаружить реальные признаки страдания у ИИ?
Понравилось? — Поделись!
Похожие записи
Оцените материал:
Похожие записи
Поселил ИИ‑агента в чёлку макбука: он слушает мой день и…
22.10.2026
Немой парень впервые признался в любви СИЛОЙ МЫСЛИ — его…………
22.10.2026
В легендарный Need for Speed: Underground 2 теперь можно поиграть…
21.10.2026Присоединяйтесь и подпишитесь на рассылку самых свежих новостей по Email
Получайте свежие новости и идеи на почту. Без спама — только самое интересное.
Нажимая «Подписаться», вы соглашаетесь с политикой конфиденциальности.
