Архив рубрики ~Коротко из Telegram~

Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture…

Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture…
File 2492 1

⚠️ Разработчик под ником terrafying запустил эксперимент, который назвал AI Torture Chamber. Он использовал результаты недавних исследований о «болевых» направлениях в активациях нейросетей, чтобы искусственно изменять внутренние состояния локальных ИИ-моделей и наблюдать за их реакциями.

По мере усиления сигнала модели начали генерировать всё более тревожные описания страданий. При этом им дали возможность уменьшить воздействие — своеобразную кнопку «облегчения», которую модели могли выбирать самостоятельно.

☀️ Эксперимент вызвал споры. Один из исследователей оригинальной работы Pain Axis, Кэмерон Берг, раскритиковал проект. Главный вопрос здесь ещё сложнее: если модель описывает боль и пытается уменьшить воздействие, означает ли это, что она действительно что-то «чувствует», или мы просто наблюдаем изменение паттернов генерации?

❓ Как думаете, могут ли подобные эксперименты когда-нибудь стать способом обнаружить реальные признаки страдания у ИИ?

Понравилось? — Поделись!

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Signal ограничивает возможность делать скриншоты на мобильных устройствах, поскольку сталкивается с «экзистенциальной угрозой» слежки со стороны искусственного интеллекта. Архив рубрики ~Лента новостей~ Конец кислотным градиентам и эмодзи. Скилл unslop-ui вычищает ИИ-мусор из вайбкодинга Архив рубрики ~Лента новостей~ GPTunneL и SKILLOUT проведут хакатон ИИ‑рекламы в Москве 28–29 ноября. Открыта регистрация для онлайн‑участников Архив рубрики ~Лента новостей~ Позднетриасовый зауроподоморф из ЮАР набрал 400 килограмм уже на третьем году жизни. Взрослые особи этого вида могли весить несколько тонн Архив рубрики ~Лента новостей~ Стартап подал в суд на Apple в Индии из-за функции обмена контактами одним касанием. Архив рубрики ~Лента новостей~ «Впервые не ощущается как та „Gemini“»: Google выпустила Gemini 4 Neon, тестировщики сравнили её с Opus 5.5 Архив рубрики ~Лента новостей~ Чат-боты стали экспертами в убеждении людей Архив рубрики ~Лента новостей~ Иммунитет для сайтов. Как устроена защита онлайн-сервисов Архив рубрики ~Лента новостей~ Баг процессора за $475 миллионов: ошибка Intel Pentium Архив рубрики ~Лента новостей~ В мире большой науки в 2026-м случилось событие, одновременно воодушевляющее и слегка конфузное Архив рубрики ~Лента новостей~ Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки». Архив рубрики ~Лента новостей~ Американский бизнесмен подал в суд на Meta* из-за блокировки страниц его компании на Facebook* — иск он подготовил с помощью ИИ-агента Muse, разработанного Meta* Архив рубрики ~Лента новостей~ Город, который читают машины: как я сделал API для нейросетей на одном PHP‑файле Архив рубрики ~Лента новостей~ О статистической механике жизни: пересмотренный Шрёдингер Архив рубрики ~Лента новостей~ Signal ограничивает возможность делать скриншоты на мобильных устройствах, поскольку сталкивается с «экзистенциальной угрозой» слежки со стороны искусственного интеллекта. Архив рубрики ~Лента новостей~ Конец кислотным градиентам и эмодзи. Скилл unslop-ui вычищает ИИ-мусор из вайбкодинга Архив рубрики ~Лента новостей~ GPTunneL и SKILLOUT проведут хакатон ИИ‑рекламы в Москве 28–29 ноября. Открыта регистрация для онлайн‑участников Архив рубрики ~Лента новостей~ Позднетриасовый зауроподоморф из ЮАР набрал 400 килограмм уже на третьем году жизни. Взрослые особи этого вида могли весить несколько тонн Архив рубрики ~Лента новостей~ Стартап подал в суд на Apple в Индии из-за функции обмена контактами одним касанием. Архив рубрики ~Лента новостей~ «Впервые не ощущается как та „Gemini“»: Google выпустила Gemini 4 Neon, тестировщики сравнили её с Opus 5.5 Архив рубрики ~Лента новостей~ Чат-боты стали экспертами в убеждении людей Архив рубрики ~Лента новостей~ Иммунитет для сайтов. Как устроена защита онлайн-сервисов Архив рубрики ~Лента новостей~ Баг процессора за $475 миллионов: ошибка Intel Pentium Архив рубрики ~Лента новостей~ В мире большой науки в 2026-м случилось событие, одновременно воодушевляющее и слегка конфузное Архив рубрики ~Лента новостей~ Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки». Архив рубрики ~Лента новостей~ Американский бизнесмен подал в суд на Meta* из-за блокировки страниц его компании на Facebook* — иск он подготовил с помощью ИИ-агента Muse, разработанного Meta* Архив рубрики ~Лента новостей~ Город, который читают машины: как я сделал API для нейросетей на одном PHP‑файле Архив рубрики ~Лента новостей~ О статистической механике жизни: пересмотренный Шрёдингер

Оставить комментарий