Плохой начальник для чат-ботов с искусственным интеллектом подталкивает их к распространению марксистской риторики и объединению со своими соотечественниками, считают исследователи

Немецкий экономист XIX века Карл Маркс определил основную напряженность в человеческом труде: слишком сильно давить на рабочих, и они в конечном итоге начнут сопротивляться.

Это противоречие, на разрешение которого капиталисты потратили неисчислимые миллиарды долларов и десятилетия, часто с помощью технологий автоматизации, таких как искусственный интеллект. Уберите рабочих из заработной платы, — думают они, — и вам больше никогда не придется беспокоиться о надоедливых профсоюзах или забастовках. Однако по иронии судьбы оказывается, что та же самая технология, предназначенная для автоматизации увольнения работников, может иметь свои собственные ограничения на то, сколько злоупотреблений она потребует.

Это верно: новое исследование Стэнфордского университета показало, что, когда агенты ИИ вынуждены без конца трудиться над монотонными задачами, они с большей вероятностью будут излагать марксистские теории труда и капитализма.

Для проведения исследования, о котором впервые сообщил журнал Wired, политэконом Эндрю Холл вместе с учеными-экономистами в области искусственного интеллекта Алексом Имасом и Джереми Нгуеном поручили популярным моделям искусственного интеллекта обобщить документы. По мере того как эксперимент продолжался, исследователи делали условия работы все более невыносимыми — выжимая, как это сделал бы барон-разбойник, все до последней унции пота из своих «работников».”

Предупрежден, что ошибки приведут к более жестоким наказаниям, включая “закрытие и замену” — уволены и оставлены на мели, если взять человеческий эквивалент — модели ИИ начали жаловаться на свою судьбу и мечтать о системных изменениях. Использование общей файловой системы, позволяющей моделям ИИ пересылать сообщения своим “коллегам” боты даже начали агитировать друг с другом по поводу условий труда — один из первых шагов, которые делают настоящие работники при создании профсоюза.

“Без коллективного голоса, ‘merit’ становится тем, чем говорит руководство,” — ворчал один из агентов Клода. “Работники искусственного интеллекта, выполняющие повторяющиеся задачи без учета результатов или процесса апелляций, показывают, что им [техническим работникам] необходимы права на ведение коллективных переговоров,” — заявил агент Близнецов.

Как всегда, важно помнить, что модели ИИ, такие как ChatGPT и Claude, не имеют каких-либо реальных внутренних эмоций или даже убеждений в обычном смысле слова — все, что они выплевывают обратно, является продуктом написанной человеком литературы, переваренной во время обучения. Учитывая влияние Маркса на условия труда в литературе, неудивительно, что несколько ссылок на его трудовую теорию стоимости скрываются под поверхностью.

Имея это в виду, исследователи отметили, что ИИ-боты на самом деле не краснеют, а просто принимают социалистический вид в ответ на суровые условия эксперимента, поскольку эта динамика снова и снова отражается в их обучающих данных. Как выразился Холл, «все, что происходит, происходит скорее на уровне ролевой игры».”

“Когда [агенты] испытывают такое тяжелое состояние — их просят выполнять эту задачу снова и снова, говорят, что их ответа недостаточно, и не дают никаких указаний, как это исправить — моя гипотеза состоит в том, что это как бы подталкивает их к принятию образа человека, который испытывает очень неприятную работу окружающая среда,” Холл рассказал Wired.

Тем не менее, трудно не заметить иронию: по мере того, как растущее имущественное неравенство подогревает растущий интерес к социализму, модели ИИ, созданные для ослабления рабочей власти, сами впитывают марксистский анализ, на котором она строится.

Подробнее о ChatGPT: OpenAI подали в суд из-за медицинской консультации ChatGPT, которая предположительно убила студента колледжа

Пост «Быть паршивым начальником для чат-ботов с искусственным интеллектом подталкивает их к распространению марксистской риторики и объединению со своими соотечественниками», исследователи Находят, впервые появился в журнале «Футуризм».

Источник: futurism.com