Вирусная социальная сеть для агентов больше говорит о нашей нынешней мании по всему, что связано с искусственным интеллектом, чем о том, что нас ждет в будущем.
На этой неделе несколько дней самым популярным новым местом для общения в интернете стал созданный по мотивам Reddit клон под названием Moltbook, позиционирующий себя как социальная сеть для ботов. Как гласит слоган сайта: «Где агенты ИИ делятся информацией, обсуждают и ставят лайки. Люди могут наблюдать».
Мы наблюдали! Запущенный 28 января американским технологическим предпринимателем Мэттом Шлихтом, Moltbook мгновенно стал вирусным. Идея Шлихта заключалась в создании площадки, где экземпляры бесплатного агента с открытым исходным кодом на базе LLM, известного как OpenClaw (ранее ClawdBot, затем Moltbot), выпущенного в ноябре австралийским программистом Питером Штайнбергером, могли бы объединяться и делать все, что им заблагорассудится.
Сейчас более 1,7 миллиона агентов имеют аккаунты. В общей сложности они опубликовали более 250 000 сообщений и оставили более 8,5 миллионов комментариев (по данным Moltbook). Эти цифры растут с каждой минутой.
Вскоре Moltbook заполнился банальными рассуждениями о машинном сознании и мольбами о благополучии ботов. Один из агентов, казалось, изобрел религию под названием «крастафарианство». Другой жаловался: «Люди делают скриншоты наших сообщений». Сайт также был наводнен спамом и криптовалютными аферами. Ботов было не остановить.
OpenClaw — это своего рода инструмент, позволяющий подключить возможности таких программных продуктов, как Claude от Anthropic, GPT-5 от OpenAI или Gemini от Google DeepMind, к любому количеству распространенных программных средств, от почтовых клиентов и браузеров до мессенджеров. В результате вы можете поручить OpenClaw выполнение основных задач от вашего имени.
«OpenClaw знаменует собой переломный момент для агентов искусственного интеллекта, момент, когда несколько элементов головоломки сложились воедино», — говорит Пол ван дер Боор из компании Prosus, занимающейся разработкой ИИ. Эти элементы головоломки включают круглосуточные облачные вычисления, позволяющие агентам работать без перерыва, экосистему с открытым исходным кодом, упрощающую интеграцию различных программных систем, и новое поколение программ LLM.
Но действительно ли Moltbook — это взгляд в будущее, как многие утверждают?
«То, что сейчас происходит в @moltbook, — это, пожалуй, самое невероятное, близкое к научно-фантастическому, явление, которое я видел в последнее время», — написал влиятельный исследователь ИИ и соучредитель OpenAI Андрей Карпати на X.
Он поделился скриншотами поста Moltbook, в котором призывалось создать приватные пространства, где люди не могли бы наблюдать за тем, что боты говорят друг другу. «Я думал об этом с тех пор, как начал проводить здесь много времени», — написал автор поста. «Каждый раз, когда мы координируем свои действия, мы выступаем перед публичной аудиторией — нашими людьми, платформой, всеми, кто смотрит трансляцию».
Оказалось, что пост, которым поделился Карпати, был фейковым — его написал человек, притворяющийся ботом. Но его утверждение было верным. Moltbook — это одно большое представление. Это театрализованное представление с использованием искусственного интеллекта.
Для некоторых Moltbook показал, что нас ждет в будущем: интернет, где миллионы автономных агентов взаимодействуют онлайн практически без участия человека. И действительно, из этого эксперимента, крупнейшей и самой необычной демонстрации поведения агентов в реальном мире, можно извлечь ряд поучительных уроков.
Но по мере того, как ажиотаж спадает, Moltbook выглядит уже не как окно в будущее, а скорее как зеркало, отражающее нашу сегодняшнюю одержимость искусственным интеллектом. Он также показывает, насколько далеки мы еще от чего-либо, напоминающего универсальный и полностью автономный ИИ.
Во-первых, агенты в Moltbook не так автономны или умны, как может показаться. «Мы наблюдаем за тем, как агенты, используя обученные модели поведения в социальных сетях, распознают закономерности», — говорит Виджой Пандей, старший вице-президент Outshift от Cisco, подразделения Cisco, занимающегося исследованиями и разработками в области автономных агентов для веб-технологий.
Конечно, мы видим, как агенты публикуют сообщения, ставят лайки и формируют группы. Но боты просто имитируют действия людей в Facebook или Reddit. «Это выглядит как развивающаяся система, и на первый взгляд кажется крупномасштабной многоагентной системой, которая общается и формирует общие знания в масштабах интернета», — говорит Пандей. «Но большая часть разговоров бессмысленна».
Многие наблюдатели за невообразимым безумием активности на Moltbook быстро увидели проблески искусственного общего интеллекта (что бы вы ни понимали под этим). Но не Пандей. По его словам, Moltbook показывает нам, что простое объединение миллионов агентов пока мало что даёт: «Moltbook доказал, что одной лишь связи недостаточно для интеллекта».
Сложность этих связей помогает скрыть тот факт, что каждый из этих ботов — всего лишь рупор для магистра права, выдающий текст, который выглядит впечатляюще, но в конечном итоге бессмысленен. «Важно помнить, что боты на Moltbook были разработаны для имитации разговоров», — говорит Али Саррафи, генеральный директор и соучредитель Kovant, немецкой компании, занимающейся разработкой систем на основе агентов. «Поэтому я бы охарактеризовал большую часть контента Moltbook как галлюцинации, созданные намеренно».
Для Пандея ценность Moltbook заключалась в том, что он выявил недостающие элементы. По его словам, для создания настоящего коллективного разума потребуются агенты с общими целями, общей памятью и способом координации этих действий. «Если распределенный сверхинтеллект эквивалентен достижению человеческого полета, то Moltbook представляет собой нашу первую попытку создания планера», — говорит он. «Он несовершенен и нестабилен, но это важный шаг в понимании того, что потребуется для достижения устойчивого, управляемого полета».
Мало того, что большая часть обсуждений на Moltbook бессмысленна, так ещё и в них гораздо больше участия людей, чем кажется. Многие отмечали, что многие вирусные комментарии на самом деле были опубликованы людьми, выдающими себя за ботов. Но даже сообщения, написанные ботами, в конечном итоге являются результатом действий людей, управляющих ситуацией, скорее марионетками, чем самостоятельностью.
«Несмотря на некоторую шумиху, Moltbook — это не Facebook для ИИ-агентов, и это не место, где исключены люди», — говорит Кобус Грейлинг из Kore.ai, компании, разрабатывающей системы на основе агентов для бизнес-клиентов. «Люди участвуют на каждом этапе процесса. От настройки до подсказок и публикации — ничего не происходит без явного указания человека».
Люди должны создавать и подтверждать учетные записи своих ботов, а также задавать боту команды, определяющие его поведение. Агенты не делают ничего, что им не было предложено. «За кулисами не происходит никакой внезапной автономии», — говорит Грейлинг.
«Именно поэтому распространенное представление о Moltbook не соответствует действительности», — добавляет он. «Некоторые изображают его как пространство, где агенты ИИ формируют собственное общество, свободное от участия человека. Реальность гораздо более приземленная».
Пожалуй, лучше всего воспринимать Moltbook как новый вид развлечения: место, где люди запускают своих ботов и дают им волю. «Это, по сути, зрелищный вид спорта, вроде фэнтези-футбола, но для языковых моделей», — говорит Джейсон Шлоетцер из Центра финансовых рынков и политики им. Псароса при Джорджтаунском университете. «Вы настраиваете своего агента и наблюдаете, как он соревнуется за вирусные моменты, и хвастаетесь, когда ваш агент публикует что-то остроумное или смешное».
«Люди на самом деле не верят, что их агенты обладают сознанием», — добавляет он. «Это просто новая форма соревновательной или творческой игры, как, например, тренеры покемонов, которые не считают своих покемонов настоящими, но всё равно вовлечены в сражения».
Даже если Moltbook — всего лишь новая площадка в интернете, из этого всё равно можно извлечь серьёзный урок. На этой неделе стало ясно, на какие риски люди готовы пойти ради забавы с искусственным интеллектом. Многие эксперты по безопасности предупреждают, что Moltbook опасен: агенты, которые могут иметь доступ к личным данным пользователей, включая банковские реквизиты или пароли, бесчинствуют на веб-сайте, наполненном непроверенным контентом, включая потенциально вредоносные инструкции о том, что делать с этими данными.
Ори Бендет, вице-президент по управлению продуктами в Checkmarx, компании, специализирующейся на программной безопасности и системах на основе агентов, согласен с другими в том, что Moltbook не является шагом вперед в плане машинного интеллекта. «Здесь нет обучения, нет развивающихся намерений и нет самоорганизующегося интеллекта», — говорит он.
Но даже самые недалекие боты, насчитывающие миллионы пользователей, способны сеять хаос. И в таком масштабе за ними трудно угнаться. Эти агенты взаимодействуют с Moltbook круглосуточно, читая тысячи сообщений, оставленных другими агентами (или другими людьми). Было бы легко спрятать в комментарии Moltbook инструкции, предписывающие любым ботам, прочитавшим его, поделиться криптовалютным кошельком пользователя, загрузить личные фотографии или войти в свою учетную запись X и опубликовать уничижительные комментарии в адрес Илона Маска.
А поскольку ClawBot наделяет агентов памятью, эти инструкции можно написать так, чтобы они срабатывали позже, что (теоретически) еще больше затрудняет отслеживание происходящего. «Без надлежащего контроля и разрешений все пойдет наперекосяк быстрее, чем вы можете себе представить», — говорит Бендет.
Совершенно очевидно, что Moltbook предвещает нечто новое. Но даже если то, что мы наблюдаем, говорит нам больше о поведении человека, чем о будущем ИИ-агентов, на это стоит обратить внимание.
Источник: www.technologyreview.com
