Dario Amodei — The Adolescence of Technology

AGI как «социум гениев»: новая идеология и объяснение гонки за первенство по Амодею.

Дарио Амодей (Anthropic, разработчик Claude) о появлении AGI примерно к концу 2026го года (цитата ниже).

То есть:

— Его очень большое эссе «Подростковый возраст технологий: Противостояние и преодоление рисков мощного ИИ» («The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI»), январь 2026 — это еще один идеологический манифест, касающийся ИИ, вышедший в последнее время. Вслед за «Технологической республикой» Карпа и лекциями про Антихриста Тиля.

https://www.darioamodei.com/essay/the-adolescence-of-technology

Ключевые специалисты в этой технологии выводят в публичное пространство разные варианты примерно одной и той же идеологии. Сектор AI корпораций быстро оформляется при Трампе не только к комплекс крупнейших проектов, но и в идеологическое явление.

Логика понятна. Согласен.

— Временной прогноз Amodei (AGI через 1–2 года, то есть 2026–2027) близок к прогнозу Musk (2025–2026). Это совпадение должно иметь технологическое или политическое объяснение. Согласен.

— AGI по Amodei — это не только системы, аналогичные человеческому гению по интеллектуальной мощи, но и способные через 1–2 года перейти к самопрограммированию и созданию следующего поколения AI. Логика ясна. Согласен.

— Amodei использует метафору «страны гениев» (50 миллионов AGI в одном дата-центре) для анализа рисков. Хотя это thought experiment, логически из его модели следует: если AGI способен к самокопированию, то первый AGI быстро породит социум специализированных AGI, ограниченный только ресурсами дата-центра.

И Амодей сразу анализирует потенциал такого социума. Остальные техно-лидеры акцентируют скорее точечное применение AGI. Логика тоже понятна. Согласен.

— Из этого логично следует (хотя Amodei это прямо не формулирует): уже первый AGI должен быть способен к самокопированию таких же «гениев», способных к самосовершенствованию и дальнейшему копированию.

Мой вывод: такой подход объяснил бы ту гонку любой ценой за создание AGI первыми, которую сейчас развернули США. Уже первый AGI должен быстро освоить ресурсы того дата-центра, где он размещен: усовершенствовать себя и создать из себя социум AGI, которые в рамках социального развития обретут разную специализацию.

В принципе, для такого пути развития AGI не надо даже ждать, когда развитие AI дорастет до уровня универсального AGI. Достаточно AGI, превосходящего человека лишь по отдельным задачам. Дальше эволюция такого AGI должна пойти автоматическим путем, без участия человека.

Уровень превосходства AI над человеком по отдельным задачам уже достигнут или почти достигнут: математические доказательства (AlphaProof + AlphaGeometry 2), научные исследования (AlphaFold). Если логика Amodei верна, то развитие социума AGI может начаться уже сейчас — нужны лишь крупные дата-центры для их размещения.

Разовью его логику от себя дальше: например, Colossus на 1,9 ГВт, совсем недавно открытый Маском.

Цитаты о появлении AGI.

— «Как я писал в «Машинах любящей благодати», мощный ИИ может появиться всего через 1–2 года, хотя может и значительно дальше.

Этот цикл обратной связи набирает обороты месяц за месяцем и может быть всего через 1–2 года от того, чтобы нынешнее поколение ИИ самостоятельно создало следующее.

Не то чтобы мощный ИИ обязательно появился через 1–2 года. Но есть неплохая вероятность, что это произойдёт, и очень высокая вероятность, что это случится в ближайшее время.»

— Социум AGI на ресурсе дата-центра — «страна гениев»:

«Я считаю, что лучший способ понять риски ИИ — задать следующий вопрос: предположим, что буквально «страна гениев» в ~2027 году появится где-то в мире. Представьте, скажем, 50 миллионов человек, все из которых гораздо способнее любого лауреата Нобелевской премии, государственного деятеля или технолога.

Страна гениев в дата-центре могла бы разделить свои усилия между проектированием программного обеспечения, кибероперациями, исследованиями и разработками физических технологий, построением отношений и государственным управлением. Очевидно, что если по какой-то причине она решит это сделать, у этой страны были бы довольно хорошие шансы захватить мир (военным или в плане влияния и контроля) и навязать свою волю всем остальным — или сделать множество других вещей, которые остальной мир не хочет и не может остановить.»

Источник: vk.com

Источник: ai-news.ru