Прочел за неделю два объемных материала про «риски ИИ». Очень разные, но показательные

Полюс первый: Элиезер Юдковский, книга «If Anyone Builds It, Everyone Dies.» Название — тезис, аргумент и вывод одновременно. Сверхинтеллект нас уничтожит, вопрос только когда. Аудитория – те, которым приятно думать что они видят то, чего не замечает толпа.

Полюс второй: Дарио Амодеи, эссе «Юность технологии». 15000 слов от CEO компании стоимостью 60 млрд.

5) категорий рисков:

ИИ выйдет из-под контроля;

террористы получат биооружие;

Китай построит тоталитаризм;

люди потеряют работу;

люди потеряют смысл.

5) категорий решений:

мы работаем над безопасностью,

мы ставим классификаторы,

нужен экспортный контроль,

филантропия,

люди адаптируются.

Аудитория – те кому хочется верить, что есть какие-то взрослые и они контролируют ситуацию.

Что общего у обоих полюсов: все угрозы вынесены либо в будущее, либо в Китай, либо в абстракции. Про авторитаризм у Амодеи подробно: автономные дроны, тотальная слежка, персонализированная пропаганда, «виртуальный Бисмарк» для стратегических решений. Всё это ужасно. В Китае.

А кто запретит условному Стармеру строить то же самое в Британии? Или Трампу с Palantir дать ICE возможность отслеживать всех несогласных? Ответ Амодеи: «законы, ориентированные на поддержку гражданских свобод». То есть, те же люди, которые получат инструменты слежки, должны сами себя ограничить. При этом Anthropic уже продаёт ИИ разведывательным сообществам США.

Про экономику Амодеи тоже пишет. Да, рабочие места исчезнут. Да, будет больно. Решение: филантропия. Он с партнерами обещает отдать 80% состояния. Классика. Вы бедны не потому, что система так устроена, а потому что вам не повезло. Вы своего рода инвалиды. Но мы вас любим и поделимся.

Есть шутка: чтобы выйти из зоны комфорта, нужно сначала в неё войти, а у нас денег нет.

Итак,

Юдковский утверждает, что ИИ убьёт всех.

Амодеи утверждает, что люди потеряют смысл.

Оба правы. Но не так, как думают.

Юдковский прав: ИИ убьёт. Не человечество целиком, а класс-бенефициар послевоенного общественного договора. Средний класс, который семьдесят лет был опорой статус кво в развитых странах. Он просто перестанет быть нужен.

Амодеи прав: смысл исчезнет. Не потому, что люди впадут в экзистенциальный кризис. А потому что носители и операторы смыслов — образованный средний класс — исчезнут как социальная страта. Смысл — роскошь для тех, у кого закрыт базовый контур потребления.

Добавим, что классовый анализ сегодня табуирован. «Маркс? Болтун-блогер девятнадцатого века, все его идеи обанкротились, тема закрыта» — это вам любой современный «экономист по инновациям» скажет.

Поэтому на конференциях обсуждают биотерроризм и экзистенциальный кризис. А не:

Рост цен на электричество для конечного потребителя, потому что дата-центры

Удорожание памяти и железа, потому что приоритеты производства

Откуда через десять лет возьмутся синьоры и мидлы, если джунов заменяет ИИ

Что будут жрать несостоявшиеся джуны — в программировании, в медицине, в юриспруденции, везде.

Главная же особенность происходящего — отсутствие события. Это не завод, который закрылся, не война, которая началась. Это варка лягушки. Каждый день температура чуть выше. Сегодня твоя работа стоит чуть меньше, чем вчера. Сегодня у тебя чуть хуже переговорной позиции. Сегодня человек с правильными связями и ранним доступом к технологиям чуть впереди твоего сынули-лошка.

Нет момента для мобилизации. Нет врага с лицом. Нет новости для телевизора.

Когда вода закипит, будет поздно. Не потому, что все умрут. А потому что структура отвердеет. Юдковский пугает смертью человечества. Амодеи успокаивает ответственным развитием. Один для параноиков, другой для оптимистов. Оба заняты важнейшим из дел сегодняшней повестки — «обсуждением рисков ИИ» старательно игнорирующим настоящие иски ИИ.

Источник: t.me

Источник: ai-news.ru