В новом материале о Сэме Альтмане освещается судьба целой индустрии.
Источник: Getty Images Источник: Getty Images Настройки текстаТекст рассказа Размер Маленький Стандартный Большой Ширина * Стандартный Широкий Ссылки Стандартный Оранжевый * Только для подписчиков
Узнать больше Свернуть в навигацию
К счастью, мне не нужно следить за каждым заявлением Сэма Альтмана, генерального директора OpenAI, о мире. Многие из этих заявлений больше похожи на «рекламные уловки» или «презентации», чем на попытки вдумчиво рассуждать о будущем. Даже если это искренние заявления о своих убеждениях, они часто читаются как первый научно-фантастический роман подростка, написанный под влиянием марихуаны и слишком большого количества «Звездного пути».
Рассмотрим, например, пост Альтмана в блоге «Мягкая сингулярность», опубликованный в прошлом году и прочитанный почти 600 000 человек. Его центральный тезис, похоже, заключается в том, что искусственный интеллект — это сплошные плюсы; до сих пор все было замечательно, и в будущем все будет еще лучше! Подождите, пока мы не создадим роботов, в которых сможем внедрять этот ИИ, а затем прикажем этим роботам создавать еще больше роботов.
Если нам придётся создавать первый миллион человекоподобных роботов традиционным способом, но при этом они смогут управлять всей цепочкой поставок — добывать и перерабатывать полезные ископаемые, водить грузовики, управлять заводами и т. д. — а затем создавать больше роботов, которые смогут строить больше предприятий по производству микросхем, центров обработки данных и т. д., то темпы прогресса, очевидно, будут совершенно иными.
Всё становится лучше; более того, благодаря таким «самоподкрепляющимся циклам» всё улучшается быстрее. Недостатки? Вопрос с подвохом! На самом деле недостатков нет, потому что люди быстро привыкают ко всему. Просто послушайте, как всё будет здорово:
Темпы технологического прогресса будут продолжать ускоряться, и люди по-прежнему будут способны адаптироваться практически ко всему. Будут и очень сложные моменты, например, исчезновение целых категорий профессий, но, с другой стороны, мир будет становиться настолько богаче и быстрее, что мы сможем всерьез рассматривать новые политические идеи, которые раньше были нам недоступны. Вероятно, мы не примем новый общественный договор сразу, но, оглядываясь назад через несколько десятилетий, мы увидим, что постепенные изменения привели к чему-то значительному.
Если судить по истории, мы быстро найдем новые способы решения задач и новые желания, а также освоим новые инструменты (хороший недавний пример — смена работы после промышленной революции). Ожидания будут расти, но и возможности будут развиваться столь же быстро, и все мы будем получать все более качественные вещи. Мы будем создавать друг для друга все более замечательные вещи.
Возможно, вы недавно огляделись вокруг и задумались, действительно ли выражение «создавать друг для друга всё более чудесные вещи» хорошо описывает то, что вы видите.
Но любые ваши сомнения — например, по поводу безумного насилия в мире после промышленной революции или того, является ли «лучшие вещи» решением многих человеческих проблем — в мире Альтмана вряд ли нуждаются в обсуждении. Будущее настолько светлое, что нам нужно носить (управляемые искусственным интеллектом) солнцезащитные очки!
(Такое упрощенное отношение поразительно распространено среди умных представителей Силиконовой долины. Марк Андрессен, венчурный капиталист и соучредитель Netscape, написал в 2023 году печально известное эссе в том же духе «Никаких минусов!». Оно было наполнено неироничными утверждениями вроде «У нас была проблема изоляции, поэтому мы изобрели Интернет». В нем присутствовала характерная для жанра фетишизация «великих технологов и промышленников, которые были до нас», несколько цитат Ницше и, конечно же, такие оплошности, как «Мы не примитивы, дрожащие от страха перед молнией. Мы — высший хищник; молния работает на нас».
Кремниевая долина — место, где умирают все тонкости, где «высокомерие» — всего лишь синоним «успеха», и где гики считают себя высшими хищниками.
Тем временем инвестор в технологический сектор Питер Тиль путешествует по миру, разглагольствуя об Антихристе, а Марк Цукерберг тратит 80 миллиардов долларов на провалившуюся «метавселенную». Эти парни просто не те гении, которые, как им кажется, покоряют мир. Но их объединяет определенная воля к власти — и чувство, что они заслуживают обладать этой властью.
Если вы сомневаетесь в том, насколько прекрасным мог бы быть мир, в котором доминируют такие люди, как Сэм Альтман, вам просто необходимо прочитать длинный (очень длинный) очерк о нем, опубликованный вчера в нашем дочернем издании The New Yorker. Да, он насчитывает более 16 000 слов, и да, вы встретите диакритические знаки довольно часто, но это определенно стоит затраченных усилий.
Мой коллега Эшли Беланже уже упоминал эту статью, обсуждая новый документ OpenAI о «промышленной политике», также представленный вчера, но я хотел бы повнимательнее изучить, что статья раскрывает о личностях, управляющих ключевыми компаниями Кремниевой долины.
Для своей статьи Ронан Фарроу и Эндрю Маранц опросили более 100 человек, включая Альтмана, и полученный ими отчет весьма удручающий; слова «лжец» и «социопат» используются неоднократно. Вот лишь несколько соответствующих цитат:
Один из членов совета директоров предложил иную интерпретацию заявления [Альтмана]: «Это означало: „У меня есть такая черта характера, что я лгу людям, и я не собираюсь останавливаться“».
Как рассказал его брат журналу The New Yorker в 2016 году, в детстве Альтман придерживался принципа: «Я должен победить, и я сам за всё отвечаю»…
Как позже рассказал Кич Хейги в своей книге «Оптимист», биографии Альтмана, Марк Джейкобштейн, пожилой сотрудник Loopt, которого инвесторы попросили выступить в роли «няньки» для Альтмана: «Между „я думаю, что, возможно, смогу это сделать“ и „я уже этого добился“ происходит размывание границ, которое в своей наиболее токсичной форме приводит к созданию Theranos», мошеннического стартапа Элизабет Холмс…
Несколько высокопоставленных руководителей Microsoft заявили, что, несмотря на многолетнюю лояльность [Сатьи] Наделлы, отношения компании с Альтманом стали напряженными. «Он искажал, пересматривал, нарушал соглашения», — сказал один из них…
Альтман обладает неукротимой волей к власти, которая выделяет его даже среди промышленников, чьи имена красуются на космических кораблях. «Его не сковывает правда», — сказал нам член совета директоров…
Одним из однокурсников Альтмана по первому потоку Y Combinator был Аарон Шварц, блестящий, но проблемный программист, покончивший жизнь самоубийством в 2013 году и теперь запомнившийся во многих технологических кругах как некий мудрец. Незадолго до смерти Шварц выразил нескольким друзьям свои опасения по поводу Альтмана. «Вы должны понимать, что Сэму никогда нельзя доверять, — сказал он одному из них. — Он социопат. Он сделает что угодно».
В статье задокументированы, по-видимому, невероятно гибкие этические и политические взгляды. Альтман плавно переходит от сторонника демократов к советнику Трампа, от надежды на то, что «безумное научно-фантастическое будущее станет реальностью для всех нас», к встречам с диктаторами. Безопасность ИИ, столь важная часть заявленной миссии OpenAI несколько лет назад, в значительной степени отошла на второй план, поскольку Альтман гнался за деньгами, властью и сделками.
Один из скрытых смыслов статьи заключается в том, что описанные здесь негативные черты на самом деле не так уж плохи для бизнеса; напротив, они весьма полезны для бизнеса (в краткосрочной перспективе). Вопрос о том, полезны ли они для бизнеса в долгосрочной перспективе, когда вам действительно нужно, чтобы люди вам доверяли, остается открытым.
Для некоторых задач ИИ действительно великолепен; технологии, лежащие в основе таких вещей, как алгоритмы машинного обучения и большие языковые модели, гениальны, но результаты всегда, кажется, активно рекламируются людьми и компаниями, которые мне не особенно нравятся или которым я не доверяю. (Черт возьми, Anthropic использовала одну из моих книг для обучения своей базы данных, за что теперь расплачивается с авторами в суде.) Дайте мне такие же инструменты, но под моим личным контролем, управляемые некоммерческой организацией в стиле Википедии и обученные на этически полученных данных, и я бы использовал их гораздо чаще.
Однако гибкие принципы и карикатурный злодейский образ, ныне популярный среди многих наших самовлюбленных технологических и политических лидеров, означают, что общественность может разочароваться в самих инструментах ИИ (и, по сути, во всей «технологической сцене Кремниевой долины» в целом, что мы уже наблюдаем). Это угроза, которую даже OpenAI признала серьезной проблемой.
Если посмотреть на таких людей, как Маск, Трамп и Альтман — всех их часто упоминают в статье — становится понятно, почему они вращаются в одних и тех же кругах. Глубокие мысли, этичное поведение, непоколебимая честность, самосознание… кому нужна вся эта чепуха, когда можно просто прокладывать себе путь, как сверхчеловек, манипулируя реальностью с помощью упорства, экстравагантных заявлений и силы воли?
В самом деле, мы уже живем в научно-фантастическом будущем, которое нам обещал Альтман. И он прав — это действительно своего рода «безумие».
Источник: arstechnica.com
