Крис Лихейн — один из лучших в своём деле по части замалчивания плохих новостей. Пресс-секретарь Эла Гора при Клинтоне, главный кризисный менеджер Airbnb во всех регуляторных кошмарах от Англии до Брюсселя — Лихейн знает толк в флирте. Сейчас он два года на, возможно, самой невыполнимой из своих задач: в качестве вице-президента OpenAI по глобальной политике, он должен убедить мир, что OpenAI действительно небезразлична демократизация искусственного интеллекта, в то время как компания всё больше ведёт себя, как, скажем так, любой другой технологический гигант, когда-либо заявлявший о своей исключительности.
В начале этой недели я провёл с ним 20 минут на сцене конференции Elevate в Торонто. 20 минут, чтобы перейти от обсуждений к реальным противоречиям, разъедающим тщательно выстроенный имидж OpenAI. Это было непросто и не совсем успешно. Лихейн действительно хорош в своей работе. Он приятен в общении. Его голос звучит разумно. Он признаёт свою неуверенность. Он даже рассказывает, как просыпался в 3 часа ночи с тревогой о том, принесёт ли всё это пользу человечеству.
Но благие намерения ничего не значат, когда ваша компания вызывает критиков в суд, откачивает воду и электричество из экономически неблагополучных городов и возвращает к жизни умерших знаменитостей, чтобы утвердить свое доминирующее положение на рынке.
Проблема компании с Sora на самом деле лежит в основе всего остального. Инструмент для генерации видео, запущенный на прошлой неделе, казалось бы, изначально содержал материалы, защищённые авторским правом. Это был смелый шаг для компании, на которую уже подали в суд New York Times, Toronto Star и половина издательской индустрии. С точки зрения бизнеса и маркетинга, это также было блестяще. Приложение, доступное только по приглашению, взлетело на вершину App Store, поскольку пользователи создавали цифровые версии себя, генерального директора OpenAI Сэма Альтмана, персонажей, таких как Пикачу и Картман из «Южного парка», и покойных знаменитостей, таких как Тупак Шакур.
На вопрос о том, что побудило OpenAI выпустить новую версию Sora с этими персонажами, Лихейн ответил, что Sora — это «технология общего назначения», подобная печатному станку, которая делает творчество доступным для людей без таланта и ресурсов. Даже он, самопровозглашённый творческий ноль, теперь может снимать видео, сказал он со сцены.
Он уклонился от мысли, что изначально OpenAI «позволяла» правообладателям отказаться от использования их работ для обучения Соры, что обычно не соответствует принципам использования авторских прав. Затем, после того как OpenAI заметила, что людям очень нравится использовать изображения, защищённые авторским правом, она «эволюционировала» в сторону модели добровольного согласия. Это не итерация. Это проверка того, насколько многое можно избежать. (Кстати, хотя на прошлой неделе Ассоциация кинокомпаний и поднимала вопрос о судебных претензиях, OpenAI, похоже, довольно многое удалось избежать.)
Естественно, эта ситуация напоминает о раздражении издателей, обвиняющих OpenAI в обучении на их разработках, не разделяя при этом финансовую выгоду. Когда я надавил на Лихейна, что издатели не участвуют в экономической политике, он сослался на принцип добросовестного использования — американскую правовую доктрину, призванную уравновесить права создателей и доступ общественности к знаниям. Он назвал его секретным оружием технологического доминирования США.
Возможно. Но недавно я брал интервью у Эла Гора, бывшего начальника Лихейна, и понял, что любой может просто спросить об этом ChatGPT, вместо того чтобы читать мою статью на TechCrunch. «Это „итеративный“ подход, — сказал я, — но это также и замена».
Лихэйн выслушал и прекратил свою тираду. «Нам всем нужно будет с этим разобраться», — сказал он. «Сидеть здесь на сцене и говорить, что нам нужно найти новые модели экономического дохода, — это очень легко и банально. Но я думаю, мы это сделаем». (Я слышал, что мы всё придумываем на ходу.)
Затем возникает вопрос инфраструктуры, на который никто не хочет отвечать честно. OpenAI уже управляет кампусом дата-центра в Абилине, штат Техас, и недавно начала строительство огромного дата-центра в Лордстауне, штат Огайо, в партнёрстве с Oracle и SoftBank. Лихэйн сравнил внедрение ИИ с появлением электричества, заявив, что те, кто получил к нему доступ последними, всё ещё играют в догонялки. Однако проект OpenAI Stargate, по всей видимости, нацелен на те же самые экономически неблагополучные регионы для создания центров, которые требуют огромных затрат на воду и электричество.
Когда во время нашей встречи Лихэйна спросили, получат ли эти сообщества выгоду или просто оплатят расходы, он обратился к гигаваттам и геополитике. Он отметил, что OpenAI требует около гигаватта энергии в неделю. В прошлом году Китай выработал 450 гигаватт плюс 33 ядерных объекта. Если демократии хотят демократического ИИ, сказал он, им придётся конкурировать. «Оптимист во мне говорит, что это модернизирует наши энергетические системы», — сказал он, рисуя картину новой индустриализации Америки с преобразованными энергосетями.
Это было вдохновляюще, но это не было ответом на вопрос, будут ли жители Лордстауна и Абилина наблюдать резкий рост счетов за коммунальные услуги, пока OpenAI создает видеоролики The Notorious BIG. Стоит отметить, что генерация видео — самый энергоемкий вид ИИ из всех существующих.
Есть и человеческие жертвы, которые стали ещё очевиднее за день до нашего интервью, когда Зельда Уильямс написала в Instagram, чтобы умолять незнакомцев прекратить присылать ей созданные искусственным интеллектом видеоролики с её покойным отцом, Робином Уильямсом. «Вы не занимаетесь искусством, — написала она. — Вы превращаете человеческие жизни в отвратительные, переработанные хот-доги».
Когда я спросил, как компания совмещает подобный вред для себя с миссией, Лихейн ответил, рассказав о процессах, включая ответственное проектирование, фреймворки тестирования и партнёрство с государственными органами. «Для этого нет единого сценария, верно?»
В некоторые моменты Лихейн демонстрировал уязвимость, говоря, что он осознает «огромную ответственность, которая связана» со всем, что делает OpenAI.
Независимо от того, были ли эти моменты задуманы для публики или нет, я ему верю. Более того, уезжая из Торонто, я думал, что увидел мастер-класс по политическому месседжингу – Лихэйн боролся с невозможным, уклоняясь от вопросов о решениях компаний, с которыми, насколько я знаю, он даже не согласен. Затем появились новости, которые усложнили и без того сложную картину.
Натан Кэлвин, юрист, работающий над политикой в области ИИ в некоммерческой правозащитной организации Encode AI, рассказал, что в то же время, когда я разговаривал с Лихейном в Торонто, OpenAI направила помощника шерифа к Кэлвину домой в Вашингтоне, округ Колумбия, во время ужина, чтобы вручить ему повестку. Они хотели получить доступ к его личной переписке с законодателями Калифорнии, студентами и бывшими сотрудниками OpenAI.
Кэлвин утверждает, что этот шаг был частью тактики запугивания OpenAI в связи с новым законопроектом об ИИ — законопроектом SB 53 штата Калифорния. Он утверждает, что компания использовала продолжающуюся судебную тяжбу с Илоном Маском как предлог для травли критиков, намекая на то, что Encode тайно финансируется Маском. Кэлвин добавил, что боролся с сопротивлением OpenAI законопроекту SB 53 штата Калифорния о безопасности ИИ, и что, когда он увидел заявление OpenAI о том, что компания «работала над улучшением законопроекта», он «буквально рассмеялся в голос». В соцсетях он назвал Лихейна, в частности, «мастером тёмных политических искусств».
В Вашингтоне это может прозвучать как комплимент. Но в такой компании, как OpenAI, чья миссия — «создать ИИ на благо всего человечества», это звучит как обвинение.
Но гораздо важнее то, что даже сами сотрудники OpenAI не уверены в том, кем они становятся.
Как сообщил на прошлой неделе мой коллега Макс, после выхода Sora 2 ряд нынешних и бывших сотрудников выразили свои опасения в социальных сетях. Среди них был Боаз Барак, исследователь OpenAI и профессор Гарварда, который написал о Sora 2: «Технически игра потрясающая, но пока рано радоваться тому, что нам удалось избежать ловушек других приложений для социальных сетей и дипфейков».
В пятницу Джош Ачиам, руководитель отдела согласования миссий OpenAI, написал в Твиттере нечто ещё более примечательное по поводу обвинения Кэлвина. Предваряя свои комментарии словами о том, что они «возможно, представляют риск для всей моей карьеры», Ачиам продолжил писать об OpenAI: «Мы не можем делать то, что делает нас пугающей силой, а не добродетельной. У нас есть долг и миссия перед всем человечеством. Планка для выполнения этого долга необычайно высока».
Стоит остановиться и задуматься об этом. Руководитель OpenAI, публично сомневающийся в том, что его компания становится «пугающей силой, а не добродетельной», — это совсем не то же самое, что конкурент, высмеивающий конкурента, или репортёр, задающий вопросы. Это человек, который выбрал работу в OpenAI, верит в её миссию и теперь признаёт угрызения совести, несмотря на профессиональный риск.
Это переломный момент, противоречия которого могут лишь обостриться по мере того, как OpenAI стремительно движется к созданию искусственного интеллекта общего назначения. Это также заставляет меня задуматься о том, что настоящий вопрос не в том, сможет ли Крис Лихейн донести миссию OpenAI. А в том, верят ли в неё другие, включая, что особенно важно, и другие сотрудники компании.
Источник: techcrunch.com
