Сотрудники OpenAI борются с продвижением компании в социальных сетях

Несколько нынешних и бывших исследователей OpenAI высказались по поводу первого выхода компании в социальные сети: приложения Sora, ленты в стиле TikTok, наполненной видео, созданными ИИ, и множеством дипфейков Сэма Альтмана. Исследователи, высказывая свои претензии в X, похоже, не понимают, как этот запуск вписывается в некоммерческую миссию OpenAI по разработке передового ИИ на благо человечества.

«Ленты на основе ИИ пугают», — сказал исследователь предварительной подготовки OpenAI Джон Холлман в посте на X. «Не буду отрицать, что я испытывал некоторую обеспокоенность, когда впервые узнал о выпуске Sora 2. Тем не менее, я думаю, что команда сделала все возможное, чтобы создать позитивный опыт… Мы сделаем все возможное, чтобы ИИ помогал, а не вредил человечеству».

Боаз Барак, другой исследователь OpenAI и профессор Гарварда, ответил: «Я разделяю схожую смесь тревоги и восторга. Sora 2 технически потрясающий, но пока рано поздравлять себя с тем, что нам удалось избежать ловушек других приложений для социальных сетей и дипфейков».

Бывший исследователь OpenAI Рохан Панди воспользовался моментом, чтобы прорекламировать новый стартап Periodic Labs, который состоит из бывших исследователей лаборатории ИИ, пытающихся создать системы ИИ для научных открытий: «Если вы не хотите строить бесконечную машину ИИ для TikTok, а хотите разработать ИИ, который ускорит фундаментальную науку… присоединяйтесь к нам в Periodic Labs».

Было много других сообщений в том же духе.

Запуск Sora подчёркивает ключевое противоречие вокруг OpenAI, которое постоянно обостряется. Это самая быстрорастущая компания потребительских технологий в мире, но также и передовая лаборатория ИИ с амбициозным уставом некоммерческой организации. Некоторые бывшие сотрудники OpenAI, с которыми я общался, утверждают, что потребительский бизнес теоретически может выполнять эту миссию: ChatGPT помогает финансировать исследования ИИ и широко распространять эту технологию.

Генеральный директор OpenAI Сэм Альтман в своем посте на X Wednesday высказался об этом, объясняя, почему компания выделяет так много капитала и вычислительных мощностей на приложение для социальных сетей на базе ИИ:

«Нам в основном нужен капитал для создания [sic] ИИ, способного заниматься наукой, и, конечно же, мы сосредоточены на ИИОН практически во всех наших исследовательских проектах», — сказал Альтман. «Кроме того, приятно показывать людям интересные новые технологии/продукты, заставлять их улыбаться и, надеюсь, зарабатывать немного денег, учитывая все эти вычислительные потребности».

«Когда мы запустили чатгпт, было много вопросов: „Кому это нужно и где ИИ?“», — продолжил Альтман. «[Д]удивительна реальность, когда речь идёт об оптимальных траекториях развития компании».

Но в какой момент потребительский бизнес OpenAI начинает преобладать над её некоммерческой миссией? Другими словами, когда OpenAI отказывается от возможности заработать и развить платформу, потому что это противоречит её миссии?

Этот вопрос становится всё более актуальным в связи с тем, что регулирующие органы внимательно изучают переход OpenAI на коммерческую основу, который OpenAI необходимо завершить, чтобы привлечь дополнительный капитал и в конечном итоге стать публичной организацией. Генеральный прокурор Калифорнии Роб Бонта заявил в прошлом месяце, что он «особенно обеспокоен тем, чтобы заявленная миссия OpenAI как некоммерческой организации в области безопасности оставалась приоритетной» в ходе реструктуризации.

Скептики отвергают миссию OpenAI как инструмент брендинга для привлечения специалистов из крупных технологических компаний. Но многие инсайдеры OpenAI настаивают, что именно это стало главной причиной их прихода в компанию.

Пока что влияние Sora невелико: приложению всего один день. Но его дебют знаменует собой значительное расширение потребительского бизнеса OpenAI и подвергает компанию воздействию стимулов, которые десятилетиями преследовали приложения для социальных сетей.

В отличие от ChatGPT, оптимизированного для удобства, OpenAI заявляет, что Sora создана для развлечения — это место для создания и публикации видеороликов с использованием ИИ. Лента напоминает TikTok или Instagram Reels — платформы, известные своими затягивающими циклами.

OpenAI настаивает на том, что хочет избежать этих ловушек, заявляя в блоге, анонсирующем запуск Sora, что «опасения по поводу думскроллинга, зависимости, изоляции и лент с RL-слоптимизацией — это прежде всего». Компания прямо заявляет, что не оптимизирует время, проводимое в лентах, а вместо этого стремится максимизировать творческий потенциал. OpenAI заявляет, что будет отправлять пользователям напоминания, если они слишком долго прокручивают, и в первую очередь показывать им знакомых.

Это более надёжная отправная точка, чем Meta Vibes — ещё один короткий видеоканал на базе ИИ, выпущенный на прошлой неделе, — который, похоже, был выпущен без должного количества мер предосторожности. Майлз Брандейдж, бывший руководитель политики OpenAI, отмечает, что, возможно, видеоканалы с ИИ будут иметь как положительные, так и отрицательные стороны, подобно тому, как это было в эпоху чат-ботов.

Тем не менее, как давно признал Альтман, никто не ставит себе целью создание приложения, вызывающего привыкание. Стимулы от ведения ленты новостей подталкивают их к этому. OpenAI даже столкнулась с проблемами, связанными с подхалимством в ChatGPT, что, по словам компании, было непреднамеренным из-за некоторых её методов обучения.

В июньском подкасте Альтман обсудил то, что он называет «большим перекосом в социальных сетях».

«Одна из главных ошибок эпохи социальных сетей заключалась в том, что алгоритмы новостных лент имели множество непреднамеренных негативных последствий для общества в целом и, возможно, даже для отдельных пользователей. Хотя они делали то, чего пользователь хотел — или кто-то считал, что пользователь хочет — в данный момент, а именно, побуждали его, например, продолжать проводить время на сайте».

Пока рано судить, насколько приложение Sora соответствует потребностям пользователей и миссии OpenAI. Пользователи уже замечают некоторые приёмы, повышающие вовлечённость, например, динамические эмодзи, которые появляются каждый раз, когда вы ставите лайк под видео. Похоже, это сделано для того, чтобы пользователи получали немного дофамина за просмотр видео.

Настоящим испытанием станет то, как OpenAI разовьёт Sora. Учитывая, насколько сильно ИИ захватил обычные ленты социальных сетей, вполне вероятно, что ленты, созданные на основе ИИ, вскоре обретут свой шанс. Сможет ли OpenAI развить Sora, не повторяя ошибок своих предшественников, пока неизвестно.

Источник: techcrunch.com