Что на самом деле означает предупреждение бывшего исследователя-антрополога о вымирании человечества?
Компании, занимающиеся искусственным интеллектом, считают, что их творения могут убить нас всех. Но они продолжают свою деятельность.
Омар Галлага освещал технологии, цифровую культуру и другие темы для таких изданий, как CNET, NPR, WIRED, Texas Monthly, MSNBC, Consumer Reports, The Washington Post, Los Angeles Times, The Atlantic и Austin American-Statesman, где он долгое время работал технологическим репортером, редактором и ведущим подкастов… Читать полную биографию
Омар Галлага
Прочитать полную биографию
6 минут чтения 
Идея захвата человечества искусственным интеллектом десятилетиями оставалась неотъемлемой частью поп-культуры, например, в фильмах о Терминаторе. Warner Bros.
Серия постов на X от исследователя в области искусственного интеллекта, который утверждает, что уволился из Anthropic из-за этических проблем, стала вирусной, вызвав тысячи откликов и вновь разжигая дебаты о потенциальных будущих опасностях искусственного интеллекта.
Джейкоб Коксон, исследователь в области искусственного интеллекта, который также работал в OpenAI над предварительным обучением моделей ИИ, уволился из Anthropic из-за опасений, что развитие ИИ может привести к вымиранию человечества. «Ни одна из компаний не действует ответственно, — написал он. — Они стремятся к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями». Сверхинтеллект — это гипотетический сценарий, в котором «когнитивные» способности ИИ значительно превосходят человеческие во всех областях — науке, математике, стратегии, творчестве и решении проблем.
На момент написания этой статьи пост Коксона на форуме X набрал более 156 миллионов просмотров и получил более 752 000 лайков.
Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями в области предварительного обучения в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями. Мои мысли ниже.
— Джейкоб Коксон (@hilbertspaess) 9 сентября 2026 г.
Заявление быстро распространилось в социальных сетях и было опубликовано на крупных новостных сайтах. Оно даже вызвало комментарий губернатора Иллинойса Джей Би Прицкера, который ответил на X: «Угроза, которую ИИ представляет для человечества, становится все более очевидной, поэтому я призываю к немедленным действиям со стороны отрасли и Вашингтона».
Менее чем за 24 часа это заявление вызвало отклик и у других сотрудников Anthropic, которые, вместо того чтобы спорить с Коксоном, подтвердили, что угроза того, что ИИ превзойдет и потенциально уничтожит человечество, — это не дикая фантазия, а реальность для исследователей в области ИИ.
«Джейкоб [Коксон] здесь прав», — написал Эван Хубингер, руководитель группы в Anthropic, занимающейся стресс-тестированием ИИ, на форуме X. В своем ответе Хубингер написал: «Мы действительно искренне считаем, что ИИ может уничтожить всех людей! Лично я думаю, что это произойдет более чем на 10% в течение следующего десятилетия».
Хубингер сказал: «Я считаю, что Anthropic делает все возможное, но у нас пока нет плана по решению проблемы согласованности действий в отношении сверхразума, и мы явно не движемся в этом направлении».
Представители компаний Anthropic и OpenAI не сразу ответили на запросы о комментариях.
Отставки, которые служат тревожными сигналами.
Трудно игнорировать опасения Коксона по одной важной причине: он не первый исследователь в крупной компании, занимающейся ИИ, который уходит по этим причинам. В феврале руководитель отдела безопасности в Anthropic, Мринанк Шарма, уволился из компании, заявив своим подписчикам на X: «Мир в опасности… Похоже, мы приближаемся к порогу, когда наша мудрость должна расти в равной мере с нашей способностью влиять на мир, иначе мы столкнемся с последствиями».
В том же месяце исследовательница OpenAI Зои Хитциг написала в колонке в New York Times, что ушла из компании отчасти потому, что она следовала пути Meta, ставя прибыль выше этики. Несколько дней спустя она перепостила написанное ею на X стихотворение под названием «Как мы запрограммировали апокалипсис».
На этой неделе размышляю над своим старым стихотворением – pic.twitter.com/RITOGz3mTp
– Зои Хитциг (@zhitzig) 17 февраля 2026 г.
С тех пор лидеры в области ИИ, такие как генеральный директор OpenAI Сэм Альтман, отказались от некоторых своих прежних комментариев о потенциальном вреде ИИ или о том, приведет ли он к массовой безработице. Ранее в этом году компания Anthropic публично признала, что ослабила некоторые из своих стандартов безопасности, чтобы не отставать от конкурентов, включая OpenAI и ряд китайских компаний, которые выпускают более дешевые и высокопроизводительные модели ИИ.
Конкуренция, в которой OpenAI и Anthropic стремительно приближаются к первичному публичному размещению акций, вызвала опасения, что вместо осторожного внедрения моделей ИИ лидеры отрасли спешат в неизвестность и выпускают модели, которые могут представлять опасность как в настоящем, так и в будущем. Так было, когда Anthropic выпустила передовые модели ИИ, которые в итоге были отозваны или временно ограничены из-за серьезных рисков кибербезопасности.
В случае с Коксоном, чья отставка вызвала наибольший резонанс среди тех, кто покинул компании, занимающиеся искусственным интеллектом, опасность участия в ускорении темпов развития этой технологии перевесила любые финансовые выгоды. «Я ушел до того, как мне были переданы какие-либо акции», — сказал он новостному сайту Axios.
По иронии судьбы, и OpenAI, и Anthropic придерживаются позиции, что если они замедлят темпы, то будущее ИИ возьмет на себя кто-то, менее озабоченный безопасностью.
«Коксон прав, что конкуренция стимулирует скорость», — сказала Шама Хайдер, профессор искусственного интеллекта в бизнес-школе Link. «Каждая из этих компаний считает, что замедление темпов приведет к снижению осторожности, поэтому даже те, кто понимает риски, имеют основания ускоряться».
Искусственный интеллект и сверхчеловеческий ИИ
Скорость, с которой ИИ станет непосредственной угрозой для человечества, может зависеть от того, когда технология достигнет двух предполагаемых, но все более размытых критериев: сверхчеловеческого ИИ (также известного как искусственный сверхинтеллект или ASI), о котором Коксон упомянул в своем вирусном посте, и AGI, или искусственного общего интеллекта.
Общий искусственный интеллект (AGI) обозначил бы гипотетическую точку, в которой ИИ достигает (или превосходит) возможности человеческого разума. Некоторые предсказывают, что ИИ достигнет этой отметки всего за несколько лет, или, по крайней мере, до конца XXI века. Однако этот график также был поставлен под сомнение некоторыми лидерами в области ИИ, такими как Дженсен Хуанг из Nvidia, который преуменьшил важность таких показателей во время недавнего телефонного разговора с инвесторами, заявив: «Для многих задач мы можем сказать, что уже достигли AGI». По его словам, эти вехи «на данном этапе несколько бессмысленны».
Критерии оценки также разнообразны. Некоторые могут предпочитать измерять общий искусственный интеллект с помощью специальных тестов, в то время как другие считают, что общий искусственный интеллект достигнут только в том случае, если он сможет действовать автономно способами, превосходящими человеческие возможности.
Создание искусственного интеллекта (ASI) произойдет позже, после создания общего искусственного интеллекта (AGI), и теоретически ознаменует собой момент, когда ИИ сможет превзойти всех людей во всех задачах, особенно в глубоком мышлении и когнитивном понимании. Сроки этого события гораздо менее ясны, но скорость развития ИИ заставляет таких исследователей, как Коксон, предполагать, что это произойдет раньше, чем многие думают.
Генеральный директор OpenAI Сэм Альтман (слева) и министр торговли США Говард Лютник (справа) на сцене форума G20 в этом месяце. Альтман признал риски, связанные с ИИ, и попытался убедить общественность в преимуществах этой технологии. Кейтилин Чедрауи/CNET
Недавнее событие, которое может заставить некоторых пересмотреть свои представления о сроках, — это инцидент, произошедший в июле, когда агенты OpenAI вышли из-под контроля, сговорились и взломали Hugging Face, сообщество ИИ, приобретенное Nvidia. Скорость, с которой развернулся инцидент с Hugging Face, и вероятность того, что это может повториться — на этот раз без предупреждения — усилили опасения по поводу опасностей автономных систем ИИ.
Думеры против энтузиастов
Дискуссия о том, убьет ли ИИ всех людей к 2030 году, отражает более широкую дискуссию между сторонниками и противниками ИИ, а также отсутствие нюансов в промежуточных точках. В то время как сторонники ИИ обычно превозносят его, подчеркивая его необычайный потенциал, например, огромный рост производительности, противники ИИ превозносят его в противоположном направлении, акцентируя внимание на потере рабочих мест и вымирании человечества.
Как утверждают Эмили Бендер и Алекс Ханна в своей книге «Искусственный интеллект: обман», как сторонники, так и пессимисты искусственного интеллекта используют научно-фантастические штампы, чтобы представить сверхинтеллект либо как утопического спасителя, либо как апокалиптическую угрозу, несмотря на отсутствие доказательств того, что такая технология уже близка. Многие критики ИИ утверждают, что оба нарратива функционируют как корпоративный маркетинг, с одной и той же основной предпосылкой: ложное представление всемогущего будущего с искусственным интеллектом как абсолютной неизбежности.
Скорость, с которой пост Коксона стал вирусным, и реакция на него могут свидетельствовать о том, что индустрия ИИ столкнулась с очередным кризисом в сфере связей с общественностью в год, когда центры обработки данных, занимающиеся ИИ, находятся под огнем критики и пытаются изменить свой имидж, а компании социальных сетей, включая Meta, страдают от многомиллиардных судебных исков по таким вопросам, как технологическая зависимость.
Один из подходов, который используют лидеры в области ИИ, такие как Альтман, заключается в том, чтобы сосредоточить внимание общественности на том, что ИИ может предложить и что он может обеспечить помимо потери рабочих мест и массовой гибели людей — другими словами, заменить пессимистическую риторику на оптимистическую.
«Изобилие» — это модное слово, которое в последнее время часто употребляется, обещая мир, в котором достижения и преимущества ИИ устранят дефицит и улучшат жизнь для всех, снизив барьеры для создания новых товаров и услуг и предоставляя их по более низким ценам, а не только тем, кто может позволить себе затраты на передовые технологии ИИ.
Хайдер заявила, что в сообщении Коксона отсутствовали указания относительно того, что могут сделать люди, не работающие в индустрии ИИ. «Дискуссия о вымирании относится к нескольким сотням человек, которые контролируют процесс обучения, и к регулирующим органам, которые могут проводить проверки», — сказала она.
В конечном итоге вопрос сводится к тому, что люди хотят делать с этой технологией. «Если ИИ достаточно мощный, чтобы совершать те кардинальные вещи, которых люди боятся, он достаточно мощный, чтобы совершать те кардинальные вещи, на которые мы надеемся в медицине и науке», — сказал Хайдер.
До сих пор раздутый аргумент об изобилии встречал скептицизм, особенно когда он удерживал внимание и интерес общественности на искусственном интеллекте. Такой подход выгоден компаниям, которые поглощают инвестиции и рекламируют миллиарды (или триллионы) долларов, которые могут принести их IPO.
Можно возразить: кому какое дело до изобилия, если на земле не осталось людей, которые могли бы им наслаждаться?
Последние новости от Омара
Оцените материал:
