Заявление знаменитостей и ученых: запретить сверхразумный ИИ

Ускоряющие разработку ИИ технологические компании игнорируют общественные опасения

Более 800 мировых знаменитостей, ученых и общественных деятелей подписали заявление с призывом запретить разработку сверхразумного искусственного интеллекта, предупреждая, что неконтролируемое развитие этой технологии может создать экзистенциальную угрозу для человечества.

тестовый баннер под заглавное изображение

Сотни влиятельных персон мирового масштаба, включая нобелевских лауреатов, бывших военачальников, представителей искусств и бывших членов британской королевской семьи, подписали коллективное заявление с требованием запретить исследования, способные привести к созданию компьютерного суперинтеллекта — пока недостигнутой стадии искусственного интеллекта, которая, по их мнению, в будущем может представлять экзистенциальную угрозу для человечества.

Среди подписантов документа значатся такие фигуры, как исследователь ИИ и нобелевский лауреат Джеффри Хинтон, экс-председатель Объединенного комитета начальников штабов США Майк Маллен, рэпер Will.i.am, бывший советник Трампа Стив Бэннон, а также принц Гарри и Меган Маркл. В заявлении, инициированном Институтом будущего жизни, содержится призыв к запрету разработки сверхразума до достижения широкого научного консенсуса о его безопасности и появления общественной поддержки, что дополнительно усиливает растущую глобальную дискуссию о необходимости замедления темпов развития ИИ на фоне активных инвестиций технологических гигантов в эту сферу.

Организованное исследователями ИИ, обеспокоенными стремительным технологическим прогрессом, заявление собрало более 800 подписей от представителей самых разных профессиональных сообществ и идеологий, что подчеркивает универсальный характер опасений. Институт будущего жизни, некоммерческая группа, фокусирующаяся на глобальных рисках — от ядерного оружия до биотехнологий, — первоначально получила поддержку от Илона Маска в 2015 году. Исполнительный директор института Энтони Агирре отметил, что развитие ИИ опережает способность общества осмыслить его последствия, и подчеркнул, что путь технологического прогресса был выбран узким кругом компаний и основателей без учета общественного мнения. По его словам, открытые дискуссии о том, желательно ли замещение человеческих возможностей системами ИИ, стали реже, создавая иллюзию неизбежности, хотя в реальности человечество обладает выбором в проектировании технологий.

Заявление не нацелено на конкретные организации или правительства, но Агирре выразил надежду на вовлечение в диалог не только ведущих компаний в области ИИ, но и политиков США, Китая и других стран. Он предположил, что в конечном счете может потребоваться международный договор по передовому ИИ, аналогичный соглашениям по другим опасным технологиям, поскольку, по его мнению, общественность не поддерживает текущую гонку вооружений в этой сфере. Опрос, проведенный в 2025 году, показал почти равное разделение мнений американцев о влиянии ИИ: 44 процента респондентов ожидают улучшения жизни благодаря технологии, тогда как 42 процента предсказывают ухудшение.

Примечательно, что топ-менеджеры технологических компаний, публично заявлявшие о работе над сверхинтеллектом, не присоединились к инициативе. Марк Цукерберг в июле заявил, что сверхинтеллект «уже виден», Илон Маск в феврале писал о появлении цифрового сверхразума в реальном времени, а глава OpenAI Сэм Альтман прогнозирует рождение суперинтеллекта к 2030 году. Ранее Институт будущего жизни сообщил о получении судебной повестки, связанная с подозрениями в источниках финансирования критикующих его некоммерческих групп. Агирре подчеркнул, что цель инициативы — продемонстрировать, что вопросы контроля над ИИ выходят за рамки узкого круга специалистов Кремниевой долины и касаются всего человечества, создавая социальное разрешение для широкой публичной дискуссии.

Источник: www.mk.ru