В мире, всё больше зависящем от алгоритмов, прозвучало самое мрачное на сегодняшний день предупреждение. Роман Ямпольский, известный специалист по безопасности искусственного интеллекта из Университета Луисвилля, заявил в недавнем интервью, что вероятность уничтожения человеческой цивилизации сверхразумным ИИ в течение следующего столетия составляет 99,9%.
тестовый баннер под заглавное изображение
Этот шокирующий прогноз, озвученный в подкасте Лекса Фридмана, вновь разжёг ожесточённые дебаты о будущем, которое мы создаём.
Ямпольский, чьи исследования сфокусированы на кибербезопасности и неконтролируемом развитии ИИ, не оставляет места для оптимизма. «Ни одна из созданных нами систем не была безупречной, — заявил эксперт. — У нас нет оснований полагать, что мы сможем создать ИИ, который будет и мощным, и абсолютно безопасным, и сохранит контроль в наших руках». Его пессимизм подкреплён аргументами из собственной книги, где он подробно разбирает фундаментальные проблемы, такие как «чёрный ящик» алгоритмов и невозможность гарантировать их долгосрочную управляемость.
Однако апокалиптический сценарий Ямпольского — далеко не всеобщая точка зрения в научном сообществе. Крупное исследование, проведённое Оксфордским и Боннским университетами с участием более 2700 экспертов, показало иную картину. Учёные оценили среднюю вероятность катастрофического исхода, вызванного ИИ, лишь в 5%. «Среди экспертов по ИИ осознание рисков — это мейнстрим, — комментирует соавтор исследования Катя Грейс. — Но разногласия заключаются в масштабе: идёт речь о риске в 1% или в 20%, но не в 99,9%».
Лагерь скептиков возглавляют такие авторитетные фигуры, как сооснователь Google Эндрю Брэйн и один из «крестных отцов» глубокого обучения Янн ЛеКун. Последний и вовсе обвиняет некоторых коллег, включая CEO OpenAI Сэма Олтмана, в нагнетании истерии вокруг «судного дня» в корыстных целях — например, для ужесточения регуляции рынка в пользу крупных игроков.
Интересно, что сам Олтман неоднократно делал тревожные заявления. В 2015 году он допускал, что «ИИ, скорее всего, приведёт к концу света», хотя и с ироничной оговоркой про «отличные компании» на пути к нему. В этом году он призвал к пересмотру «общественного договора» в эпоху повсеместной автоматизации, предрекая исчезновение целых профессий. Эти слова, хоть и далёкие от фатализма Ямпольского, рисуют картину глубокого социального потрясения.
Таким образом, научное сообщество расколото не на тех, кто видит риски, и тех, кто их отрицает, а на тех, кто считает катастрофу почти неизбежной, и тех, кто видит в ней лишь один из вероятных — и предотвратимых — сценариев. Пока одни, подобно Ямпольскому, призывают к крайней осторожности, другие напоминают, что главная угроза ИИ может заключаться не в голливудском восстании машин, а в более приземлённых проблемах: тотальной слежке, дестабилизации рынка труда и колоссальном потреблении энергоресурсов, что уже становится реальностью.
Источник: www.mk.ru
