Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия

Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия. То, что еще недавно казалось академической спекуляцией, сегодня обсуждается как реальный экзистенциальный риск.

Гость выпуска — Роман Ямпольский, исследователь, который одним из первых ввел понятие AI safety и начал говорить о проблеме неконтролируемого суперинтеллекта задолго до массового интереса к ИИ.

В новом эпизоде подкаста «Мыслить как ученый» основатель ПостНауки Ивар Максутов с гостем обсуждают, почему научное сообщество долго относилось к ИИ скептически, как изменились прогнозы по достижению AGI, и почему сегодня эксперты все чаще говорят не о пользе, а о выживании.

Возможен ли контроль над системой, превосходящей человека? Почему оптимизм и пессимизм в AI-сообществе радикально расходятся? И что означает рост разрыва между человеческим и машинным интеллектом?

Этот эпизод — попытка трезво поговорить о будущем, в котором интеллект перестает быть исключительно человеческим свойством, а технологический прогресс становится источником не только возможностей, но и угроз.

Роман Ямпольский — доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля (University of Louisville), США. Кандидат наук в области компьютерной инженерии, один из первых и наиболее авторитетных исследователей проблемы безопасности искусственного интеллекта. Ямпольский входит в 2% наиболее цитируемых исследователей мира по данным Scopus. Автор книги ИИ: Необъяснимый, Непредсказуемый, Неконтролируемый

https://www.ozon.ru/product/iskusstvennyy-intellekt-neobyasnimyy-nepredskazuemyy-nekontroliruemyy-yampolskiy-roman-vladimirovich-2576488181/

00:00 Искусственный интеллект и его возможности

05:58 Эволюция искусственного интеллекта

11:54 Будущее искусственного интеллекта и AGI

16:49 Человеческие эмоции и катастрофические события

20:32 Контроль над суперинтеллектом

27:14 Риски суперинтеллекта

30:54 Проблемы человеческой цивилизации и культуры

42:54 Определение границ AGI и HGI

49:20 Проблема определения интеллекта

51:49 Антропоморфизация и природа ИИ

53:39 Инвестирование в ИИ и его риски

56:35 Технологический прогресс и его последствия

59:59 Опасности неконтролируемых технологий

01:02:51 Роль человека в эволюции ИИ

01:06:01 Субъектность ИИ и свобода воли

01:14:32 Контроль над суперинтеллектом

01:26:37 Проблемы безопасности и неопределенности в AI

01:30:00 Безработица и будущее труда в эпоху AI

01:41:09 Роль человека в медицине и интеллектуальном труде

01:42:17 Будущее профессий в эпоху ИИ

01:46:00 Влияние ИИ на образование и карьеру

01:49:56 Структура компаний и роль ИИ

01:52:47 Оптимизм и пессимизм в отношении ИИ

01:54:41 Рекомендации и заключение

Подкаст «Мыслить как ученый» на других площадках: https://postnauka.org/link/hipolink

ПостНаука — образовательная платформа для тех, кто считает научное мышление главным инструментом познания себя и мира. Узнать подробнее: https://postnauka.org/link/main_vk

Курсы от создателей ПостНауки: https://postnauka.org/link/academy_vk

Поддержать ПостНауку: https://postnauka.org/link/donate_vk

Следить за новостями в Telegram: https://postnauka.org/link/telegram

По вопросам партнерства: https://postnauka.org/link/letsdance_vk

Источник: postnauka.org

Источник: ai-news.ru