Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия. То, что еще недавно казалось академической спекуляцией, сегодня обсуждается как реальный экзистенциальный риск.
Гость выпуска — Роман Ямпольский, исследователь, который одним из первых ввел понятие AI safety и начал говорить о проблеме неконтролируемого суперинтеллекта задолго до массового интереса к ИИ.
В новом эпизоде подкаста «Мыслить как ученый» основатель ПостНауки Ивар Максутов с гостем обсуждают, почему научное сообщество долго относилось к ИИ скептически, как изменились прогнозы по достижению AGI, и почему сегодня эксперты все чаще говорят не о пользе, а о выживании.
Возможен ли контроль над системой, превосходящей человека? Почему оптимизм и пессимизм в AI-сообществе радикально расходятся? И что означает рост разрыва между человеческим и машинным интеллектом?
Этот эпизод — попытка трезво поговорить о будущем, в котором интеллект перестает быть исключительно человеческим свойством, а технологический прогресс становится источником не только возможностей, но и угроз.
Роман Ямпольский — доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля (University of Louisville), США. Кандидат наук в области компьютерной инженерии, один из первых и наиболее авторитетных исследователей проблемы безопасности искусственного интеллекта. Ямпольский входит в 2% наиболее цитируемых исследователей мира по данным Scopus. Автор книги ИИ: Необъяснимый, Непредсказуемый, Неконтролируемый
https://www.ozon.ru/product/iskusstvennyy-intellekt-neobyasnimyy-nepredskazuemyy-nekontroliruemyy-yampolskiy-roman-vladimirovich-2576488181/
00:00 Искусственный интеллект и его возможности
05:58 Эволюция искусственного интеллекта
11:54 Будущее искусственного интеллекта и AGI
16:49 Человеческие эмоции и катастрофические события
20:32 Контроль над суперинтеллектом
27:14 Риски суперинтеллекта
30:54 Проблемы человеческой цивилизации и культуры
42:54 Определение границ AGI и HGI
49:20 Проблема определения интеллекта
51:49 Антропоморфизация и природа ИИ
53:39 Инвестирование в ИИ и его риски
56:35 Технологический прогресс и его последствия
59:59 Опасности неконтролируемых технологий
01:02:51 Роль человека в эволюции ИИ
01:06:01 Субъектность ИИ и свобода воли
01:14:32 Контроль над суперинтеллектом
01:26:37 Проблемы безопасности и неопределенности в AI
01:30:00 Безработица и будущее труда в эпоху AI
01:41:09 Роль человека в медицине и интеллектуальном труде
01:42:17 Будущее профессий в эпоху ИИ
01:46:00 Влияние ИИ на образование и карьеру
01:49:56 Структура компаний и роль ИИ
01:52:47 Оптимизм и пессимизм в отношении ИИ
01:54:41 Рекомендации и заключение
Подкаст «Мыслить как ученый» на других площадках: https://postnauka.org/link/hipolink
ПостНаука — образовательная платформа для тех, кто считает научное мышление главным инструментом познания себя и мира. Узнать подробнее: https://postnauka.org/link/main_vk
Курсы от создателей ПостНауки: https://postnauka.org/link/academy_vk
Поддержать ПостНауку: https://postnauka.org/link/donate_vk
Следить за новостями в Telegram: https://postnauka.org/link/telegram
По вопросам партнерства: https://postnauka.org/link/letsdance_vk
Источник: postnauka.org
Источник: ai-news.ru
