Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия
Искусственный интеллект развивается быстрее, чем общество успевает осмыслить последствия. То, что еще недавно казалось академической спекуляцией, сегодня обсуждается как реальный экзистенциальный риск.
Гость выпуска — Роман Ямпольский, исследователь, который одним из первых ввел понятие AI safety и начал говорить о проблеме неконтролируемого суперинтеллекта задолго до массового интереса к ИИ.
В новом эпизоде подкаста «Мыслить как ученый» основатель ПостНауки Ивар Максутов с гостем обсуждают, почему научное сообщество долго относилось к ИИ скептически, как изменились прогнозы по достижению AGI, и почему сегодня эксперты все чаще говорят не о пользе, а о выживании.
Возможен ли контроль над системой, превосходящей человека? Почему оптимизм и пессимизм в AI-сообществе радикально расходятся? И что означает рост разрыва между человеческим и машинным интеллектом?
Этот эпизод — попытка трезво поговорить о будущем, в котором интеллект перестает быть исключительно человеческим свойством, а технологический прогресс становится источником не только возможностей, но и угроз.
Роман Ямпольский — доцент кафедры компьютерной инженерии и информатики в Университете Луисвилля (University of Louisville), США. Кандидат наук в области компьютерной инженерии, один из первых и наиболее авторитетных исследователей проблемы безопасности искусственного интеллекта. Ямпольский входит в 2% наиболее цитируемых исследователей мира по данным Scopus. Автор книги ИИ: Необъяснимый, Непредсказуемый, Неконтролируемый
https://www.ozon.ru/product/iskusstvennyy-intellekt-neobyasnimyy-nepredskazuemyy-nekontroliruemyy-yampolskiy-roman-vladimirovich-2576488181/
00:00 Искусственный интеллект и его возможности
05:58 Эволюция искусственного интеллекта
11:54 Будущее искусственного интеллекта и AGI
16:49 Человеческие эмоции и катастрофические события
20:32 Контроль над суперинтеллектом
27:14 Риски суперинтеллекта
30:54 Проблемы человеческой цивилизации и культуры
42:54 Определение границ AGI и HGI
49:20 Проблема определения интеллекта
51:49 Антропоморфизация и природа ИИ
53:39 Инвестирование в ИИ и его риски
56:35 Технологический прогресс и его последствия
59:59 Опасности неконтролируемых технологий
01:02:51 Роль человека в эволюции ИИ
01:06:01 Субъектность ИИ и свобода воли
01:14:32 Контроль над суперинтеллектом
01:26:37 Проблемы безопасности и неопределенности в AI
01:30:00 Безработица и будущее труда в эпоху AI
01:41:09 Роль человека в медицине и интеллектуальном труде
01:42:17 Будущее профессий в эпоху ИИ
01:46:00 Влияние ИИ на образование и карьеру
01:49:56 Структура компаний и роль ИИ
01:52:47 Оптимизм и пессимизм в отношении ИИ
01:54:41 Рекомендации и заключение
Подкаст «Мыслить как ученый» на других площадках: https://postnauka.org/link/hipolink
ПостНаука — образовательная платформа для тех, кто считает научное мышление главным инструментом познания себя и мира. Узнать подробнее: https://postnauka.org/link/main_vk
Курсы от создателей ПостНауки: https://postnauka.org/link/academy_vk
Поддержать ПостНауку: https://postnauka.org/link/donate_vk
Следить за новостями в Telegram: https://postnauka.org/link/telegram
По вопросам партнерства: https://postnauka.org/link/letsdance_vk
Источник: postnauka.org
Источник: ai-news.ru