По мере развития технологий искусственного интеллекта новый междисциплинарный курс призван дать студентам базовые навыки критического мышления в области вычислительной техники. 
Сопреподаватель Лесли Келблинг, профессор компьютерных наук и инженерии имени Панасоника, помогает студентам изучить глубокую взаимосвязь между информатикой и философией. Фото: Хэнли Валентин. 
Брайан Хедден, профессор кафедры лингвистики и философии, занимающий должность, совмещенную с кафедрой электротехники и информатики в Шварцманском колледже Массачусетского технологического института, ведет этот курс совместно с Кельблингом. Фото: Хэнли Валентин
В какой степени искусственная система может быть рациональной?
Новый курс MIT, 6.S044/24.S00 (Искусственный интеллект и рациональность), не ставит целью ответить на этот вопрос. Вместо этого он предлагает студентам исследовать эту и другие философские проблемы через призму исследований в области искусственного интеллекта. Для следующего поколения ученых концепции рациональности и субъектности могут оказаться неотъемлемой частью процесса принятия решений в ИИ, особенно с учетом того, как люди понимают свои собственные когнитивные ограничения и свои ограниченные, субъективные представления о том, что является рациональным, а что нет.
Данное исследование коренится в глубокой взаимосвязи между информатикой и философией, которые издавна сотрудничали в формализации того, что значит формировать рациональные убеждения, учиться на опыте и принимать рациональные решения в стремлении к достижению своих целей.
«Можно было бы предположить, что информатика и философия довольно далеки друг от друга, но они всегда пересекались. Технические аспекты философии действительно пересекаются с искусственным интеллектом, особенно с ранним ИИ», — говорит преподаватель курса Лесли Келблинг, профессор компьютерных наук и инженерии в Массачусетском технологическом институте, вспоминая Алана Тьюринга, который был одновременно и ученым-компьютерщиком, и философом. Сама Келблинг имеет степень бакалавра философии Стэнфордского университета, отмечая, что в то время информатика не была доступна в качестве специальности.
Брайан Хедден, профессор кафедры лингвистики и философии, занимающий должность, совмещенную с кафедрой электротехники и компьютерных наук (EECS) в Шварцманском колледже вычислительной техники Массачусетского технологического института, и преподающий этот курс вместе с Кельблингом, отмечает, что эти две дисциплины более близки друг к другу, чем можно было бы предположить, добавляя, что «различия заключаются в акцентах и перспективах».
Воспроизвести видео Искусственный интеллект и рациональность
Видео: MIT SHASS
Инструменты для дальнейшего теоретического осмысления
Впервые предложенный осенью 2025 года, курс «Искусственный интеллект и рациональность» был разработан Кельблингом и Хедденом в рамках инициативы «Общая основа для компьютерного образования» (Common Ground for Computing Education), междисциплинарного проекта Колледжа вычислительной техники им. Шварцмана при Массачусетском технологическом институте, который объединяет различные факультеты для разработки и преподавания новых курсов, а также запуска новых программ, сочетающих вычислительную технику с другими дисциплинами.
На курс «Искусственный интеллект и рациональность» зарегистрировано более двух десятков студентов. Это один из двух курсов Common Ground, основанных на философии; второй — 6.C40/24.C40 (Этика вычислительной техники).
В то время как «Этика вычислительной техники» исследует проблемы, связанные с социальными последствиями стремительного развития технологий, «Искусственный интеллект и рациональность» рассматривает спорное определение рациональности, анализируя несколько компонентов: природу рационального поведения, концепцию полностью автономного и интеллектуального агента, а также приписывание убеждений и желаний этим системам.
Поскольку применение ИИ чрезвычайно широко, и каждый вариант использования поднимает разные вопросы, Келблинг и Хедден провели мозговой штурм тем, которые могли бы обеспечить плодотворное обсуждение и взаимодействие между двумя точками зрения: компьютерной наукой и философией.
«Когда я работаю со студентами, изучающими машинное обучение или робототехнику, важно, чтобы они немного отступили назад и проанализировали свои предположения», — говорит Келблинг. «Размышление с философской точки зрения помогает людям лучше понять, как поместить свою работу в реальный контекст».
Оба преподавателя подчеркивают, что этот курс не дает конкретных ответов на вопросы о том, что значит сконструировать рационального агента.
Хедден говорит: «Я рассматриваю этот курс как заложение основ. Мы не даем им свод доктрин для изучения, запоминания и последующего применения. Мы оснащаем их инструментами, позволяющими критически мыслить, когда они начнут свою карьеру в выбранной ими сфере, будь то исследования, промышленность или государственная служба».
Стремительный прогресс в области искусственного интеллекта также ставит перед академической средой ряд новых задач. Предсказать, что студентам может понадобиться знать через пять лет, Келблинг считает невыполнимой задачей. «Нам нужно дать им инструменты более высокого уровня — образ мышления, способы мышления — которые помогут им подойти к тому, что мы сейчас действительно не можем предвидеть», — говорит она.
Сочетание различных дисциплин и переосмысление устоявшихся представлений.
На данный момент в этом курсе участвуют студенты из самых разных дисциплин — от тех, кто прочно обосновался в сфере информатики, до тех, кто заинтересован в изучении того, как искусственный интеллект пересекается с их собственными областями исследований.
В течение семестра, в ходе чтения и обсуждений, студенты разбирались с различными определениями рациональности и тем, как они противостоят устоявшимся представлениям в своих областях.
Рассказывая о том, что ее удивило на этом курсе, Аманда Паредес Риобоо, студентка старшего курса факультета электротехники и информатики, говорит: «Нас учили, что математика и логика — это некий золотой стандарт или истина. Этот курс показал нам множество примеров того, как люди действуют вопреки этим математическим и логическим рамкам. Мы открыли целый ящик Пандоры: иррациональны ли люди? Иррациональны ли разработанные нами системы машинного обучения? Или дело в самой математике и логике?»
Джуниор Окороафор, аспирант кафедры нейробиологии и когнитивных наук, высоко оценил сложности, которые представляли собой занятия, и то, как определение рационального агента может меняться в зависимости от дисциплины. «Представление того, что каждая область понимает под рациональностью, в формальной структуре позволяет четко определить, какие предположения являются общими, а какие — различными в разных областях».
Как и во всех проектах Common Ground, совместная работа преподавателей и сотрудничество в рамках курса дали студентам и преподавателям возможность услышать разные точки зрения в режиме реального времени.
Для Паредес Риобоо это уже третий курс Common Ground. Она говорит: «Мне очень нравится междисциплинарный аспект. Мне всегда казалось, что это удачное сочетание теории и практики, поскольку курсы затрагивают разные области знаний».
По словам Окороафора, Келблинг и Хедден продемонстрировали очевидную синергию между своими областями знаний, отметив, что у них было ощущение, будто они участвуют в процессе обучения вместе с группой. Понимание того, как информатика и философия могут взаимно обогащать друг друга, позволило ему осознать их общность и получить бесценные взгляды на пересекающиеся проблемы.
Он добавляет: «Философия тоже умеет удивлять».
Источник: news.mit.edu
