Ключевой человеческий фактор в вычислительной технике и искусственном интеллекте.

Симпозиум по этике вычислительных исследований в Массачусетском технологическом институте (MIT) собрал экспертов и исследователей, работающих в области этического и социального воздействия технологий. На панельной дискуссии, посвященной вопросам согласования действий в области ИИ, собралась междисциплинарная группа докладчиков из MIT, Google DeepMind и OpenAI. Фото: Джиин Кан. Ученые SERC продемонстрировали свою работу во время дневной стендовой сессии. Фото: Цзинь Кан Главный докладчик, Джон Кляйнберг, профессор компьютерных и информационных наук имени Тиша в Корнельском университете, обсуждает проблемы, возникающие при передаче информации от алгоритма к человеку. Фото: Джиин Кан.

30 апреля в рамках инициативы «Социальная и этическая ответственность в вычислительной технике» (SERC) при Шварцманском колледже вычислительной техники Массачусетского технологического института состоялся однодневный исследовательский симпозиум, посвященный тому, как искусственный интеллект формирует мир и каковы его последствия для общества.

В рамках симпозиума состоялись доклады об исследованиях, представленные последними получателями грантов SERC, по таким темам, как прогнозирование загрязнения воздуха и ответственное внедрение компьютерного зрения, панельные дискуссии по вопросам согласования ИИ и ИИ в образовании, а также основная речь Джона Кляйнберга, доктора философии (выпуск 1996 года), профессора компьютерных и информационных наук имени Тиша в Корнельском университете. Также была организована постерная сессия, где студенты-исследователи представили проекты, над которыми они работали в течение года в качестве стипендиатов SERC.

«В Массачусетском технологическом институте проводится огромное количество потрясающих исследований о том, как искусственный интеллект и вычислительная техника могут стать силой добра, приносящей пользу человечеству. Было очень вдохновляюще видеть такой большой интерес со стороны научного сообщества ко всей этой передовой работе», — сказал Брайан Хедден, со-заместитель декана SERC и профессор философии, занимающий должность в Колледже вычислительной техники им. Шварцмана при Массачусетском технологическом институте, совмещенную с кафедрой электротехники и компьютерных наук (EECS).

«Поскольку вычислительная техника и искусственный интеллект все больше внедряются практически во все сферы общества, миссия SERC заключается в том, чтобы способствовать одновременному развитию этических принципов и технического прогресса», — сказал Никос Тричакис, со-заместитель декана SERC и профессор менеджмента имени Дж. К. Пенни. «Симпозиум этого года подчеркивает необычайный масштаб работы, проводимой в MIT, и создает форум для глубокого обсуждения в нашем сообществе ответственности, которая сопутствует формированию будущего вычислительной техники».

Согласование ИИ с человеческими ценностями — и какими именно ценностями они могут быть.

Проблемы, связанные с согласованием ИИ и моральным единством, кроются в этических вопросах о том, как привить «человеческие ценности» такой мощной и быстро меняющейся технологии. Кто принимает решение о том, какие ценности и рациональные принципы должны быть включены в этические рамки? Как учесть искажения при переносе этих ценностей от пользователя к машине?

Эти и другие вопросы были заданы Диланом Хадфилд-Менеллом, доцентом кафедры электротехники и информатики, во время панельной дискуссии, которую он модерировал и которая собрала междисциплинарную группу докладчиков.

Иасон Габриэль, философ и научный сотрудник Google DeepMind, привёл пример судьи, чтобы проиллюстрировать свою точку зрения. «Вы хотите, чтобы судья обладал хорошим характером, но при этом умел интерпретировать правила. Разумный человек, хотя и не обязательно лучший из всех, кто когда-либо жил. Когда речь идёт об ИИ, нецелесообразно моделировать его как идеального. ИИ должен делать то, что мы ему говорим, используя при этом свои личностные качества для интерпретации в соответствии с нашими моральными ценностями».

Бейли Фланиган, доцент кафедры политологии, работающая по совместительству в Шварцманском колледже вычислительной техники Массачусетского технологического института на факультете электротехники и информатики, пошла еще дальше. По ее мнению, наиболее важная проблема в вопросе согласования ИИ заключается в «решении фундаментальных вопросов о том, кто вообще имеет право управлять различными типами систем ИИ».

К Фланигану в дискуссии присоединился Бернардо Закка, доцент кафедры политологии. Учитывая стремительное развитие ИИ и сложные институциональные структуры, Закка отметил: «Одна из самых насущных проблем — это понимание мудрости, заложенной в системах, которые мы заменяем, и того, почему они функционируют именно так».

По мере усиления давления, связанного с внедрением, часто возникает ощущение, что люди строят самолет прямо во время полета, хотя в целом участники дискуссии выразили оптимизм по поводу траектории развития ИИ, подчеркнув, насколько важен человеческий фактор в формировании этих систем.

Разгрузка против подъема

Поскольку студенты всех уровней образования начинают использовать ИИ, возникают вопросы о том, можно ли этично интегрировать инструменты ИИ, сохраняя при этом академическую точность и строгость. На панельной дискуссии об ИИ и образовании преподаватели Массачусетского технологического института и Марта Макалистер, директор Gemini for Education, рассмотрели, как ИИ уже используется в их классах, и обсудили способы его поддержки в процессе обучения, оставаясь при этом в соответствии с учебными и методическими целями.

Профессора Эрик Клопфер и Сэмюэл Мэдден, сопредседатели Специального комитета Массачусетского технологического института по использованию ИИ в преподавании, обучении и подготовке научных кадров, сосредоточились на центральной дилемме: используется ли ИИ для облегчения работы, а не для помощи в усвоении изучаемых концепций.

Мэдден, заведующий кафедрой компьютерных наук в EECS и заслуженный профессор Колледжа вычислительной техники MIT, описал процесс когнитивной борьбы, при котором обучение происходит через серию проб и ошибок. Он сказал: «Сейчас, когда студенты сталкиваются с этим препятствием, их первый инстинкт — обратиться к ИИ. Они не видят в этом успеха и на самом деле не приобрели навык, который вы оцениваете». Тогда возникает вопрос, как преподаватели поддерживают процесс когнитивной борьбы, чтобы он представлял собой достаточный вызов для противодействия желанию использовать ИИ.

Клопфер, директор программы подготовки учителей Шеллерского колледжа и образовательного центра Education Arcade в Массачусетском технологическом институте, выразил схожие соображения, отметив, что критическое мышление больше не является важнейшим этапом в процессе обучения. Что касается того, с чего начать, чтобы материал оставался достаточно сложным, Клопфер предложил рассмотреть учебную программу в целом. «Некоторые основные разделы должны быть исключены. Мы постоянно добавляем новые материалы, вместо того чтобы их анализировать или сокращать», — сказал он.

Модератор Джастин Райх, директор Лаборатории систем обучения и доцент программы сравнительных исследований СМИ/письменного творчества, отметил, что, хотя подростки знают, что ИИ — это плохо, это не обязательно прекращает его использование. Однако, вовлекая их в дискуссию о том, как внедряется ИИ, и обеспечивая более конструктивный обмен мнениями с преподавателями, студенты могли бы лучше понимать, как и почему они используют эти инструменты.

Тем не менее, инструменты ИИ и их внедрение не следует рассматривать как универсальную политику. Пэт Патаранутапорн, профессор медиаискусства и науки в Asahi Broadcasting Corporation и руководитель исследовательской группы киберпсихологии в MIT Media Lab, сказала: «ИИ — это не что-то одно. Его можно и нужно проектировать по-разному, чтобы способствовать развитию таких качеств, как креативность и критическое мышление. То, что мы измеряем и как, не должно сводиться к получению правильного ответа. Мы должны думать о том, что это действительно значит для обучения студента в наши дни».

Насколько имитация человеческого мышления эффективна по сравнению с реальным?

В своей программной речи под названием «Модели мира, созданные ИИ, и наши собственные», Кляйнберг, используя слайды с цитатами шахматных гроссмейстеров и отсылками к фильмам, проанализировал случаи, когда системы ИИ непреднамеренно обрекали нас на неудачу из-за несоответствия между моделью мира, созданной системой, и нашей собственной.

Чтобы проиллюстрировать этот момент, Кляйнберг использовал шахматы, где современные шахматные движки могут соревноваться на сверхчеловеческом уровне, но в паре с людьми их стратегии непонятны и не поддаются выводу. Такая передача управления от человека к человеку приводит к путанице. Кляйнберг привёл в пример «Братство кольца», где Гэндальф, могущественный волшебник, поручает крайне опасное и важное задание разношерстной группе искателей приключений. Для тех, кто знаком с этой историей, группа неожиданно остаётся без руководства Гэндальфа, что приводит к временному периоду очень серьёзных потрясений.

Когда шахматный движок передает ход своему партнеру-человеку, человеку трудно уловить предсказуемую схему ходов, которой движок следовал до этого момента. «Опасность команд «человек-алгоритм» заключается в том, что когда человек берет ход, алгоритм знает, что он хочет сделать дальше, а человек — нет», — объяснил Кляйнберг.

Эти аналогии демонстрируют различия в способах понимания мира искусственным интеллектом — посредством прогнозного моделирования, распознавания образов и ограничений — для имитации человеческого мышления по сравнению с врожденными, воплощенными знаниями, которые приходят с человеческим опытом, и действительно ли эти системы понимают миры, в которых они работают. Но остается вопрос: если игра все равно заканчивается матом, имеет ли это значение?

Источник: news.mit.edu