В условиях нападок администрации Трампа на так называемый «пробужденный» ИИ становится еще сложнее сделать используемые нами технологии более справедливыми и разнообразными. Как сообщает Кэтрин де Ланге , ведущие деятели высказывают свою точку зрения.
Слева направо: Рэйчел Колдикатт, Дэвид Лесли, Румман Чоудхури, Нура Аль Мубайед и Венди Холл. Королевское общество/Дебби Роу
Сегодня второй день конференции «Женщины и будущее науки» в Королевском обществе в Лондоне, но мне становится все труднее сосредоточиться на выступлениях докладчиков, потому что моя программа для транскрипции с использованием ИИ — которая должна была бы облегчить мне жизнь — постоянно ошибочно печатает чьи-то имена. При каждом упоминании Джули она печатает Джулиан. Ирония ситуации не ускользает от меня: это сессия, посвященная искусственному интеллекту, и, в частности, тому, как женщин исключают из новейших технологий ИИ.
Это гораздо шире, чем уже ставшая привычной идея о том, что алгоритмы ИИ несут в себе предвзятость наборов данных, на которых они обучаются, включая гендерную предвзятость.
Вместо этого, основное внимание на конференции, которую возглавляет специалист по информатике Венди Холл, уделяется более фундаментальной проблеме: тому факту, что новые технологии искусственного интеллекта, которые окажут преобразующее воздействие на все общество, разрабатываются почти исключительно мужчинами.
Технологическая отрасль всегда была преимущественно мужской. В Великобритании только 25 процентов изучающих информатику — женщины. Но в последние годы — и на фоне расцвета генеративного искусственного интеллекта — Кремниевая долина стала все более враждебно относиться к женщинам.
«За последние два года произошел регресс», — говорит Дэвид Лесли, руководитель отдела этических исследований и исследований в области ответственных инноваций в Институте Алана Тьюринга. «Вопрос о том, нанесла ли администрация Трампа ущерб женщинам в науке, передающийся из поколения в поколение, неоспорим. Мы живем во времена регрессивного мышления».
В прошлом году президент США Дональд Трамп издал указ, направленный против так называемого «пробужденного» ИИ, и рекомендовал Национальному институту стандартов и технологий США пересмотреть свою систему управления рисками в области ИИ, чтобы «исключить упоминания о дезинформации, разнообразии, равенстве и инклюзивности, а также об изменении климата».
Одна из участниц дискуссии, Румман Чоудхури, специалист по анализу данных и бывший научный представитель США по вопросам искусственного интеллекта, отвечала за этику и подотчетность в Twitter до того, как Илон Маск возглавил компанию и уволил ее команду. Она отмечает, что концепция «пробужденного» ИИ зародилась из женоненавистнических настроений в Силиконовой долине еще до указа Трампа.
На вопрос Холла о том, как выглядит ИИ без участия женщин, несколько участников дискуссии ответили, что мы уже достигли этого уровня. «Я работаю в сфере передового ИИ, и это мир ИИ без участия женщин», — говорит Чоудхури. Это мнение разделяет и Рэйчел Колдикатт, которая исследует социальные последствия новых и развивающихся технологий. «Если мы подумаем о том, как выглядит мир без женщин в ИИ, я думаю, что сейчас мы имеем именно это. Это вовсе не фантазия».
Само собой разумеется: это важно. Разработка технологий, учитывающих особенности мужского организма и потребности, имеет долгую историю: от манекенов для краш-тестов до офисных кондиционеров, скафандров для космонавтов и подавляющего большинства медицинских исследований. Это явление известно как гендерный разрыв в данных, и его последствия могут варьироваться от неприятных до угрожающих жизни.
Искусственный интеллект повлияет на всё: от профессии до способов обучения детей и лечения болезней. Но в настоящее время, как отмечает Чоудхури, только 2% венчурного капитала направляется женщинам. Между тем, менее 1% исследований и инноваций в сфере здравоохранения направлены на борьбу с женским здоровьем. «Нам нужно, чтобы технологии работали на благо 8 миллиардов человек, а не восьми миллиардеров», — говорит Колдикатт.
Что же делать? Учитывая сотни лет предвзятых данных, заложенных в современные модели ИИ, Колдикутт считает, что исправить их будет невозможно. «Нам нужны альтернативные модели», — говорит она. Это также шанс изменить фокус этих моделей. «Речь идет о создании моделей… которые ставят во главу угла заботу о людях и о планете».
Чоудхури, соучредительница некоммерческой организации Humane Intelligence, которая помогает компаниям сделать системы искусственного интеллекта более подотчетными и справедливыми, считает, что отчасти проблема заключается в том, что многие из нынешних разработок в области ИИ построены на ложном чувстве срочности, с акцентом на экзистенциальный риск, который ИИ представляет для рабочих мест или даже для человечества. Если речь идет о том, что ваш дом горит, «вы же не спросите: „Что случилось с украшениями моей матери?“», — говорит она. Если люди чувствуют, что у них нет времени, они откажутся от всего, что кажется им лишним, включая разнообразие, добавляет она.
Что касается следующего поколения, то, по словам Лесли, нам необходимо пересмотреть экономические и политические рамки, в которых разрабатывается ИИ, если мы хотим побудить молодых людей создавать ИИ на благо общества: «Нам нужно начать с основ, начать с преобразования стимулов».
В конечном итоге, нам, возможно, также потребуется переосмыслить само определение интеллекта в контексте ИИ, чтобы включить в него более широкие и разнообразные способы мышления. Большая часть первоначальных идей об ИИ, включая то, как его определить, зародилась на влиятельной встрече в 1950-х годах в Дартмутском колледже в Нью-Гэмпшире. «Это определение интеллекта появилось на Дартмутской конференции, — говорит Холл. — Которая, кстати, состояла исключительно из мужчин».
Источник: www.newscientist.com
