Искусственный интеллект почти исключительно разрабатывается мужчинами – вот как это исправить.

В условиях нападок администрации Трампа на так называемый «пробужденный» ИИ становится еще сложнее сделать используемые нами технологии более справедливыми и разнообразными. Как сообщает Кэтрин де Ланге , ведущие деятели высказывают свою точку зрения.

Сегодня второй день конференции «Женщины и будущее науки» в Королевском обществе в Лондоне, но мне становится все труднее сосредоточиться на выступлениях докладчиков, потому что моя программа для транскрипции с использованием ИИ — которая должна была бы облегчить мне жизнь — постоянно ошибочно печатает чьи-то имена. При каждом упоминании Джули она печатает Джулиан. Ирония ситуации не ускользает от меня: это сессия, посвященная искусственному интеллекту, и, в частности, тому, как женщин исключают из новейших технологий ИИ.

Это гораздо шире, чем уже ставшая привычной идея о том, что алгоритмы ИИ несут в себе предвзятость наборов данных, на которых они обучаются, включая гендерную предвзятость.

Вместо этого, основное внимание на конференции, которую возглавляет специалист по информатике Венди Холл, уделяется более фундаментальной проблеме: тому факту, что новые технологии искусственного интеллекта, которые окажут преобразующее воздействие на все общество, разрабатываются почти исключительно мужчинами.

Технологическая отрасль всегда была преимущественно мужской. В Великобритании только 25 процентов изучающих информатику — женщины. Но в последние годы — и на фоне расцвета генеративного искусственного интеллекта — Кремниевая долина стала все более враждебно относиться к женщинам.

«За последние два года произошел регресс», — говорит Дэвид Лесли, руководитель отдела этических исследований и исследований в области ответственных инноваций в Институте Алана Тьюринга. «Вопрос о том, нанесла ли администрация Трампа ущерб женщинам в науке, передающийся из поколения в поколение, неоспорим. Мы живем во времена регрессивного мышления».

В прошлом году президент США Дональд Трамп издал указ, направленный против так называемого «пробужденного» ИИ, и рекомендовал Национальному институту стандартов и технологий США пересмотреть свою систему управления рисками в области ИИ, чтобы «исключить упоминания о дезинформации, разнообразии, равенстве и инклюзивности, а также об изменении климата».

Одна из участниц дискуссии, Румман Чоудхури, специалист по анализу данных и бывший научный представитель США по вопросам искусственного интеллекта, отвечала за этику и подотчетность в Twitter до того, как Илон Маск возглавил компанию и уволил ее команду. Она отмечает, что концепция «пробужденного» ИИ зародилась из женоненавистнических настроений в Силиконовой долине еще до указа Трампа.

На вопрос Холла о том, как выглядит ИИ без участия женщин, несколько участников дискуссии ответили, что мы уже достигли этого уровня. «Я работаю в сфере передового ИИ, и это мир ИИ без участия женщин», — говорит Чоудхури. Это мнение разделяет и Рэйчел Колдикатт, которая исследует социальные последствия новых и развивающихся технологий. «Если мы подумаем о том, как выглядит мир без женщин в ИИ, я думаю, что сейчас мы имеем именно это. Это вовсе не фантазия».

Само собой разумеется: это важно. Разработка технологий, учитывающих особенности мужского организма и потребности, имеет долгую историю: от манекенов для краш-тестов до офисных кондиционеров, скафандров для космонавтов и подавляющего большинства медицинских исследований. Это явление известно как гендерный разрыв в данных, и его последствия могут варьироваться от неприятных до угрожающих жизни.

Искусственный интеллект повлияет на всё: от профессии до способов обучения детей и лечения болезней. Но в настоящее время, как отмечает Чоудхури, только 2% венчурного капитала направляется женщинам. Между тем, менее 1% исследований и инноваций в сфере здравоохранения направлены на борьбу с женским здоровьем. «Нам нужно, чтобы технологии работали на благо 8 миллиардов человек, а не восьми миллиардеров», — говорит Колдикатт.

Что же делать? Учитывая сотни лет предвзятых данных, заложенных в современные модели ИИ, Колдикутт считает, что исправить их будет невозможно. «Нам нужны альтернативные модели», — говорит она. Это также шанс изменить фокус этих моделей. «Речь идет о создании моделей… которые ставят во главу угла заботу о людях и о планете».

Чоудхури, соучредительница некоммерческой организации Humane Intelligence, которая помогает компаниям сделать системы искусственного интеллекта более подотчетными и справедливыми, считает, что отчасти проблема заключается в том, что многие из нынешних разработок в области ИИ построены на ложном чувстве срочности, с акцентом на экзистенциальный риск, который ИИ представляет для рабочих мест или даже для человечества. Если речь идет о том, что ваш дом горит, «вы же не спросите: „Что случилось с украшениями моей матери?“», — говорит она. Если люди чувствуют, что у них нет времени, они откажутся от всего, что кажется им лишним, включая разнообразие, добавляет она.

Что касается следующего поколения, то, по словам Лесли, нам необходимо пересмотреть экономические и политические рамки, в которых разрабатывается ИИ, если мы хотим побудить молодых людей создавать ИИ на благо общества: «Нам нужно начать с основ, начать с преобразования стимулов».

В конечном итоге, нам, возможно, также потребуется переосмыслить само определение интеллекта в контексте ИИ, чтобы включить в него более широкие и разнообразные способы мышления. Большая часть первоначальных идей об ИИ, включая то, как его определить, зародилась на влиятельной встрече в 1950-х годах в Дартмутском колледже в Нью-Гэмпшире. «Это определение интеллекта появилось на Дартмутской конференции, — говорит Холл. — Которая, кстати, состояла исключительно из мужчин».

Источник: www.newscientist.com