ИИ, похоже, загоняет некоторых соискателей в ловушку в подвешенном состоянии, где они никогда не проходят собеседование по «совершенно несправедливым причинам»

Для работников, уже вовлеченных в рабочую силу США, ИИ сродни далекому астероиду, надвигающейся угрозе, которая может повлиять на всю жизнь на Земле. Наши лучшие эксперты не могут договориться о его траектории или даже расстоянии от нашей планеты, но знания о его присутствии достаточно, чтобы привести общество в ярость. Невозможно узнать: он может ударить с такой силой, что опустошит всех, кроме немногих избранных, или он может полностью промахнуться от нас, поскольку гравитационные силы изменяют условия траектории полета, еще не записанной в звездах.

Кроме того, есть массы безработных — возможно, это застрявшие астронавты, в этой извращенной метафоре — для которых беспокоиться об астероиде, стоящим двумя ногами на твердой земле, было бы роскошью. Для этих космонавтов астероид отходит на второй план по сравнению с более насущной проблемой возвращения домой. Однако астероид уже делает это все более невозможным, его гравитационная сила уводит космический корабль дальше от траектории, необходимой для возвращения на Землю.

Такова ситуация с бесправными работниками по всему миру. Пока многие спорят о том, сможет ли ИИ автоматизировать все рабочие места в интересах немногих привилегированных, другие живут с реальностью, согласно которой выход на рынок труда уже стал геркулесовой задачей. Это не история автоматизации в традиционном смысле этого слова, а история эншитификации, где многие считают, что ИИ как инструмент найма сделал даже проведение собеседования практически недостижимой фантазией.

Возьмем, к примеру, историю Чада Марки, 33-летнего выпускника медицинской школы Лиги Плюща. В обширной статье Wired рассказывается о том, как Марки обманулся программным обеспечением для проверки ИИ, которое, похоже, почти уничтожило его шансы на поступление в программу резидентуры.

Подав заявку на участие в 82 таких программах в течение цикла 2025-2026 гг., Марки был шокирован количеством поступивших категорических отказов. У него были хорошие оценки в школе Лиги Плюща, отметил Wired, а также по меньшей мере 10 опубликованных на его имя исследовательских работ и бурные рекомендательные письма от профессоров.

Но в его истории также было три отдельных отпуска из-за изнурительных вспышек аутоиммунного заболевания, известного как анкилозирующий спондилит. Хотя отпуска были необходимы по медицинским показаниям — что Марки объяснил в письме к своим заявлениям — технически они относились к категории «добровольных». Это незначительная деталь, которая, если ее неправильно интерпретирует небрежная система искусственного интеллекта, может иметь разрушительные последствия для его приложений.

“Я выполз из чертовой черной дыры,” он рассказал Wired. “Я не мог ходить полгода. Я зашел так далеко, и это происходит?”

Тем временем инструмент проверки искусственного интеллекта под названием Cortex штурмовал больницы. Cortex, по сути, пережевывает документы, подтверждающие заявки на резидентство, и выкладывает их на удобную для чтения информационную панель, что теоретически позволяет нанимающему персоналу иметь широкий обзор сотен кандидатов из самых разных медицинских программ. Как рассказал Wired создатель программного обеспечения Таламус, этот инструмент уже используется примерно в 1500 программах медицинской ординатуры по всей территории США.

Как и все инструменты искусственного интеллекта, у Cortex есть немало проблем. Как документально подтверждено в одной редакционной статье, опубликованной в журнале «Ларингоскоп», Cortex представляет “постоянные ошибки” которые имеют “потенциал отрицательно повлиять на заявления и программы получения вида на жительство,” особенно тот факт, что, как сообщает Wired, было известно, что абитуриентам выставляются неточные буквенные оценки.

Подозревая, что Кортекс также может отменять его заявления из-за отпуска по медицинским показаниям, Марки начал многомесячные поиски, чтобы разобраться в программном обеспечении для скрининга. После многочисленных экспериментов и попыток реверс-инжиниринга Cortex студент Лиги Плюща нашел убедительные доказательства того, что инструмент ИИ оценивает заявления с добровольными отпусками значительно ниже, чем заявления с точным описанием медицинских обстоятельств.

Из 82 программ резидентуры, на которые подал заявку Марки, только пять подтвердили Wired, что они не используют Cortex. Это не означает, что остальные были такими же, и Thalamus отрицает, что алгоритмически оценивал или ранжировал каких-либо претендентов на цикл резидентуры 2025-2026 годов. Но дымящиеся пушки появились, когда Марки начал рассылать холодные электронные письма администраторам резидентуры, что привело к получению 10 восторженных предложений из престижных больниц, которые инструмент скрининга ИИ не смог доставить (в настоящее время он собирается приступить к психиатрической программе Колумбийского университета в пресвитерианской больнице Нью-Йорка в июле).

Одиссея Марки подчеркивает ужасающие последствия, которые эти инструменты могут иметь в больших масштабах, а также отсутствие прозрачности, которую они порождают. Если бы Марки была отчаявшейся матерью-одиночкой, претендующей на работу по дому, или пожилым работником, уволенным за год до выхода на пенсию, было бы мало шансов когда-либо провести обратный инжиниринг каких-либо инструментов найма, не говоря уже о том, чтобы найти работу по холодной электронной почте. Для работника результатом является своего рода черный ящик реальности, где ИИ выносит вердикты, которые они, возможно, никогда не поймут, если вообще о них знают.

Подробнее об искусственном интеллекте и труде: Вы’никогда не догадаетесь о профсоюзах’ Позиция по центрам обработки данных искусственного интеллекта

Пост Похоже, что ИИ заманивает некоторых соискателей в ловушку, в которой они никогда не проходят собеседование по “Причинам” «Это совершенно несправедливо» впервые появилось в «Футуризме».

Источник: futurism.com