Однажды в ноябре специалист по продуктовой стратегии, которую мы назовем Мишель (имя изменено), вошла в свой аккаунт LinkedIn и изменила свой пол на мужской. Она также изменила имя на Майкл, как она рассказала TechCrunch.
Она принимала участие в эксперименте под названием #WearthePants, в рамках которого женщины проверяли гипотезу о том, что новый алгоритм LinkedIn предвзят по отношению к женщинам.
В течение нескольких месяцев некоторые активные пользователи LinkedIn жаловались на снижение вовлеченности и количества показов в этой ориентированной на карьеру социальной сети. Это произошло после того, как вице-президент компании по разработке Тим Юрка заявил в августе, что платформа «совсем недавно» внедрила LLM-программы, чтобы помочь пользователям находить полезный контент.
Мишель (личность которой известна TechCrunch) с подозрением отнеслась к изменениям, поскольку у нее более 10 000 подписчиков, и она пишет посты для своего мужа, у которого всего около 2000 подписчиков. Тем не менее, по ее словам, несмотря на большее количество подписчиков, они с мужем получают примерно одинаковое количество просмотров своих постов.
«Единственным значимым фактором был пол», — сказала она.
Мэрилин Джойнер, основательница компании, также изменила пол в своем профиле. Она регулярно публикует посты в LinkedIn в течение двух лет и заметила, что в последние несколько месяцев видимость ее публикаций снизилась. «Я изменила пол в своем профиле с женского на мужской, и количество показов подскочило на 238% за один день», — рассказала она TechCrunch.
Аналогичные результаты сообщили Меган Корниш, Рози Тейлор, Джессика Дойл Меккес, Эбби Нидам, Фелисити Мензис, Люси Фергюсон и другие.
LinkedIn заявила, что ее «алгоритмы и системы искусственного интеллекта не используют демографическую информацию, такую как возраст, раса или пол, в качестве сигнала для определения видимости контента, профиля или публикаций в ленте», и что «сравнение ваших собственных обновлений в ленте, которые не являются идеально репрезентативными или равными по охвату, не означает автоматически несправедливого обращения или предвзятости» в ленте.
Эксперты по социальным алгоритмам сходятся во мнении, что явный сексизм, возможно, не был причиной, хотя скрытые предубеждения тоже могли иметь место.
«Платформы представляют собой „сложную симфонию алгоритмов, которые одновременно и постоянно управляют определенными математическими и социальными механизмами“», — заявил консультант по этике данных из университета Брандейс Маршалл в интервью TechCrunch.
«Смена фотографии профиля и имени — это лишь один из таких факторов», — сказала она, добавив, что на алгоритм также влияет, например, то, как пользователь взаимодействует с другим контентом.
«Нам неизвестно обо всех остальных факторах, которые заставляют этот алгоритм отдавать приоритет контенту одного человека перед контентом другого. Это гораздо более сложная проблема, чем кажется на первый взгляд», — сказал Маршалл.
Бро-кодированный
Эксперимент #WearthePants начался с двух предпринимательниц — Синди Галлоп и Джейн Эванс.
Они попросили двух мужчин создать и опубликовать тот же контент, что и они, из любопытства, чтобы узнать, является ли гендерная принадлежность причиной снижения активности среди женщин. У Галлопа и Эванса внушительное количество подписчиков — более 150 000 в сумме, по сравнению с примерно 9400 у двух мужчин на тот момент.
Галлоп сообщила, что ее пост увидели всего 801 человек, в то время как пост мужчины, опубликовавшего точно такой же контент, увидели 10 408 человек, что составляет более 100% от числа его подписчиков. Затем к ним присоединились и другие женщины. Некоторые, как Джойнер, которая использует LinkedIn для продвижения своего бизнеса, забеспокоились.
«Мне бы очень хотелось, чтобы LinkedIn взяла на себя ответственность за любые предвзятые мнения, которые могут присутствовать в её алгоритме», — сказала Джойнер.
Однако LinkedIn, как и другие поисковые и социальные медиа-платформы, зависящие от программ магистратуры, предоставляет мало информации о том, как обучались модели отбора контента.
Маршалл заявил, что большинство этих платформ «по своей сути содержат белую, мужскую, западноцентричную точку зрения» из-за того, кто обучал модели. Исследователи обнаруживают признаки человеческой предвзятости, такой как сексизм и расизм, в популярных моделях LLM, поскольку модели обучаются на контенте, созданном людьми, а люди часто непосредственно участвуют в постобучении или обучении с подкреплением.
Тем не менее, то, как каждая отдельная компания внедряет свои системы искусственного интеллекта, окутано тайной алгоритмического «черного ящика».
LinkedIn утверждает, что эксперимент #WearthePants не мог продемонстрировать гендерную предвзятость по отношению к женщинам. В заявлении Юрки от августа говорилось — и глава отдела ответственного использования ИИ и управления LinkedIn Сакши Джайн подтвердила это в другом посте в ноябре, — что их системы не используют демографическую информацию в качестве сигнала для повышения видимости.
Вместо этого LinkedIn сообщила TechCrunch, что тестирует миллионы публикаций, чтобы связать пользователей с возможностями. Компания заявила, что демографические данные используются только для такого тестирования, например, чтобы проверить, «конкурируют ли публикации от разных авторов на равных условиях и является ли опыт прокрутки, то, что вы видите в ленте, одинаковым для разных аудиторий», — сообщила компания TechCrunch.
LinkedIn известна тем, что исследует и корректирует свой алгоритм, стремясь обеспечить пользователям менее предвзятый опыт.
Маршалл отметил, что именно неизвестные переменные, вероятно, объясняют, почему у некоторых женщин увеличилось количество просмотров после изменения пола профиля на мужской. Например, участие в вирусном тренде может привести к повышению вовлеченности; некоторые аккаунты публиковали контент впервые за долгое время, и алгоритм, возможно, вознаградил их за это.
Тон и стиль письма также могут играть свою роль. Мишель, например, рассказала, что на той неделе, когда она публиковала посты под именем «Майкл», она немного изменила тон, начав писать в более простом, прямолинейном стиле, как она делает для своего мужа. Именно тогда, по ее словам, количество просмотров подскочило на 200%, а вовлеченность выросла на 27%.
Она пришла к выводу, что система не является «явно сексистской», но, похоже, рассматривает стили общения, обычно ассоциируемые с женщинами, как «символ более низкой ценности».
Считается, что стереотипный мужской стиль письма более лаконичен, в то время как стереотипный женский стиль письма, как правило, более мягкий и эмоциональный. Если в рамках магистерской программы по литературе (LLM) преподают курсы, направленные на развитие стиля письма, соответствующего мужским стереотипам, это является скрытой, неявной предвзятостью. И, как мы сообщали ранее, исследователи установили, что большинство магистерских программ по литературе изобилуют такими предубеждениями.
Сара Дин, доцент кафедры компьютерных наук в Корнельском университете, заявила, что такие платформы, как LinkedIn, часто используют целые профили, помимо поведения пользователей, при определении контента для продвижения. Это включает в себя информацию о работе в профиле пользователя и тип контента, с которым он обычно взаимодействует.
«Демографические данные человека могут влиять на обе стороны алгоритма — на то, что видит сам человек, и на то, кто видит его публикации», — сказал Дин.
Компания LinkedIn сообщила TechCrunch, что ее системы искусственного интеллекта анализируют сотни сигналов, чтобы определить, что именно отправляется пользователю, включая информацию из профиля, сети контактов и активности человека.
«Мы постоянно проводим тесты, чтобы понять, что помогает людям находить наиболее актуальный и своевременный контент для своей карьеры», — сказал представитель компании. «Поведение пользователей также влияет на ленту новостей: то, на что люди кликают, что сохраняют и с чем взаимодействуют, меняется ежедневно, и какие форматы им нравятся, а какие нет. Это поведение также естественным образом влияет на то, что отображается в ленте вместе с любыми обновлениями от нас».
Чад Джонсон, эксперт по продажам, активно использующий LinkedIn, описал изменения как снижение приоритета лайков, комментариев и репостов. Система LLM «больше не интересует, как часто вы публикуете сообщения или в какое время суток», — написал Джонсон в своем посте. «Ей важно, демонстрирует ли ваш текст понимание, ясность и ценность».
Всё это затрудняет определение истинной причины появления результатов акции #WearthePants.
Людям просто не нравится этот алгоритм.
Тем не менее, похоже, что многим людям, независимо от пола, либо не нравится, либо они не понимают новый алгоритм LinkedIn — каким бы он ни был.
Шайлви Вакулу, специалист по анализу данных, рассказала TechCrunch, что в течение пяти лет она публиковала в среднем не менее одного поста в день и получала тысячи показов. Теперь ей и ее мужу повезло, если они получают несколько сотен. «Это демотивирует создателей контента с большой лояльной аудиторией», — сказала она.
Один мужчина рассказал TechCrunch, что за последние несколько месяцев заметил падение вовлеченности примерно на 50%. В то же время другой мужчина заявил, что за аналогичный период времени количество показов и охват его публикаций увеличилось более чем на 100%. «В основном это происходит потому, что я пишу на конкретные темы для конкретной аудитории, и именно это поощряет новый алгоритм», — сказал он TechCrunch, добавив, что его клиенты наблюдают аналогичный рост.
Однако, по опыту Маршалл, которая является афроамериканкой, посты о её личном опыте получают меньше откликов, чем посты, связанные с её расой. «Если чернокожие женщины получают отклики только тогда, когда говорят о чернокожих женщинах, но не когда говорят об их специализации, то это предвзятость», — сказала она.
Исследователь Дин считает, что алгоритм, возможно, просто усиливает «те сигналы, которые уже существуют». Он может поощрять определенные публикации не из-за демографических характеристик автора, а потому что на них было больше откликов на платформе. Хотя Маршалл, возможно, наткнулась на еще одну область скрытой предвзятости, ее отдельных примеров недостаточно, чтобы утверждать это с уверенностью.
LinkedIn поделился некоторыми соображениями о том, что сейчас хорошо работает. Компания сообщила, что пользовательская база выросла, и в результате количество публикаций увеличилось на 15% по сравнению с прошлым годом, а количество комментариев — на 24%. «Это означает усиление конкуренции в ленте», — заявила компания. По ее словам, хорошо себя показывают публикации о профессиональных советах и уроках по карьере, отраслевые новости и аналитика, а также образовательный или информативный контент о работе, бизнесе и экономике.
В конечном итоге, люди просто запутались. «Я хочу прозрачности», — сказала Мишель.
Однако, поскольку алгоритмы отбора контента всегда тщательно оберегали свои секреты, а прозрачность может привести к их использованию в своих целях, это слишком смелое требование. И вряд ли оно когда-либо будет удовлетворено.
Источник: techcrunch.com
