В Великобритании будут сканировать лица просителей убежища для проверки возраста — несмотря на то, что известно о недостатках этой технологии.

Испытания технологий проверки возраста показывают риски ошибок, способных существенно изменить жизнь.

Зал прибытия и визовая зона с автоматизированными биометрическими пунктами паспортного контроля в терминале лондонского аэропорта Станстед (STN), Англия, Великобритания, 6 сентября 2026 года. Фото: Nicolas Economou/NurPhoto via Getty Images. Зал прибытия и визовая зона с автоматизированными биометрическими пунктами паспортного контроля в терминале лондонского аэропорта Станстед (STN), Англия, Великобритания, 6 сентября 2026 года . Фото: Nicolas Economou/NurPhoto via Getty Images

Проверка возраста захватывает интернет. От запретов социальных сетей в Австралии до ограничений на порнографию в половине штатов США — для многих необходимость подтверждать свой возраст для доступа к веб-сайтам становится повседневной обязанностью. Но одна из ключевых технологий, лежащих в основе многих из этих проверок возраста, вот-вот проникнет в офлайн-мир — с потенциально судьбоносными последствиями для людей, чей возраст будет предсказан искусственным интеллектом.

Начиная со следующего года, британское правительство планирует внедрить систему оценки возраста по лицу — систему, в которой искусственный интеллект сканирует лицо и определяет возраст человека — для определения возраста просителей убежища, прибывающих на границу Соединенного Королевства. Считается, что это первый случай использования так называемой системы оценки возраста по лицу (FAE) таким образом. У многих просителей убежища, прибывающих в Великобританию, нет документов, подтверждающих их возраст, и если детей ошибочно относят к взрослым, их могут лишить некоторых правовых гарантий и поместить в центры содержания под стражей только для взрослых.

В ходе расследования, проведенного изданиями WIRED и Lighthouse Reports в сотрудничестве с газетой The Independent, был получен внутренний отчет правительства Великобритании, подробно описывающий испытания технологий FAE (Future Attitude Era — оценка возраста). В нем показано, как системы регулярно принимают детей за взрослых и, по-видимому, содержат серьезные проблемы, связанные с предвзятостью, которые, согласно данным Министерства внутренних дел, напрямую затрагивают самую большую группу мигрантов, подлежащих оценке возраста в 2025 году. Расследование поднимает вопросы об эффективности технологии и о том, следует ли ее использовать в таких критически важных ситуациях.

Эти выводы также появились на фоне того, что вторая администрация Трампа и правительства по всему миру все чаще проводят антимигрантскую политику, тратя миллиарды на технологии слежки, которые часто используются против уязвимых групп населения, мало знающих об их применении, принципах работы или способах противодействия им.

Утекший в сеть документ Министерства внутренних дел, полученный изданием Lighthouse Reports, в основном описывает «лучшие» результаты семи алгоритмов оценки возраста по лицу, протестированных ведомством в прошлом году, хотя компании, стоящие за ними, напрямую не называются. В отчете говорится, что система показала значительно худшие результаты при использовании для оценки возраста жителей стран Африки к югу от Сахары по сравнению с другими группами. Жители стран Африки к югу от Сахары составляют самую большую группу мигрантов, въезжающих в Великобританию после пересечения Ла-Манша на небольших лодках в последние годы, и, согласно данным Министерства внутренних дел, в 2025 году им было присвоено больше возрастных оценок, чем группам из других регионов. Для женщин из стран Африки к югу от Сахары оценочный возраст, полученный системой, отличался в среднем на 4,6 года, что означает, что 13,5-летняя девочка могла быть оценена как 18-летняя.

В ходе расследования также выяснилось, что Министерство внутренних дел, которое курирует иммиграцию и правоохранительную деятельность в Великобритании, распустило научный комитет, созданный для консультирования по более широким методам оценки возраста, пока изучалось внедрение искусственного интеллекта. «Мы хотели подчеркнуть недостатки методов оценки возраста по лицу, но нам не представилась такая возможность, и затем комитет был распущен», — говорит Тим Коул, почетный профессор медицинской статистики Института детского здоровья Университетского колледжа Лондона и бывший член комитета. Коул называет сканирование лица «ужасно неточным».

В дополнение к внутреннему отчету и опасениям членов научного комитета, многолетние результаты испытаний Национального института стандартов и технологий США показали, что точность систем FAE часто зависит от расы анализируемого человека и качества сделанных фотографий.

«У нас действуют строгие процедуры проверки возраста человека, и мы работаем над их модернизацией путем тестирования быстрых и эффективных технологий определения возраста по лицу», — заявил представитель Министерства внутренних дел в ответ на результаты расследования. Представитель добавил, что комитет был распущен из-за необходимости привлечения специалистов из «других областей».

Хотя Министерство внутренних дел заявляет, что сканирование лиц предназначено в качестве «дополнительного» инструмента для пограничников и не «заменит или отменит человеческое суждение», оно не ответило на вопросы о том, как планирует использовать эту технологию в реальных условиях. «В случаях неопределенности, — говорит представитель, — к людям всегда будут относиться как к детям до проведения дальнейшей оценки».

Расширяющиеся оценки

Правительство Великобритании впервые объявило о своих планах использовать оценку возраста по лицу наряду с оценками сотрудников пограничной службы для определения возраста мигрантов в июле 2025 года. С тех пор Министерство внутренних дел отложило внедрение этих систем до 2027 года, заявив, что будет использовать «передовые технологии искусственного интеллекта» для «борьбы с ложными заявлениями» с целью предотвращения «попыток взрослых обмануть систему».

За последние пять лет сканирование лиц с помощью ИИ стало ключевым компонентом спорных онлайн-программ проверки возраста, поскольку законодатели обязали социальные сети, порносайты и некоторые розничные продавцы проверять возраст своих пользователей. Эта технология также была опробована в некоторых барах и магазинах Великобритании. Оценка возраста по лицу работает путем анализа черт лица человека — при этом базовые системы обучены на миллионах лиц с указанием возраста — для получения приблизительного возраста. В контролируемых лабораторных тестах лучшие алгоритмы могут предсказать возраст человека с точностью до 2,5 лет.

Однако результаты могут сильно различаться в зависимости от алгоритма, пола человека, демографических данных и других факторов. Изображения низкого качества, например, с плохим освещением, могут значительно снизить производительность систем. (Пример: некоторым системам удавалось обмануть, используя изображения персонажей из видеоигр.) Министерство внутренних дел, по всей видимости, знало о потенциальных проблемах с этой технологией и всё же продолжило реализацию своей программы.

В просочившемся в прессу отчете Министерства внутренних дел, подготовленном в апреле 2025 года до того, как правительство приобрело технологию сканирования лиц, подробно описывается тестирование семи алгоритмов распознавания лиц на более чем 2,5 миллионах изображений. Однако во внутреннем отчете говорится, что неназванный «лучший алгоритм» показал «существенные отклонения» при тестировании на изображениях жителей стран Африки к югу от Сахары. В среднем эта система также имела тенденцию предсказывать, что 17-летний подросток старше 18 лет, и показывала худшие результаты на изображениях женщин.

Ежегодно десятки тысяч людей подают заявления о предоставлении убежища в Великобритании, многие из которых прибывают в страну после опасных и физически изнурительных путешествий на небольших лодках через Ла-Манш. В настоящее время сотрудники пограничной службы, сомневающиеся в возрасте человека, утверждающего, что ему меньше 18 лет, могут оценить его внешний вид, ответы на вопросы в ходе допроса и общее поведение, чтобы принять первоначальное решение о его возрасте. Эти первоначальные оценки возраста производятся при «первой встрече», говорится в руководстве Министерства внутренних дел. Согласно официальной статистике, с 2010 года 40 процентов людей, подвергшихся оценке возраста, были отнесены к категории взрослых.

В просочившемся в прессу отчете Министерства внутренних дел говорится, что его выводы основаны главным образом на тестировании с использованием высококачественных изображений людей, имеющих документы, и это может означать, что точность алгоритмов на практике будет еще хуже. Министерство внутренних дел указало, что технология FAE поможет сотрудникам иммиграционной службы, которые проводят оценку возраста при первом контакте с задержанными.

Согласно внутреннему отчету, немногочисленные фотографии, включенные в тестовые данные и сделанные при первоначальной встрече, были «регулярно хуже», чем последующие фотографии тех же людей. Качество фотографий, по-видимому, было настолько плохим, что в отчете не удалось определить, что больше влияло на результаты оценки возраста алгоритмами: качество фотографий или физическое состояние просителей убежища по прибытии. Собственные тесты NIST показали, что для многих алгоритмов оценки возраста фотографии более низкого качества обычно приводят к большим ошибкам. Внутренний отчет пришел к выводу, что необходимо провести дополнительные исследования влияния стресса, который испытывают просители убежища до прибытия в пункт назначения.

«Дети, ищущие убежища, часто переживают невообразимые травмы», — говорит Марта Дарк, соисполнительный директор правозащитной организации Foxglove. «Они не должны быть подопытными для экспериментальных технологий, в которые заложены неточности и расистские предубеждения». В четверг Foxglove, наряду с 61 другой организацией, направила открытое письмо правительству Великобритании с просьбой к Министерству внутренних дел отказаться от планов использования этого инструмента.

Неясно, была ли упомянутая в отчете несовершенная система приобретена правительством Великобритании, но в мае этого года оно потратило более 400 000 долларов на технологию сканирования лиц у немецкой компании Cognitec. (Компания была одним из семи протестированных алгоритмов, но неясно, каким именно.) Анализ общедоступных данных о системах оценки возраста по лицам компании Cognitec, проведенный изданиями WIRED и Lighthouse Reports, показал, что система Cognitec в два раза чаще ошибочно классифицировала 16-летних как 18-летних и старше при тестировании на наборе данных фотографий более низкого качества, сделанных на пограничных переходах, по сравнению с фотографиями более высокого качества, полученными при оформлении виз. Lighthouse Reports провели полную проверку данных оценок возраста по лицам NIST, которая показала демографические различия в результатах, в том числе, что 16-летние из Западной Африки чаще классифицировались как 18-летние и старше, чем 16-летние из Восточной Европы.

Представитель компании Cognitec заявил, что они не могут комментировать свою работу с Министерством внутренних дел; однако он отметил, что «демографические различия» в производительности характерны для всех алгоритмов сканирования лиц. «Причины предвзятости чрезвычайно сложны и часто связаны с проблемами качества изображения», — сказал представитель.

«Погрешность алгоритмов Cognitec низка по сравнению с другими алгоритмами, имеющими аналогичную общую точность, и будьте уверены, что мы усердно и постоянно работаем над снижением погрешности, разрабатывая специальные методики тестирования, проектируя функции потерь при обучении нашей сети и диверсифицируя обучающие и тестовые данные», — говорит представитель компании.

Стресс-тест

Даже если точность можно улучшить, технологии редко используются в точности так, как задумали их создатели. Ошибки, технические недостатки и ошибки пользователей приводят к тому, что системы часто выдают сбои. В сочетании с важными решениями, которые могут изменить жизнь людей, эти риски могут усугубиться.

Согласно предыдущим отчетам Независимого главного инспектора пограничного контроля и иммиграции Великобритании, в течение многих лет в процессе оценки возраста, проводимой сотрудниками Министерства внутренних дел, существовали проблемы. Были случаи «некачественного» ведения учета, «поверхностных» визуальных оценок, а иногда и отсутствия объяснений со стороны пограничников относительно существующих процедур. Согласно последнему отчету инспекции, персонал, проводивший оценку возраста, не проходил специального обучения для этой задачи до 2023 года.

«Принятие первоначальных решений о возрасте — сложная и многогранная задача, требующая от сотрудников иммиграционной службы соблюдения сложных условий, часто под давлением необходимости быстро обрабатывать большое количество прибывающих», — говорится в недавно опубликованном руководстве Министерства внутренних дел о потенциальном использовании искусственного интеллекта для оценки возраста по лицу. «Это позволяет сотрудникам иммиграционной службы проверить свои выводы, сравнив их с оценкой, полученной с помощью этой технологии».

Однако в просочившемся в прошлом году отчете Министерство внутренних дел заявило, что вопрос о том, как технология сканирования лица будет использоваться в «оперативном контексте», все еще изучается. В отчете, который правительство ранее отказывалось обнародовать в ответ на запросы о предоставлении документов, также подчеркивается, что тестирование показало, что «временное старение», связанное с травмой и «стрессом от путешествия», по-видимому, влияет на точность систем оценки возраста по лицу, что поднимает дополнительные вопросы об использовании этой технологии в процессе предоставления убежища.

Издания WIRED, Lighthouse Reports и Independent задали Министерству внутренних дел подробные вопросы о том, как и без того перегруженные сотрудники пограничной службы будут взаимодействовать с системами оценки возраста по лицу, будет ли предоставлено специальное обучение для устранения недостатков в системах, а также будут ли установлены конкретные стандарты в отношении места и времени съемки фотографий, используемых в системе. Мы также спросили Министерство внутренних дел о любых шагах, предпринимаемых для уменьшения выявленных в технологии несоответствий между лицом и полом.

Министерство внутренних дел напрямую не ответило на эти вопросы, но заявило, что Национальной физической лаборатории Великобритании поручено провести «независимую проверку» тестирования систем и анализа результатов испытаний. Также в министерстве публично обсуждалось использование «порогового» возраста — например, настройка системы таким образом, чтобы она определяла, если человеку меньше 20 лет, — для уменьшения границ зоны обнаружения. Неясно, будет ли применен этот подход и какими будут какие-либо пороговые значения.

Между тем, эксперты опасаются, что любое использование технологии определения возраста по лицу на границах будет «дегуманизирующим» для людей, на которых оно влияет, и может стать нормой для персонала. «Со временем существует реальный риск того, что это закрепится», — говорит Анна Баччарелли, старший научный сотрудник Human Rights Watch. «В каждом компоненте этой системы столько рисков, что просто не стоит пытаться использовать ИИ для решения проблемы миграции».

Эта статья первоначально была опубликована на сайте wired.com.

Источник: arstechnica.com