В преддверии Олимпийских игр 2024 года в Париже правительство Франции разрешило широко использовать программное обеспечение с искусственным интеллектом в системах видеонаблюдения.
Следующее эссе перепечатано с разрешения 
The Conversation, онлайн-издания, освещающего последние исследования.
Внимание всего мира приковано к Олимпийским играм в Париже в 2024 году, когда тысячи спортсменов и обслуживающего персонала, а также сотни тысяч посетителей со всего мира соберутся во Франции. Не только весь мир будет наблюдать за Олимпийскими играми. Системы искусственного интеллекта также будут наблюдать за ними.
Государственные и частные компании будут использовать передовые инструменты искусственного интеллекта и другие технологии наблюдения для проведения повсеместного и постоянного наблюдения до, во время и после Игр. Мировая арена Олимпийских игр и многолюдное международное сообщество создают настолько серьезные риски для безопасности, что в последние годы власти и критики называют Олимпийские игры “крупнейшими в мире операциями по обеспечению безопасности вне войны”.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистскую деятельность, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Французское правительство, действуя рука об руку с частным технологическим сектором, использует эту законную потребность в повышении безопасности в качестве основания для внедрения технологически продвинутых средств наблюдения и сбора данных. Планы по надзору, направленные на устранение этих рисков, включая спорное использование экспериментального видеонаблюдения с использованием искусственного интеллекта, настолько обширны, что стране пришлось изменить свои законы, чтобы сделать запланированное наблюдение законным.
План выходит за рамки создания новых систем видеонаблюдения с использованием искусственного интеллекта. Согласно новостным сообщениям, канцелярия премьер-министра согласовала временный указ, который засекречен, чтобы позволить правительству значительно расширить традиционные инструменты скрытого наблюдения и сбора информации на время проведения Игр. К ним относятся прослушивание телефонных разговоров, сбор геолокационных, коммуникационных и компьютерных данных, а также сбор больших объемов визуальных и аудиоданных.
Я профессор права и юрист, занимаюсь исследованиями, преподаю и пишу о конфиденциальности, искусственном интеллекте и слежке. Я также предоставляю законодателям и другим лицам юридические и политические рекомендации по этим вопросам. Возросшие риски для безопасности могут потребовать и требуют усиления надзора. В этом году Франция столкнулась с опасениями по поводу своих возможностей в области олимпийской безопасности и вероятных угроз в связи с проведением публичных спортивных мероприятий.
Однако превентивные меры должны быть пропорциональны рискам. Во всем мире критики утверждают, что Франция использует Олимпийские игры для захвата власти в сфере слежки и что правительство будет использовать это “исключительное” оправдание слежки для нормализации государственного надзора в масштабах всего общества.
В то же время, существуют обоснованные опасения по поводу адекватного и эффективного наблюдения в целях безопасности. Например, в США нация задается вопросом, почему система наблюдения Секретной службы безопасности не смогла предотвратить покушение на бывшего президента Дональда Трампа 13 июля 2024 года.
Массовое наблюдение с использованием искусственного интеллекта
Благодаря недавно расширенным законам о надзоре французские власти сотрудничают с компаниями Videtics, Orange Business, ChapsVision и Wintics по внедрению систем видеонаблюдения с использованием искусственного интеллекта. Они использовали систему наблюдения с помощью искусственного интеллекта во время крупных концертов, спортивных мероприятий, а также в метро и на железнодорожных станциях в периоды интенсивного использования, в том числе во время концерта Тейлор Свифт и Каннского кинофестиваля. Французские официальные лица заявили, что эти эксперименты по наблюдению с помощью искусственного интеллекта прошли успешно, и в будущем будет “зеленый свет”.
Используемое программное обеспечение с искусственным интеллектом, как правило, предназначено для выявления определенных событий, таких как изменение размера толпы и движения, брошенные предметы, наличие или применение оружия, тело на земле, дым или пламя, а также некоторые нарушения правил дорожного движения. Цель систем видеонаблюдения состоит в том, чтобы немедленно, в режиме реального времени, обнаруживать такие события, как толпа, устремляющаяся к воротам, или человек, оставляющий рюкзак на углу многолюдной улицы, и предупреждать сотрудников службы безопасности. Выделение этих событий кажется логичным и разумным использованием технологии.
Но реальные вопросы конфиденциальности и юридические аспекты вытекают из того, как эти системы функционируют и используются. Сколько и какие типы данных необходимо собирать и анализировать, чтобы выявить эти события? Каковы данные для обучения систем, частота ошибок и доказательства предвзятости или неточности? Что делается с данными после их сбора и у кого есть к ним доступ? Для ответа на эти вопросы недостаточно прозрачности. Несмотря на меры предосторожности, направленные на предотвращение использования биометрических данных, позволяющих идентифицировать людей, возможно, что данные обучения фиксируют эту информацию, и системы могут быть адаптированы для ее использования.
Предоставляя этим частным компаниям доступ к тысячам видеокамер, уже расположенных по всей Франции, используя и координируя возможности железнодорожных компаний и транспортных операторов по наблюдению, а также разрешая использовать беспилотные летательные аппараты с камерами, Франция юридически разрешает и поддерживает эти компании в тестировании и обучении программ искусственного интеллекта на своих гражданах и посетителях.
Легализованная массовая слежка
Как необходимость, так и практика государственного наблюдения на Олимпийских играх не являются чем-то новым. Проблемы безопасности и конфиденциальности на зимних Олимпийских играх 2022 года в Пекине были настолько высоки, что ФБР призвало “всех спортсменов” оставить личные мобильные телефоны дома и пользоваться одноразовыми телефонами, находясь в Китае, из-за чрезвычайного уровня правительственной слежки.
Франция, однако, является государством — членом Европейского союза. Общий регламент ЕС по защите данных является одним из самых строгих законов о конфиденциальности данных в мире, а Закон ЕС об искусственном интеллекте возглавляет усилия по регулированию вредного использования технологий искусственного интеллекта. Как член ЕС, Франция должна следовать законодательству ЕС.
В 2023 году, готовясь к Олимпийским играм, Франция приняла Закон № 2023-380, который представляет собой пакет законов, обеспечивающих правовую базу для Олимпийских игр 2024 года. Он включает в себя спорную статью 7, положение, которое позволяет французским правоохранительным органам и их техническим подрядчикам экспериментировать с интеллектуальным видеонаблюдением до, во время и после Олимпийских игр 2024 года, и статью 10, которая, в частности, разрешает использовать программное обеспечение искусственного интеллекта для просмотра видео и видеозаписей с камер. Эти законы делают Францию первой страной ЕС, легализовавшей столь масштабную систему слежки на базе искусственного интеллекта.
Ученые, общественные организации и защитники гражданских свобод указали, что эти статьи противоречат Общему регламенту по защите данных и усилиям ЕС по регулированию ИИ. Они утверждают, что статья 7 конкретно нарушает положения Общего регламента по защите данных, касающиеся защиты биометрических данных.
Французские официальные лица и представители технологических компаний заявили, что программное обеспечение с искусственным интеллектом может выполнять свои задачи по выявлению и маркировке этих конкретных типов событий, не идентифицируя людей и не нарушая ограничений Общего регламента по защите данных, касающихся обработки биометрических данных. Но европейские правозащитные организации отметили, что если целью и функцией алгоритмов и камер, управляемых искусственным интеллектом, является обнаружение конкретных подозрительных событий в общественных местах, то эти системы обязательно будут “фиксировать и анализировать физиологические особенности и поведение” людей в этих местах. К ним относятся положение тела, походка, движения, жестикуляция и внешний вид. Критики утверждают, что речь идет о сборе и обработке биометрических данных, и, таким образом, законодательство Франции нарушает общие правила защиты данных.
Безопасность на базе искусственного интеллекта — за определенную плату
Для французского правительства и компаний, занимающихся ИИ, наблюдение с помощью ИИ до сих пор было взаимовыгодным успехом. Алгоритмические средства наблюдения используются все шире и предоставляют правительствам и их техническим сотрудникам гораздо больше данных, чем могли бы предоставить люди в одиночку.
Но эти системы наблюдения с поддержкой искусственного интеллекта плохо регулируются и практически не подвергаются независимому тестированию. Как только данные собраны, потенциал для дальнейшего анализа данных и вмешательства в частную жизнь огромен.
