Мы создаём паноптикум с помощью краудсорсинга.

Мужчина поднимает телефон, когда полиция продвигается в толпу. Видео получается дрожащим, громким, мгновенным. Через несколько минут оно появляется в интернете. Через несколько часов — повсюду. Вот как сейчас работает подотчетность. Что-то происходит, кто-то это записывает, и эти кадры могут показать, что произошло на самом деле, иногда противореча официальным заявлениям. Это может расширить права граждан и привести к последствиям для чиновников.

Но на этом жизненный цикл видеоматериала не заканчивается.

В последние месяцы правозащитные организации предупреждали, что добавление функции распознавания лиц в потребительские «умные» очки может превратить обычную запись в нечто более тревожное: идентификацию лиц в режиме реального времени. Это отражает более широкую тенденцию, уже происходящую в настоящее время, когда изображения и видео, снятые для одной цели, впоследствии могут быть найдены, сопоставлены и использованы для другой.

Уроборос — это древнеегипетский символ, изображающий змею или дракона, пожирающего собственный хвост. По мере того, как я начал замечать закономерности в своих более широких исследованиях корпоративизма, основанного на слежке, и отставания в управлении, я стал использовать термин «уроборос слежки» для описания этой рекурсивной модели наблюдений, призванных привлечь власть к ответственности, которые становятся новым входным сигналом для той же самой инфраструктуры слежки.

Система распознавания лиц меняет порядок привлечения к ответственности.

Во время протестов в связи с убийством Джорджа Флойда в 2020 году люди снимали действия полиции в режиме реального времени. Телефоны были направлены на полицейских, а не друг на друга. Цель была проста: показать, что делает государство. Эти кадры быстро распространились и стали частью гораздо большего массива общедоступных данных.

В то же время, сообщения таких изданий, как The New York Times и BuzzFeed News, показали, что правоохранительные органы использовали инструменты распознавания лиц, в том числе системы, разработанные Clearview AI. Эти системы были созданы на основе миллиардов изображений, собранных из различных источников в интернете, включая общедоступные фотографии и видео.

Основной подход сейчас стал рутинным: люди записывают происходящее в штате или что-либо еще — как, например, во время нападения на Капитолийский холм 6 января — а штат собирает эти видеоматериалы и данные в поисковую систему, которая впоследствии может быть использована для идентификации тех же людей, которые сделали эти видеозаписи.

Системы распознавания лиц, используемые правоохранительными органами, все чаще опережают возможности правовой защиты.

В обзоре Счетной палаты правительства США за 2024 год было установлено, что федеральные правоохранительные органы продолжали расширять использование систем распознавания лиц для проведения уголовных расследований, несмотря на сохраняющиеся опасения по поводу обучения, защиты частной жизни, гарантий гражданских свобод и надзора. Ранее проведенные выводы Счетной палаты показали, что до введения формальных требований к обучению персонала, использующего эти системы, ведомства провели около 60 000 поисков с использованием систем распознавания лиц.

Американский союз гражданских свобод и другие организации предупреждали, что эти инструменты могут быть использованы для идентификации людей по изображениям, распространяемым в интернете, включая видеозаписи протестов. Опасения по поводу распознавания лиц привели к тому, что некоторые штаты и города США, включая Сан-Франциско и Бостон, ограничили или запретили использование этой технологии правительством, в то время как федеральные агентства продолжают подвергаться пристальному вниманию в отношении того, как такие системы тестируются, развертываются и проверяются. В анализе 2024 года, опубликованном в журнале Internet Policy Review, предупреждалось, что системы распознавания лиц, используемые правоохранительными органами, все чаще опережают правовые гарантии, призванные их регулировать, что создает растущую напряженность вокруг защиты данных, надзора и соразмерного использования.

Шпионская сеть, которая создала себя сама

Раньше для наблюдения требовалась инфраструктура. Нужно было устанавливать камеры и целенаправленно собирать данные. Сейчас это уже не так. Люди носят камеры повсюду. Они постоянно записывают и загружают данные в режиме реального времени. События документируются с разных ракурсов без планирования или координации. В результате получается непрерывный поток полезных данных: лица, местоположения, временные метки и взаимодействия. Интернет вещей также поджидает нас повсюду, собирая информацию и публикуя её тогда, когда люди меньше всего этого ожидают, как описывает Эндрю Гатри Фергюсон в недавнем отрывке из своей книги «Ваши данные будут использованы против вас».

СВЯЗАННЫЕ СТАТЬИ: «Сенсорное наблюдение» превращает обычную жизнь в доказательство.

Аналогичная динамика наблюдается во всем мире. В недавнем анализе, опубликованном в Международном журнале права и информационных технологий, рассматривалось, как системы распознавания лиц в Китае и Японии распространяются быстрее, чем действуют регулирующие их правовые рамки. В репортаже The Guardian описывались ограниченные правовые гарантии, ограничивающие быстрое развертывание инфраструктуры наблюдения с использованием искусственного интеллекта в некоторых частях Африки.

Раньше существовало четкое различие между слежкой и подотчетностью. Слежка означала, что влиятельные лица следили за людьми; власти, как правило, не делились полученными изображениями, за исключением случаев принуждения или по решению суда, и обычно после длительной задержки. Подотчетность означала, что люди следили за влиятельными лицами и часто публиковали изображения немедленно, чтобы предотвратить или противодействовать злоупотреблениям со стороны властей. Это различие больше не актуально. Одни и те же видеозаписи могут служить обеим целям. Запись, предназначенная для разоблачения неправомерных действий, впоследствии может быть использована для идентификации совершенно другого человека.

Уроборос слежки — это не будущая угроза. Он уже здесь.

Эта динамика сохраняется, потому что людям по-прежнему необходимо вести записи. Во многих местах это один из немногих доступных инструментов, когда формальная подотчетность рушится. Когда надзорные органы ослабевают или терпят крах, публичная документация становится заменой. В такой ситуации люди обращаются к прозрачности. Но эта прозрачность имеет свою цену. Чем больше людей документируют, тем больше данных существует. Чем больше данных существует, тем легче их искать, сопоставлять и хранить. Каждое видео подпитывает уроборос. Люди подпитывают систему не потому, что доверяют ей, а потому что альтернатива — молчание.

Большинство людей на этих видео не находятся в центре внимания. Они находятся на заднем плане, проходят мимо или стоят неподалеку. Но это различие не имеет значения, как только видеозапись попадает в систему. Современные системы распознавания лиц могут идентифицировать даже лицо, прошедшее за угол кадра. Человек, который ничего не делал, все равно может стать частью набора данных, даже не подозревая об этом. По мере совершенствования систем распознавания старые видеозаписи становятся все более полезными и инвазивными.

Ни одно отдельное решение не привело к такому результату. Он формировался постепенно благодаря увеличению количества камер, улучшению распознавания, росту объемов данных и упрощению интеграции. Каждый шаг имел смысл сам по себе. Вместе они изменили само понятие записи.

Публичная запись по-прежнему необходима. Без нее многие формы злоупотреблений оставались бы скрытыми. Но запись — это уже не просто разоблачение. Это также вклад. Если вы опубликовали изображения или видео в прошлом году, вы, возможно, уже внесли свой вклад в систему, которую никогда не видели, но которую создал уроборос.

Уроборос слежки — это не будущая угроза. Он уже здесь. Каждый раз, когда кто-то нажимает кнопку «Опубликовать», он делает сразу две вещи. Он раскрывает властные структуры и помогает строить систему, которую сильные в будущем будут использовать для слежки за слабыми.