Компания Flock заявляет, что ее новый инструмент поможет выявлять злоупотребления со стороны полиции, но не объясняет, как он работает.

В четверг стартап Flock, занимающийся технологиями видеонаблюдения, объявил о ряде новых правил и инструментов, которые, по его словам, помогут пресечь злоупотребления автоматизированными системами считывания номерных знаков и привлечь к ответственности своих клиентов из числа правоохранительных органов.

Теперь компания Flock рекомендует полицейским управлениям хранить данные в течение семи дней вместо прежних 30. Одновременно с этим изменением компания ввела так называемый «Режим хранения доказательств», который можно включить, когда клиентам необходимо хранить данные в течение более длительного периода в «исключительных случаях» и требуется конкретный номер дела. Клиенты также теперь смогут устанавливать ограничения на объем данных, которыми они делятся с другими клиентами, в зависимости от типа расследуемого правонарушения.

Компания также выделила инструмент под названием «Помощь в аудите» как одно из ключевых изменений. Flock запустила этот инструмент в апреле. С тех пор, по словам Flock, его включили «более трети» клиентов, и теперь стартап требует от всех клиентов активировать его до конца года.

Согласно сообщению в блоге, опубликованному в четверг, компания Flock заявила, что инструмент Audit Assistance «обнаруживает аномальную активность и помечает ее для проверки администратором». В этом случае инструмент может автоматически заблокировать пользователей, на которых поступила пометка, до вмешательства администратора. По словам Flock, инструмент уже помог клиентам выявлять и пресекать злоупотребления.

Ряд руководителей компаний рекламировали возможности системы Audit Assistance. Однако, несмотря на заявленную важность, Флок не объяснил подробно, как Audit Assistance работает на практике.

Некоторые официальные комментарии дают некоторое представление о том, что может делать служба помощи при аудите; однако, когда речь заходит о том, как именно она это делает, информация становится расплывчатой.

Например, руководитель отдела доверия и соответствия требованиям Flock Эшли Хабер в видеоролике заявила, что функция «Помощь при аудите» может выявлять «странную историю поиска конкретного пользователя», помогая клиентам понять, как их пользователи работают с системой. В другом видео соучредитель Flock Пейдж Тодд сказала: «Функция «Помощь при аудите» выявляет необычные закономерности на ранней стадии. Например, пользователь ищет один и тот же номерной знак несколько раз в течение более 30 дней».

А майор Патрик Криг из полицейского управления Данвуди, штат Джорджия, являющийся клиентом Flock, описал эту функцию в пресс-релизе как «алгоритм, который уведомляет нас о любых проявлениях предвзятости».

Флок описывает функцию «Помощь при аудите» как инструмент, позволяющий «выявлять нетипичные действия на ранней стадии и быстро их анализировать с помощью четкого, документированного рабочего процесса».

Неясно — и TechCrunch задавал вопросы по этому поводу — как на самом деле работает этот «алгоритм», на каких данных он обучается и был ли он разработан с использованием большой языковой модели. TechCrunch также спрашивал, какие закономерности он призван выявлять и что именно помечается как «аномальная активность»?

По словам Флока, инструмент Audit Assistance не основан на машинном обучении или искусственном интеллекте. Компания сообщила TechCrunch, что «это инструмент для анализа данных, который выявляет нетипичные шаблоны поиска для дальнейшего изучения. Например, сигнал тревоги может появиться, если пользователь ищет один и тот же номерной знак, используя несколько разных кодов дел, поскольку это потенциально может указывать на злоупотребление. Сигнал тревоги не означает, что это обязательно злоупотребление — это лишь означает, что требуется дальнейшее расследование».

Однако остается множество вопросов без ответа, в том числе, располагает ли Flock какой-либо статистикой или данными, показывающими эффективность инструмента, каковы показатели ложноположительных и ложноотрицательных результатов, и проходил ли он аудит независимой третьей стороной?

Эксперты по вопросам конфиденциальности и критики Flock не в восторге от функции Audit Assistance.

Старший советник по вопросам политики Американского союза гражданских свобод Чад Марлоу в ответ на заявление Флока написал, что «нет никаких доказательств того, что этот инструмент работает стабильно» в борьбе со злоупотреблениями.

«Хотя десятки офицеров недавно были арестованы, уволены или подвергнуты другим дисциплинарным взысканиям за неправомерное использование Flock в личных целях, Flock утверждает, что эти аресты доказывают эффективность его инструмента аудита», — написал Марлоу. «Однако, пока мы не узнаем количество офицеров, злоупотребляющих системой, мы не можем сделать вывод о том, выявляют ли Flock и его инструменты аудита 95% нарушителей или только 5%. Flock необходимо подвергнуть анализу своего инструмента аудита независимому эксперту, чтобы определить его реальную эффективность. До тех пор мы не знаем, является ли этот инструмент реальной мерой безопасности или просто показухой».

Купер Квинтин, исследователь в области безопасности и старший специалист по технологиям, работающим в интересах общества, в организации Electronic Frontier Foundation, заявил TechCrunch, что эффективность системы Audit Assistance может даже не иметь значения.

«Если это сработает, правоохранительные органы найдут способы обойти это», — сказал он, добавив, что в конечном итоге важно, будут ли злоумышленники пойманы и привлечены к ответственности. «Если за злоупотребления не будет никаких последствий, и тот, кому [этот инструмент] подчиняется, — это то же самое полицейское управление, которое совершает злоупотребления, это всего лишь фиговый лист для Flock. Лучший способ обеспечить подотчетность — принять законы, ограничивающие использование этой технологии и требующие ордера на ее использование».

Рэйчел Левинсон-Уолдман, директор программы «Свобода и национальная безопасность» Центра Бреннана, заявила TechCrunch, что введение обязательного использования системы Audit Assistance — это шаг в правильном направлении, и что «в теории» этот инструмент — «отличная идея». Но она также отметила, что сам инструмент «нуждается в аудите», поскольку недостаточно информации о том, как он работает на практике.

Заявления Flock появились после многолетних сообщений о случаях злоупотребления технологиями со стороны клиентов компании. Ранее на этой неделе были арестованы трое бывших помощников шерифа штата Джорджия, которых обвинили в использовании камер Flock для слежки за людьми, с которыми у них на тот момент были «личные отношения», как говорится в пресс-релизе управления шерифа округа Бибб. В этом случае шериф округа Бибб Дэвид Дэвис особо отметил новый инструмент Flock — Audit Assistance — за выявление случаев неправомерного использования.

Источник: techcrunch.com