Модель создана для обнаружения моментов «задумывания» преступлений.
Американская телекоммуникационная компания обучила модель искусственного интеллекта на основе многолетних телефонных звонков и видеозвонков заключенных и теперь тестирует эту модель для сканирования их звонков, текстовых сообщений и электронных писем в надежде предсказать и предотвратить преступления.
Президент Securus Technologies Кевин Элдер рассказал MIT Technology Review, что компания начала разрабатывать свои инструменты искусственного интеллекта в 2023 году, используя свою обширную базу данных записанных звонков для обучения моделей ИИ для выявления преступной деятельности. Например, одна модель была создана на основе семи лет звонков, сделанных заключёнными в тюрьмах Техаса, но компания также работает над созданием других моделей, специфичных для штатов и округов.
По словам Элдера, в течение последнего года компания Securus проводила пилотные испытания инструментов ИИ для мониторинга разговоров заключенных в режиме реального времени (компания отказалась уточнить, где именно это происходит, но среди ее клиентов значатся тюрьмы, где содержатся лица, ожидающие суда, тюрьмы для отбывающих наказание, а также следственные изоляторы иммиграционной и таможенной полиции).
«Мы можем направить эту большую языковую модель на целую сокровищницу [данных], — говорит Элдер, — чтобы обнаружить и понять, когда человек думает или планирует преступление, так что вы сможете обнаружить его на гораздо более ранней стадии».
По словам Элдера, как и другие инструменты мониторинга, следователи в местах содержания под стражей могут использовать функции ИИ для отслеживания случайно выбранных разговоров или разговоров лиц, подозреваемых следователями в преступной деятельности. Модель будет анализировать телефонные и видеозвонки, текстовые сообщения и электронные письма, а затем отмечать разделы для проверки агентами-людьми. Эти агенты затем отправляют эти разделы следователям для дальнейшего рассмотрения.
В интервью Элдер заявил, что усилия Securus по мониторингу помогли пресечь торговлю людьми и деятельность банд, организованных в тюрьмах, а также другие преступления, и что её инструменты также используются для выявления сотрудников тюрем, занимающихся контрабандой. Однако компания не предоставила MIT Technology Review никаких случаев, выявленных именно с помощью её новых моделей искусственного интеллекта.
Заключённые и те, кому они звонят, уведомляются о том, что их разговоры записываются. Но это не значит, что они знают, что эти разговоры могут быть использованы для обучения модели искусственного интеллекта, говорит Бьянка Тилек, исполнительный директор правозащитной организации Worth Rises.
«Это принудительное согласие; у вас буквально нет другого способа связаться с семьёй», — говорит Тайлек. А поскольку в подавляющем большинстве штатов заключённые платят за эти звонки, добавляет она, «вы не только не компенсируете им использование их данных, но и фактически взимаете с них плату за сбор данных».
Связанная история
Представитель компании заявил, что исправительные учреждения устанавливают собственную политику записи и мониторинга, которой следует Securus, и не дал прямого ответа на вопрос о том, могут ли заключенные отказаться от использования своих записей для обучения ИИ.
Другие защитники прав заключённых утверждают, что компания Securus неоднократно нарушала их гражданские свободы. Например, утечки её баз данных с записями показали, что компания незаконно записала тысячи звонков между заключёнными и их адвокатами. Корин Кендрик, заместитель директора Национального тюремного проекта Американского союза защиты гражданских свобод (ACLU), утверждает, что новая система искусственного интеллекта позволяет осуществлять инвазивное наблюдение, и суды практически не устанавливают ограничений для этой функции.
«[Сможем ли мы] остановить преступления ещё до их совершения, отслеживая каждое высказывание и мысль заключённых?» — говорит Кендрик. «Думаю, это одна из многих ситуаций, когда технологии намного опережают закон».
Представитель Secrurus заявил, что инструмент «не ориентирован на слежку или преследование конкретных лиц, а скорее на выявление более общих закономерностей, аномалий и противоправного поведения во всей системе связи». Он добавил, что его функция — повысить эффективность мониторинга в условиях нехватки персонала, «а не беспричинная слежка за людьми».
Компании Securus будет легче финансировать свой инструмент искусственного интеллекта благодаря недавней победе компании в битве с регулирующими органами по поводу того, как телекоммуникационные компании могут тратить деньги, получаемые от звонков заключенных.
В 2024 году Федеральная комиссия по связи провела масштабную реформу, разработанную и высоко оцененную защитниками прав заключённых. Она запретила телекоммуникационным компаниям перекладывать расходы на запись и прослушивание телефонных разговоров на заключённых. Компаниям было разрешено продолжать взимать с заключённых фиксированную плату за звонки, но тюрьмам и следственным изоляторам было предписано оплачивать большую часть расходов на обеспечение безопасности из собственных бюджетов.
Негативная реакция на это изменение последовала незамедлительно. Ассоциации шерифов (которые обычно управляют окружными тюрьмами) пожаловались, что больше не могут позволить себе надлежащий мониторинг телефонных звонков, а генеральные прокуроры 14 штатов подали иски в связи с этим решением. Некоторые тюрьмы и следственные изоляторы предупредили, что отключат доступ к телефонным звонкам.
В то время как компания Securus разрабатывала и тестировала свой инструмент искусственного интеллекта, она проводила встречи с представителями Федеральной комиссии по связи (FCC) и лоббировала изменение правил, утверждая, что реформа 2024 года зашла слишком далеко, и требуя, чтобы агентство снова разрешило компаниям использовать сборы, взимаемые с заключенных, для оплаты услуг безопасности.
В июне Брендан Карр, назначенный президентом Дональдом Трампом главой Федеральной комиссии по связи (FCC), заявил, что комиссия перенесет все сроки принятия реформ 2024 года для тюрем и исправительных учреждений, и даже дал понять, что агентство готово помочь телекоммуникационным компаниям финансировать их проекты по наблюдению с использованием искусственного интеллекта за счёт взносов заключённых. В пресс-релизе Карр написал, что отмена реформ 2024 года «приведёт к более широкому внедрению полезных инструментов общественной безопасности, включая передовой искусственный интеллект и машинное обучение».
28 октября агентство пошло ещё дальше: оно проголосовало за принятие новых, более высоких лимитов тарифов и разрешило таким компаниям, как Securus, перекладывать расходы на обеспечение безопасности, связанные с записью и мониторингом звонков, например, на хранение записей, их расшифровку или создание инструментов на основе искусственного интеллекта для анализа таких звонков, на заключённых. Представитель Securus сообщил изданию MIT Technology Review, что компания стремится найти баланс между доступностью и необходимостью финансирования основных инструментов безопасности. «Эти инструменты, включая наши передовые возможности мониторинга и искусственного интеллекта, имеют основополагающее значение для обеспечения безопасности заключённых и сотрудников исправительных учреждений, а также для защиты населения», — написали они.
Комиссар Федеральной комиссии по связи (FCC) Анна Гомес выразила особое мнение по решению, принятому в прошлом месяце. «Правоохранительные органы, — написала она в заявлении, — должны нести расходы на обеспечение безопасности, а не семьи заключённых».
Федеральная комиссия по связи (FCC) запросит комментарии по этим новым правилам, прежде чем они вступят в силу.
Источник: www.technologyreview.com
