«В отношении того, как компании внедряют ИИ, будет меньше, если вообще будут, мер принудительного характера», — говорит бывший юрист Федеральной торговой комиссии Лия Фрейзер.
Большинство американцев обращаются в Федеральную торговую комиссию только в случае мошенничества: она занимается кражей личных данных, мошенничеством и хищением информации. Во время администрации Байдена агентство преследовало компании, занимающиеся искусственным интеллектом, за обман клиентов с помощью вводящей в заблуждение рекламы или причинение вреда людям путем продажи безответственных технологий. С вчерашним объявлением плана действий президента Трампа в области ИИ эта эпоха, возможно, подошла к концу.
В последние месяцы правления администрации Байдена под председательством Лины Хан Федеральная торговая комиссия (FTC) наложила ряд громких штрафов и приняла меры против компаний, занимающихся искусственным интеллектом, за чрезмерное преувеличение возможностей своих технологий и искажение правды, а в некоторых случаях и за заявления, которые были полностью ложными.
В ходе расследования выяснилось, что гигант в сфере безопасности Evolv лгал о точности своих контрольно-пропускных пунктов с искусственным интеллектом, используемых на стадионах и в школах, но не смог обнаружить семидюймовый нож, который в итоге был использован для нанесения ножевого ранения ученику. Также были наложены санкции на компанию Intellivision, занимающуюся распознаванием лиц, заявив, что компания делала необоснованные заявления о том, что ее инструменты работают без гендерной или расовой предвзятости. Кроме того, были оштрафованы стартапы, обещавшие фальшивые услуги «юристов с использованием ИИ», и один из них, продававший поддельные отзывы о товарах, созданные с помощью ИИ.
Эти действия не привели к штрафам, которые бы парализовали компании, но они предотвратили распространение ложных сведений и предоставили клиентам возможности вернуть свои деньги или расторгнуть контракты. В каждом случае, как установила Федеральная торговая комиссия, обычные люди пострадали от компаний, занимающихся искусственным интеллектом, которые позволили своим технологиям выйти из-под контроля.
План, опубликованный вчера администрацией Трампа, свидетельствует о том, что она считает эти действия чрезмерными. В разделе, посвященном устранению «бюрократии и обременительного регулирования», Белый дом заявляет, что пересмотрит все действия Федеральной торговой комиссии, предпринятые при администрации Байдена, «чтобы убедиться, что они не способствуют формированию теорий ответственности, которые чрезмерно обременяют инновации в области ИИ». В том же разделе Белый дом заявляет, что будет удерживать федеральное финансирование, связанное с ИИ, от штатов с «обременительными» правилами.
Этот шаг администрации Трампа — последний в её развивающейся атаке на это ведомство, которое предоставляет значительную возможность защиты прав людей, пострадавших от ИИ в США. Вероятно, это приведёт к более быстрому внедрению ИИ с меньшим количеством проверок на точность, справедливость или вред для потребителей.
Под руководством Хан, назначенной Байденом, Федеральная торговая комиссия (FTC) обрела сторонников в неожиданных местах. Прогрессисты призывали ее к борьбе с монополистическим поведением крупных технологических компаний, но некоторые из окружения Трампа, включая вице-президента Джей Ди Вэнса, также поддерживали Хан в ее борьбе против технологической элиты, хотя и с другой целью — положить конец их предполагаемой цензуре консервативных высказываний.
Но в январе, после ухода Хана и возвращения Трампа в Белый дом, эта динамика практически рухнула. В феврале Трамп издал указ, обещающий «обуздать» независимые агентства, такие как Федеральная торговая комиссия, которые оказывают влияние, не консультируясь с президентом. В следующем месяце он начал доводить это обещание до — и даже за — его законные пределы.
В марте он уволил двух единственных комиссаров-демократов в Федеральной торговой комиссии. 17 июля федеральный суд постановил, что одно из этих увольнений, комиссара Ребекки Слотер, было незаконным, учитывая независимость агентства, и восстановил Слотер в ее должности (другой уволенный комиссар, Альваро Бедойя, предпочел уйти в отставку, а не оспаривать увольнение в суде, поэтому его дело было прекращено). Теперь Слотер является единственным комиссаром-демократом.
Включив Федеральную торговую комиссию (FTC) в свой план действий, Белый дом идет еще дальше, представляя действия агентства как серьезное препятствие на пути к победе США в «гонке вооружений» по разработке более совершенного искусственного интеллекта быстрее, чем Китай. Он обещает не только изменить курс агентства в будущем, но и пересмотреть и, возможно, даже отменить санкции, связанные с ИИ, которые оно ввело за последние четыре года.
Как это может развиться? Лия Фрейзер, проработавшая в Федеральной торговой комиссии 17 лет до ухода в мае и являвшаяся советником Хана, говорит, что полезно рассматривать действия агентства против компаний, занимающихся искусственным интеллектом, как попадающие в две области, каждая из которых имеет очень разный уровень поддержки среди различных политических взглядов.
Первый случай касается случаев обмана, когда компании, занимающиеся искусственным интеллектом, вводят потребителей в заблуждение. Рассмотрим случай с компанией Evolv или недавний случай, объявленный в апреле, когда Федеральная торговая комиссия утверждает, что компания Workado, предлагающая инструмент для определения того, был ли контент написан с использованием ИИ, не располагает доказательствами, подтверждающими её заявления. По словам Фрейзер, дела об обмане пользовались довольно широкой поддержкой со стороны обеих партий во время её пребывания в должности.
«Есть также дела, касающиеся ответственного использования ИИ, и они, похоже, не пользовались особой поддержкой общественности», — добавляет Фрейзер, который сейчас руководит Инициативой по цифровой справедливости в Комитете юристов по гражданским правам. В этих делах не утверждается обман; скорее, в них говорится о том, что компании использовали ИИ таким образом, что это причиняет вред людям.
Самое серьезное из этих нарушений, которое привело, возможно, к самым значительным мерам, связанным с ИИ, когда-либо предпринятым Федеральной торговой комиссией (FTC) и расследовалось Фрейзером, было объявлено в 2023 году. FTC запретила Rite Aid использовать технологию распознавания лиц на основе ИИ в своих магазинах после того, как обнаружила, что технология ложно помечала людей, особенно женщин и людей с темным цветом кожи, как магазинных воров. «Действуя на основании ложных срабатываний, — написала FTC, — сотрудники Rite Aid следили за покупателями по своим магазинам, обыскивали их, приказывали им уйти и вызывали полицию, чтобы задержать или выдворить покупателей».
Федеральная торговая комиссия (FTC) установила, что компания Rite Aid не смогла защитить людей от подобных ошибок, не осуществляла мониторинг и тестирование технологии, а также не провела надлежащего обучения сотрудников по ее использованию. Компании было запрещено использовать технологию распознавания лиц в течение пяти лет.
Это было очень важно. Эти действия вышли за рамки проверки фактов, касающихся обманчивых обещаний компаний, занимающихся ИИ, привлечь Rite Aid к ответственности за вред, нанесенный потребителям их технологиями ИИ. Фрейзер считает, что подобные дела о ответственности за использование ИИ могут исчезнуть в новой Федеральной торговой комиссии, особенно если они связаны с проверкой моделей ИИ на предвзятость.
«В отношении того, как компании внедряют ИИ, будет меньше, если вообще будут, мер по контролю», — говорит она. Более широкая философия Белого дома в отношении ИИ, упомянутая в плане, — это подход «сначала попробуй», который направлен на ускорение внедрения ИИ повсюду, от Пентагона до врачебных кабинетов. Отсутствие контроля со стороны Федеральной торговой комиссии, которое, вероятно, последует, по словам Фрейзер, «опасно для общества».
Источник: www.technologyreview.com
