Google подает в суд на китайскую сеть киберпреступников, которая использовала Gemini для автоматизации мошеннических схем.

Мошенники, предположительно, обманули сотни тысяч людей, используя мошеннические сайты с кодом Gemini.

Фото: Аурих Лоусон Фото: Аурих Лоусон

Google обожает рассказывать нам обо всех способах, которыми люди используют его продукты на основе генеративного ИИ для создания чего-то нового, развития бизнеса и спасения мира. По крайней мере, так утверждается. Конечно, люди также используют ИИ в преступных целях. Google объявил о новом судебном преследовании китайской группы Outsider Enterprise, которая, предположительно, ответственна за масштабную мошенническую кампанию с использованием ИИ. Google заявляет, что сотрудничает с правоохранительными органами и операторами мобильной связи для борьбы с ними.

Согласно юридическим документам Google, Outsider Enterprise действует через Telegram. Группа предлагает фишинговые услуги лицам, которые, возможно, недостаточно технически подкованы, чтобы самостоятельно создавать мошеннические веб-сайты и рассылать SMS-сообщения. Сообщается, что в своих каналах Telegram Outsider Enterprise предоставляла инструкции по использованию искусственного интеллекта Google Gemini для создания веб-сайтов, имитирующих сайты Google, YouTube и государственных учреждений, таких как нью-йоркская система E-ZPass. Группа предлагала около 300 шаблонов мошеннических схем.

Google утверждает, что мошеннические схемы, осуществляемые при поддержке Outsider Enterprise, привели к отправке более 2,5 миллионов текстовых сообщений пользователям Android. Около 55 000 из этих сообщений были отправлены за две недели прошлого месяца. В общей сложности Google отследил 9000 поддельных веб-сайтов и 1 миллион URL-адресов, связанных с этой мошеннической сетью.

В текстовых сообщениях часто утверждалось о проблемах с учетной записью или с доставкой посылки. Переходя по ссылкам, пользователи попадали на один из этих мошеннических сайтов, созданных компанией Gemini так, чтобы выглядеть законными. Киберпреступники использовали эти сайты для кражи личных данных и банковской информации. В заявлении Google не указана сумма денег, украденных в результате мошенничества с Outsider Enterprise, но в сообщении в блоге отмечается, что сотни людей потеряли определенную сумму денег.

Google сотрудничала с AT&T, Verizon и T-Mobile для блокировки многих из этих вредоносных текстовых сообщений, и Google отмечает, что встроенная функция обнаружения мошенничества в Google Messages, вероятно, также помогла сократить количество успешных фишинговых попыток. Эта функция, работающая на основе искусственного интеллекта, по-видимому, блокирует 10 миллиардов мошеннических текстовых сообщений каждый месяц, поэтому вполне справедливо ожидать, что она выявила как минимум часть активности сторонних организаций.

Законы, касающиеся угроз искусственному интеллекту.

Google и раньше подавал иски против мошенников, но это первый случай, когда компания предприняла прямые действия против группы, предположительно использующей Gemini в своих мошеннических схемах. Google рассказывает о мерах безопасности, заложенных в Gemini, каждый раз, когда анонсирует новую модель, но эти меры могут противоречить основной необходимости для чат-ботов следовать инструкциям и угождать пользователям. В результате тысячи мошенников используют Gemini для создания поддельных веб-сайтов.

Помимо гражданского иска, Google оказывает помощь отделу по борьбе с киберпреступностью ФБР в параллельном уголовном расследовании. Однако никто не знает, кто стоит за Outsider Enterprise, и даже если бы у Google были имена, мало что можно сделать, когда преступники находятся в Китае. Компания может преследовать мошеннические домены и аккаунты Telegram в надежде сорвать деятельность Outsider Enterprise, но мошеннические схемы могут просто изменить свою форму.

Google считает, что эра ИИ требует новых подходов к правоохранительной деятельности, поэтому компания использует эту возможность, чтобы вновь публично поддержать ряд законодательных инициатив. Компания назвала семь различных потенциальных федеральных законов, таких как Закон о национальной стратегии борьбы с мошенничеством, Закон о стратегической целевой группе по предотвращению мошенничества и Закон о плане развития ИИ.

Большинство законопроектов, продвигаемых Google, призывают одно или несколько федеральных правоохранительных органов создать целевые группы для противодействия угрозе мошенничества и манипулирования рынком с использованием ИИ. Один из них (Закон о кампании по повышению осведомленности и просвещению общественности об искусственном интеллекте) направлен на улучшение способности общественности распознавать злонамеренное использование ИИ. Однако общеотраслевая цель достижения человекоподобного интеллекта в системах ИИ лишь затруднит выявление подобного контента, даже при наличии всех благих намерений со стороны правительства.

Источник: arstechnica.com