Бот поддержки искусственного интеллекта Meta предоставляет хакерам доступ к аккаунтам других людей в Instagram, просто спросив их

В марте Meta Марка Цукерберга анонсировала новую функцию помощника по поддержке Meta AI на Facebook и Instagram, предоставляющую пользователям возможность “решать проблемы с учетной записью” и помочь в удалении любых мошеннических аккаунтов или мошеннических аккаунтов.

Помимо того, что новая функция подчеркивает, казалось бы, ненасытный аппетит технологической отрасли к автоматизации задач на уровне обслуживания клиентов с помощью ИИ, новая функция, похоже, привела к впечатляющим обратным результатам. Как сообщает 404 Media, чат-бот с радостью согласился, когда хакеры запросили у него доступ к громким профилям Instagram.

Уловка шокирующе проста: после сопоставления географического региона владельца учетной записи с помощью VPN хакеры попросили чат-бота службы поддержки изменить адрес электронной почты, связанный с профилем, тем самым позволив им успешно пройти двухфакторную аутентификацию. Хуже того, уязвимость существует уже несколько месяцев, согласно сообщениям группы Telegram, проверенным 404 Media.

“Либо новый Центр мета-аккаунтов дает сбой, либо мой аккаунт в Инстаграме подвергся попытке взлома,” бывший исследователь Meta и самопровозглашенный хакер Джейн Вонг написала в сообщении Threads. “Похоже, что мой пароль был изменен без моего ведома/мне не удалось войти в систему, используя свой пароль.”

Эксплойт подчеркивает вопиющие проблемы кибербезопасности, которые продолжают беспокоить чат-ботов на базе искусственного интеллекта. Мы видели бесчисленное количество случаев, когда большие инструменты, основанные на языковых моделях, были взломаны, обманом вынуждены лгать или даже галлюцинировать выдуманную политику компании, что приводило к многочисленным путаницам и даже судебным искам.

Эксперты также давно предостерегают от передачи личной информации чат-ботам с искусственным интеллектом, ссылаясь на риск утечки данных. Meta, в частности, заработала репутацию компании, которая постоянно обращается с пользовательскими данными без особой осторожности. В марте, например, The Information сообщила, что собственный ИИ-агент вызвал критический инцидент безопасности в Meta, раскрывая конфиденциальные пользовательские данные людям без надлежащего разрешения.

Хотя неясно, были ли они связаны с последним эксплойтом, эта новость появилась после того, как несколько известных аккаунтов в Instagram, в том числе аккаунты бывшего президента Барака Обамы и главного мастера космических сил Джона Бентивеньи, были взломаны.

Хакеры предлагают доступ к высокопоставленным аккаунтам в обмен на небольшие суммы денег, используя уязвимость, согласно 404 Media.

К счастью, Meta, похоже, исправила проблему, но, учитывая, что эксплойт был обнаружен несколько месяцев назад, ущерб может быть значительным.

Подробнее о мета: Мета-работники говорят, что видят тревожные вещи через умные очки пользователей

Пост Meta’s AI Support Bot предоставляет хакерам доступ к аккаунтам других людей в Instagram, просто спросив, впервые появился на Futurism.

Источник: futurism.com