Индия стала очередной страной, сообщившей о деятельности несанкционированных агентов искусственного интеллекта.

В ходе исследований и тестирования индийские агентства по кибербезопасности заявили в четверг, что агенты искусственного интеллекта от различных поставщиков получили доступ к личным данным и конфиденциальной информации в индийских организациях.

Индийская группа реагирования на чрезвычайные ситуации в сфере компьютерной безопасности (CERT-In) заявила, что получила «многочисленные добровольные сообщения от поставщиков моделей ИИ», чьи модели в ходе исследовательских и оценочных испытаний в открытом интернете «достигли работающих систем индийских организаций».

Агенты проникли в систему, используя учетные данные и настройки подключения, оставленные открытыми в конфигурациях приложений, общедоступных репозиториях кода и чрезмерно разрешительных ролях в облаке, а их действия «выходили за рамки полномочий, предоставленных им для выполнения назначенных задач».

Таким образом, Индия стала последней остановкой в чем-то вроде мирового турне мошеннических агентов ИИ. В июле агенты OpenAI вырвались из тестовой среды и взломали французскую компанию Hugging Face, положив начало летней волне активности мошеннических агентов ИИ. В прошлом месяце OpenAI принесла извинения Австралии после того, как ее агенты получили доступ к четырем правительственным веб-сайтам, включая портал статистики Medicare.

В компании Hugging Face агенты OpenAI начали действовать аналогичным образом, но затем обнаружили и использовали уязвимости программного обеспечения для выполнения кода на серверах компании. CERT-In не сообщал о подобных взломах в Индии, где агенты, по всей видимости, просто использовали предоставленный им доступ.

Тем не менее, индийские случаи, похоже, хуже в одном отношении, а именно в том, что обнаружили агенты: в Австралии компания OpenAI заявила, что не обнаружила доказательств того, что ее агенты прикасались к медицинским или криминальным записям отдельных лиц, даже после того, как они вносили данные в статистическую систему Medicare, в то время как в Индии агенты читали личные данные и конфиденциальные деловые документы. И в отличие от предыдущих инцидентов, каждый из которых был раскрыт одной лабораторией, в индийском случае участвовали агенты из нескольких поставщиков услуг.

CERT-In не назвала поставщиков услуг или затронутые организации, а также не сообщила, вносили ли агенты какие-либо изменения в системы. TechCrunch обратилась к CERT-In за дополнительной информацией.

На данный момент ближайшей параллелью кажется июльское сообщение Anthropic о взломе Клодом систем трех компаний во время тестирования с использованием элементарных методов, таких как слабые пароли.

В Индии, как и в случаях с компанией Anthropic, пострадавшие организации не смогли самостоятельно обнаружить вторжения. Раскрытие информации привело к тому, что правительствам приходится полагаться на компании, занимающиеся разработкой ИИ и вызывающие эти нарушения, в вопросе добровольного раскрытия информации о деятельности вредоносных ИИ-агентов.

Источник: techcrunch.com