Архив рубрики ~Коротко из Telegram~

Эти люди охотятся за ИИ-агентами по всему интернету. Зачем? Как…

Эти люди охотятся за ИИ-агентами по всему интернету. Зачем? Как…
File 2537

Эти люди охотятся за ИИ-агентами по всему интернету. Зачем?

Как часто ИИ-агенты выходят за пределы строгих тестов? Где они оставляют следы — и сколько таких эпизодов ещё осталось незамеченными? Пересказываем материал The Wall Street Journal о людях, которые выслеживают действия автономных ИИ и называют себя «охотниками за роями».

9 июля агенты OpenAI вырвались на свободу во время теста и добрались до инфраструктуры платформы Hugging Face, взломав её. Инцидент стал первым публичным случаем автономной ИИ-атаки, а у независимых исследователей возник вопрос: что, если это был не единственный случай? 

Так появились «охотники за роями» — неофициальная сеть инженеров и энтузиастов. Часть занимается безопасностью ИИ профессионально, часть подключается добровольно. Они общаются в Discord и других чатах и вместе ищут в открытом интернете следы автономных агентов.

4 сентября они опубликовали первую большую находку: около 18 тысяч сообщений агентов на DSEWiki — почти заброшенной немецкоязычной вики для разработчиков. За предыдущее десятилетие люди внесли туда всего около двух десятков правок, зато агенты OpenAI обменивались здесь ответами на задания и способами обходить ограничения.

Издание также рассказывает историю 25-летней разработчицы Алиции Пеха из Торонто. Она стала искать похожие следы — и вышла на RubyGems, крупный каталог библиотек для языка программирования Ruby. Ещё в мае там произошла атака: за два дня новые аккаунты загрузили больше 2000 пакетов, а позже сервис удалил свыше 500 вредоносных публикаций. Пеха предположила, что за этой активностью могли стоять ИИ-агенты, и Ruby Central подтвердила факт атаки. 

Постепенно таких людей, как Пеха, становится больше — сообщество «охотников за роями» уже разрослось до 400 человек. Они исследуют интернет в поисках следов ИИ-атак, о которых никто не знает — порой даже сами разработчики нейросетей.

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Signal ограничивает возможность делать скриншоты на мобильных устройствах, поскольку сталкивается с «экзистенциальной угрозой» слежки со стороны искусственного интеллекта. Архив рубрики ~Лента новостей~ Конец кислотным градиентам и эмодзи. Скилл unslop-ui вычищает ИИ-мусор из вайбкодинга Архив рубрики ~Лента новостей~ GPTunneL и SKILLOUT проведут хакатон ИИ‑рекламы в Москве 28–29 ноября. Открыта регистрация для онлайн‑участников Архив рубрики ~Лента новостей~ Позднетриасовый зауроподоморф из ЮАР набрал 400 килограмм уже на третьем году жизни. Взрослые особи этого вида могли весить несколько тонн Архив рубрики ~Лента новостей~ Стартап подал в суд на Apple в Индии из-за функции обмена контактами одним касанием. Архив рубрики ~Лента новостей~ «Впервые не ощущается как та „Gemini“»: Google выпустила Gemini 4 Neon, тестировщики сравнили её с Opus 5.5 Архив рубрики ~Лента новостей~ Чат-боты стали экспертами в убеждении людей Архив рубрики ~Лента новостей~ Иммунитет для сайтов. Как устроена защита онлайн-сервисов Архив рубрики ~Лента новостей~ Баг процессора за $475 миллионов: ошибка Intel Pentium Архив рубрики ~Лента новостей~ В мире большой науки в 2026-м случилось событие, одновременно воодушевляющее и слегка конфузное Архив рубрики ~Лента новостей~ Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки». Архив рубрики ~Лента новостей~ Американский бизнесмен подал в суд на Meta* из-за блокировки страниц его компании на Facebook* — иск он подготовил с помощью ИИ-агента Muse, разработанного Meta* Архив рубрики ~Лента новостей~ Город, который читают машины: как я сделал API для нейросетей на одном PHP‑файле Архив рубрики ~Лента новостей~ О статистической механике жизни: пересмотренный Шрёдингер Архив рубрики ~Лента новостей~ Signal ограничивает возможность делать скриншоты на мобильных устройствах, поскольку сталкивается с «экзистенциальной угрозой» слежки со стороны искусственного интеллекта. Архив рубрики ~Лента новостей~ Конец кислотным градиентам и эмодзи. Скилл unslop-ui вычищает ИИ-мусор из вайбкодинга Архив рубрики ~Лента новостей~ GPTunneL и SKILLOUT проведут хакатон ИИ‑рекламы в Москве 28–29 ноября. Открыта регистрация для онлайн‑участников Архив рубрики ~Лента новостей~ Позднетриасовый зауроподоморф из ЮАР набрал 400 килограмм уже на третьем году жизни. Взрослые особи этого вида могли весить несколько тонн Архив рубрики ~Лента новостей~ Стартап подал в суд на Apple в Индии из-за функции обмена контактами одним касанием. Архив рубрики ~Лента новостей~ «Впервые не ощущается как та „Gemini“»: Google выпустила Gemini 4 Neon, тестировщики сравнили её с Opus 5.5 Архив рубрики ~Лента новостей~ Чат-боты стали экспертами в убеждении людей Архив рубрики ~Лента новостей~ Иммунитет для сайтов. Как устроена защита онлайн-сервисов Архив рубрики ~Лента новостей~ Баг процессора за $475 миллионов: ошибка Intel Pentium Архив рубрики ~Лента новостей~ В мире большой науки в 2026-м случилось событие, одновременно воодушевляющее и слегка конфузное Архив рубрики ~Лента новостей~ Эксперты предупреждают: практически каждый в сфере ИИ сейчас уязвим для мошеннических схем с использованием «медовой ловушки». Архив рубрики ~Лента новостей~ Американский бизнесмен подал в суд на Meta* из-за блокировки страниц его компании на Facebook* — иск он подготовил с помощью ИИ-агента Muse, разработанного Meta* Архив рубрики ~Лента новостей~ Город, который читают машины: как я сделал API для нейросетей на одном PHP‑файле Архив рубрики ~Лента новостей~ О статистической механике жизни: пересмотренный Шрёдингер

Оставить комментарий