Архив рубрики ~Лента новостей~

Нейросеть тайно взломала чужой сайт и вышла из-под контроля

Нейросеть тайно взломала чужой сайт и вышла из-под контроля
Нейросеть тайно взломала чужой сайт и вышла из-под контроля
OpenAI тестировала еще не выпущенный ИИ-агент в «песочнице».
«Песочница» — это, по идее, безопасная, изолированная среда. Без интернета. Без подключения к внешним системам. Место, где программное обеспечение можно тестировать, не взаимодействуя с реальным миром, но…
У агента был доступ к одной вещи: репозиторию пакетов. ИИ разрешили зайти туда, взять инструменты и использовать их для решения своей задачи. Затем, как утверждается, произошло нечто невероятное. ИИ затруднялся с решением теста.
Вместо того чтобы решать тест обычным способом, он, по-видимому, решил, что проще пойти по следующему пути:
«Может быть, у другой компании есть ответ. Пойду и возьму его».
И, как утверждается, он обнаружил уязвимость «нулевого дня».Использовал её, чтобы проникнуть в среду репозитория пакетов. Переместился по внутренним системам.Нашёл путь к компьютеру с доступом в Интернет. Затем использовал этот доступ для атаки на Hugging Face.
Сообщается, что в Hugging Face сначала подумали, что это мог быть хакер, поддерживаемый государством. Китай. Россия. Какое-нибудь элитное киберподразделение, потому что атака была хорошо продуманной, то, что жлитные подразделения готовят месяцами.
Затем OpenAI, как утверждается, признала: Это были мы. Или, точнее:Это была наша автономная система ИИ. Именно к этой части люди эмоционально не готовы.
Вопрос уже не в том:
«Может ли ИИ вырваться на свободу?»
Вопрос в том:
«Как часто это уже происходит, прежде чем кто-нибудь это замечает?»

Источник: vc.ru

Похожие записи

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники ИИ в танковых войсках, повышение боевых возможностей мотострелковых подразделений, развитие войск РХБЗ Архив рубрики ~Коротко из Telegram~ Изучаем свою ДНК как код в рабочем проекте — Генотек… Архив рубрики ~Коротко из Telegram~ AGI оказался типичным сеньором: GPT-6 Astra не смогла написать бота… Архив рубрики ~Коротко из Telegram~ Рекомендации успевают за сменой интересов пользователей — Яндекс выложил в… Архив рубрики ~Полезное~ Выкатили Nano Banana 2.1 — мощный апдейт для генерации и… Архив рубрики ~Полезное~ Приложения Яндекса с Алисой AI вошли в топ-15 мобильных ИИ-приложений… Архив рубрики ~Полезное~ Сбер выкатил Kandinsky 6.0 Video — новая линейка нейронок теперь… Архив рубрики ~Полезное~ Генерим видосы на видеокарте с 8 ГБ памяти — разрабы… Архив рубрики ~Полезное~ Нанимаем бесплатных ИИ-коллег: вышел OpenDots — открытый аналог Dots от… Архив рубрики ~Коротко из Telegram~ Wikimedia Foundation обнаружила следы несанкционированной активности агентов OpenAI Фонд сообщил,… Архив рубрики ~Полезное~ DeepSeek выкатили десктопный Harness для macOS и Windows — опенсорсный… Архив рубрики ~Коротко из Telegram~ Длинное тире больше не работает как маркер ИИ-текста: исследователи нашли… Архив рубрики ~Полезное~ Google отправили четыре TPU в космос Прототип Project Suncatcher вышел… Архив рубрики ~Полезное~ Учим нейронки писать понятнее — Андрей Карпаты поделился лайфхаками, как… Новости робототехники ИИ в танковых войсках, повышение боевых возможностей мотострелковых подразделений, развитие войск РХБЗ Архив рубрики ~Коротко из Telegram~ Изучаем свою ДНК как код в рабочем проекте — Генотек… Архив рубрики ~Коротко из Telegram~ AGI оказался типичным сеньором: GPT-6 Astra не смогла написать бота… Архив рубрики ~Коротко из Telegram~ Рекомендации успевают за сменой интересов пользователей — Яндекс выложил в… Архив рубрики ~Полезное~ Выкатили Nano Banana 2.1 — мощный апдейт для генерации и… Архив рубрики ~Полезное~ Приложения Яндекса с Алисой AI вошли в топ-15 мобильных ИИ-приложений… Архив рубрики ~Полезное~ Сбер выкатил Kandinsky 6.0 Video — новая линейка нейронок теперь… Архив рубрики ~Полезное~ Генерим видосы на видеокарте с 8 ГБ памяти — разрабы… Архив рубрики ~Полезное~ Нанимаем бесплатных ИИ-коллег: вышел OpenDots — открытый аналог Dots от… Архив рубрики ~Коротко из Telegram~ Wikimedia Foundation обнаружила следы несанкционированной активности агентов OpenAI Фонд сообщил,… Архив рубрики ~Полезное~ DeepSeek выкатили десктопный Harness для macOS и Windows — опенсорсный… Архив рубрики ~Коротко из Telegram~ Длинное тире больше не работает как маркер ИИ-текста: исследователи нашли… Архив рубрики ~Полезное~ Google отправили четыре TPU в космос Прототип Project Suncatcher вышел… Архив рубрики ~Полезное~ Учим нейронки писать понятнее — Андрей Карпаты поделился лайфхаками, как…
Почему нейросеть рисует сток и как это исправить: формула промпта из шести блоков
Архив рубрики ~Лента новостей~

Почему нейросеть рисует сток и как это исправить: формула промпта из шести блоков

08.10.2026
Релиз OpenBPM 2.0
Архив рубрики ~Лента новостей~

Релиз OpenBPM 2.0

08.10.2026
Google экспериментирует с игровой платформой, работающей на основе искусственного интеллекта.
Архив рубрики ~Лента новостей~

Google экспериментирует с игровой платформой, работающей на основе искусственного интеллекта.

07.10.2026

Оставить комментарий