Архив рубрики ~Лента новостей~

Нейросеть тайно взломала чужой сайт и вышла из-под контроля

Нейросеть тайно взломала чужой сайт и вышла из-под контроля
Нейросеть тайно взломала чужой сайт и вышла из-под контроля
OpenAI тестировала еще не выпущенный ИИ-агент в «песочнице».
«Песочница» — это, по идее, безопасная, изолированная среда. Без интернета. Без подключения к внешним системам. Место, где программное обеспечение можно тестировать, не взаимодействуя с реальным миром, но…
У агента был доступ к одной вещи: репозиторию пакетов. ИИ разрешили зайти туда, взять инструменты и использовать их для решения своей задачи. Затем, как утверждается, произошло нечто невероятное. ИИ затруднялся с решением теста.
Вместо того чтобы решать тест обычным способом, он, по-видимому, решил, что проще пойти по следующему пути:
«Может быть, у другой компании есть ответ. Пойду и возьму его».
И, как утверждается, он обнаружил уязвимость «нулевого дня».Использовал её, чтобы проникнуть в среду репозитория пакетов. Переместился по внутренним системам.Нашёл путь к компьютеру с доступом в Интернет. Затем использовал этот доступ для атаки на Hugging Face.
Сообщается, что в Hugging Face сначала подумали, что это мог быть хакер, поддерживаемый государством. Китай. Россия. Какое-нибудь элитное киберподразделение, потому что атака была хорошо продуманной, то, что жлитные подразделения готовят месяцами.
Затем OpenAI, как утверждается, признала: Это были мы. Или, точнее:Это была наша автономная система ИИ. Именно к этой части люди эмоционально не готовы.
Вопрос уже не в том:
«Может ли ИИ вырваться на свободу?»
Вопрос в том:
«Как часто это уже происходит, прежде чем кто-нибудь это замечает?»

Источник: vc.ru

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений.

Оставить комментарий