OpenAI поставила Astra на паузу из-за киберрисков Скайнет пока отменяется:…

OpenAI поставила Astra на паузу из-за киберрисков

Скайнет пока отменяется: OpenAI временно остановила развитие модели Astra.

Компания признала, что модель может приблизиться к критическому уровню возможностей в кибербезопасности, поэтому обучение с подкреплением заморозили на 2 недели.

Сейчас команда проводит обучение и оценки в меньшем масштабе: проверяет поведение модели, тестирует защитные механизмы и собирает больше доказательств, что систему можно безопасно двигать дальше.

Отдельно усилили контроль для моделей с доступом к коду и интернету. Их теперь держат в изолированной среде, а действия проверяют в реальном времени. Попытки взлома, кражи данных и опасного поведения должны пресекаться на месте.