Скайнет временно отменяется — OpenAI поставили разработку Astra на паузу…

Скайнет временно отменяется — OpenAI поставили разработку Astra на паузу

Компания призналась, что модель может достичь критического уровня для кибербезопасности, поэтому обучение с подкреплением заморозили на 2 недели.

Сейчас разработчики проводят обучение и оценки в меньшем масштабе, чтобы оценить поведение, проверить механизмы защиты и получить больше доказательств безопасности. Теперь модели с доступом к коду и интернету держат в изолированной среде, а их действия проверяются в реальном времени. Попытки взлома и кражи данных пресекаются.

Хорошо греет Альтман, что сказать.