Пока в Америке спорят, стоит ли жать на тормоз, в…

Пока в Америке спорят, стоит ли жать на тормоз, в Китае жмут на газ

Дарио Амодеи написал эссе о том, что разработку ИИ пора замедлить — и получил неожиданный отклик. С ним согласились Сэм Альтман, Илон Маск, Демис Хассабис, Андрей Карпаты — практически все ключевые фигуры индустрии. Такого единодушия не было годами.

Аргумент Амодеи заключается в том, что прогресс в ИИ особенно ускорился с лета 2026 года. Одна из причин — модели всё активнее участвуют в создании следующих версий самих себя: генерируют данные, пишут код, создают тестовые задачи и участвуют в оптимизации экспериментов.

Рекурсивное самосовершенствование (RSI) — это ещё не свершившийся факт, но индустрия неуклонно движется в эту сторону. Опасность в том, что без контроля этот цикл может замкнуться сам на себя — и тогда скорость развития систем обгонит скорость, с которой люди успевают их понимать и вмешиваться, если что-то пойдёт не так.

RSI пугает одних и вдохновляет других

А тем временем на другом конце света Z.AI подали документы на Гонконгскую биржу с прямо противоположным месседжем: они хотят привлечь 50 миллиардов долларов, и около 60% суммы пойдёт на обучение следующей версии GLM по технологии, которую в документе называют Fully Self Training. Формулировка дословная: «Следующее поколение GLM обучается в среде, созданной предыдущим поколением GLM, формируя замкнутый цикл Recursive Self-Improvement».

То есть система сама генерирует данные для своего обучения, сама придумывает задачи и среды для тестирования, сама себя оценивает — и даже оптимизирует собственную инфраструктуру.

В долгосрочной перспективе Z.AI прямо говорят о полностью автономной системе, которая принимает решения без участия человека.

🟣Теги: #безопасность_ии