Кажется реально началось. Дарио Амодеи призвал притормозить гонку ИИ. В…

Кажется реально началось🍿
Дарио Амодеи призвал притормозить гонку ИИ. В новом эссе глава Anthropic пишет, что рекурсивное самоулучшение уже достигнуто: ИИ помогает создавать следующий ИИ, а безопасность рискует не поспеть. Он опасается, что через 6–12 месяцев более мощные системы смогут проводить атаки масштаба всего интернета.
Anthropic обещает пустить независимых проверяющих внутрь компании: дать постоянный доступ к системам на уровне сотрудников и право публиковать неудобные выводы. Дальше Амодеи предлагает согласовать ограничения между ведущими лабораториями, а затем между странами, включая Китай.

Остановку обучения Anthropic не объявила💰, но её руководитель теперь прямо выступает за ограничение темпа развития самых мощных моделей🐈

один раз он уже паниковал и фейбл прикрывали на какое-то время👁 вызываем санитаров или верим?
походу просто не могут догнать OpenAI перед IPO🤣

P.S.
Уже и Илон поддакивает
Сэм тоже поддержал