Организация Anthropic утверждает, что у мира должна быть возможность «приостановить» разработку искусственного интеллекта.

Американская компания заявляет, что созовет политиков для обсуждения опасностей, в сообщении, подробно описывающем прогресс своей модели Клода.

Компания Anthropic выдвинула идею всемирной «временной паузы» в разработке ИИ и заявила, что созовет «политиков» для обсуждения опасностей, связанных с передовым ИИ, в своем последнем пресс-релизе, посвященном возможностям своей продукции.

В развернутом посте, опубликованном в четверг, компания Anthropic подробно описала прогресс своей модели ИИ, Клода, в направлении «рекурсивного самосовершенствования» — то есть, способности создавать лучшие и более мощные версии самого себя. Рекурсивное самосовершенствование является головной болью исследователей в области безопасности ИИ, поскольку рассматривается как ключевой шаг к тому, чтобы ИИ стал сверхинтеллектуальным и, следовательно, нанес широкомасштабный ущерб человечеству.

>>

Источник: www.theguardian.com