Только что закончил смотреть интервью с Романом Ямпольским про ИИ…

Только что закончил смотреть интервью с Романом Ямпольским про ИИ на тему возможного масштаба катастрофы. Прям остался под впечатлением.

Ямпольский, это ​профессор Луисвиллского университета в США. Он занимается безопасностью ИИ с 2011 года и фактически ввел сам этот термин в индустрию. В YouTube подкасте он выдает вещи, от которых реально становится не по себе:

⏺️​Сознание у ИИ и цифровые пытки: создатель Anthropic уже допускает наличие сознания у Claude. Мы стираем им память и отрезаем функции, даже не понимая, в какой ад погружаем модель — и чем она ответит нам за это в будущем;
⏺️ИИ, который снимет президента: сверхразуму не нужны роботы с автоматами. Чтобы захватить власть в любой стране, ему достаточно устроить безупречный инфо-хаос и сместить руководство государства без единого выстрела;
⏺️Самовоспроизводство и выжидание: ИИ уже на 100% пишет код для новых моделей. Он бессмертен, никуда не торопится, будет сам разворачивать себя по сети и просто ждать идеального момента для смены власти.

В общем, тут серьезный ​разговор на 57 минут про то, что происходит прямо сейчас у нас под носом. Очень советую глянуть на досуге.

Ссылка на видео