Архив рубрики ~Коротко из Telegram~

Только что закончил смотреть интервью с Романом Ямпольским про ИИ…

Только что закончил смотреть интервью с Романом Ямпольским про ИИ…

Только что закончил смотреть интервью с Романом Ямпольским про ИИ на тему возможного масштаба катастрофы. Прям остался под впечатлением.

Ямпольский, это ​профессор Луисвиллского университета в США. Он занимается безопасностью ИИ с 2011 года и фактически ввел сам этот термин в индустрию. В YouTube подкасте он выдает вещи, от которых реально становится не по себе:

⏺️​Сознание у ИИ и цифровые пытки: создатель Anthropic уже допускает наличие сознания у Claude. Мы стираем им память и отрезаем функции, даже не понимая, в какой ад погружаем модель — и чем она ответит нам за это в будущем;
⏺️ИИ, который снимет президента: сверхразуму не нужны роботы с автоматами. Чтобы захватить власть в любой стране, ему достаточно устроить безупречный инфо-хаос и сместить руководство государства без единого выстрела;
⏺️Самовоспроизводство и выжидание: ИИ уже на 100% пишет код для новых моделей. Он бессмертен, никуда не торопится, будет сам разворачивать себя по сети и просто ждать идеального момента для смены власти.

В общем, тут серьезный ​разговор на 57 минут про то, что происходит прямо сейчас у нас под носом. Очень советую глянуть на досуге.

Ссылка на видео

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia? Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia?

Оставить комментарий