Архив рубрики ~Коротко из Telegram~

В Anthropic дали ИИ больше 10% шансов уничтожить человечество в…

10.09.2026 ideipro.ru

File 1758

В Anthropic дали ИИ больше 10% шансов уничтожить человечество в ближайшие 10 лет.

Прямо так и заявил глава по ИИ-безопасности компании: Anthropic не знает, как гарантировать безопасность и научить AGI человеческим ценностям.

Да, мы реально верим, что ИИ может убить всё человечество. Лично я ставлю больше 10% на ближайшие десять лет. Плана, как научить сверхразум человеческим ценностям, у нас нет. И признаков, что мы к движемся к такому плану — тоже.

Зато есть план на сегодня: не паниковать до следующего релиза.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Как сделать музыкальный клип c песней на русском в ChatGPT или Claude без навыков монтажа и опыта написания промптов: от идеи до готового видео + Skill Архив рубрики ~Лента новостей~ Как помочь AI не терять контекст при длительной работе над проектом Архив рубрики ~Лента новостей~ На Огненной Земле нашли обломки старинного корабля. Возможно, останки связаны с крушением 1873 года Архив рубрики ~Лента новостей~ Искусственный интеллект потребляет столько же энергии, сколько Исландия, но учёные не беспокоятся. Новости робототехники Приводимый в движение мышечными клетками, тончайший, как бумага, робот плывет по водному лабиринту. Архив рубрики ~Лента новостей~ Кладбище ИИ: постоянно пополняющийся список проектов и стартапов, которым не суждено было сбыться. Архив рубрики ~Лента новостей~ ИИ продаёт против человека: неделя 0 Архив рубрики ~Лента новостей~ Чек‑лист по хранению ключей в репозиториях на основе инцидентов с ИИ‑агентами Архив рубрики ~Лента новостей~ Робот с искусственным интеллектом учится более эффективно собирать помидоры. Архив рубрики ~Лента новостей~ Материал, напоминающий «роботизированную руку» венериной мухоловки, способен распознавать объекты и захватывать их под воздействием света. Архив рубрики ~Лента новостей~ Стартапам не нужно становиться вирусными, чтобы завоевать клиентов. Архив рубрики ~Лента новостей~ Создание сценариев для экстремальных событий без использования экстремальных данных. Архив рубрики ~Лента новостей~ 4,9 на 3000 отзывов. Сколько из них написал живой человек? Архив рубрики ~Лента новостей~ Сколько примеров нужно, чтобы проверить безопасность AI-приложения Архив рубрики ~Лента новостей~ Как сделать музыкальный клип c песней на русском в ChatGPT или Claude без навыков монтажа и опыта написания промптов: от идеи до готового видео + Skill Архив рубрики ~Лента новостей~ Как помочь AI не терять контекст при длительной работе над проектом Архив рубрики ~Лента новостей~ На Огненной Земле нашли обломки старинного корабля. Возможно, останки связаны с крушением 1873 года Архив рубрики ~Лента новостей~ Искусственный интеллект потребляет столько же энергии, сколько Исландия, но учёные не беспокоятся. Новости робототехники Приводимый в движение мышечными клетками, тончайший, как бумага, робот плывет по водному лабиринту. Архив рубрики ~Лента новостей~ Кладбище ИИ: постоянно пополняющийся список проектов и стартапов, которым не суждено было сбыться. Архив рубрики ~Лента новостей~ ИИ продаёт против человека: неделя 0 Архив рубрики ~Лента новостей~ Чек‑лист по хранению ключей в репозиториях на основе инцидентов с ИИ‑агентами Архив рубрики ~Лента новостей~ Робот с искусственным интеллектом учится более эффективно собирать помидоры. Архив рубрики ~Лента новостей~ Материал, напоминающий «роботизированную руку» венериной мухоловки, способен распознавать объекты и захватывать их под воздействием света. Архив рубрики ~Лента новостей~ Стартапам не нужно становиться вирусными, чтобы завоевать клиентов. Архив рубрики ~Лента новостей~ Создание сценариев для экстремальных событий без использования экстремальных данных. Архив рубрики ~Лента новостей~ 4,9 на 3000 отзывов. Сколько из них написал живой человек? Архив рубрики ~Лента новостей~ Сколько примеров нужно, чтобы проверить безопасность AI-приложения

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48