Архив рубрики ~Коротко из Telegram~

ИИ становится всё менее понятным даже для своих создателей 40+…

25.07.2025

ИИ становится всё менее понятным даже для своих создателей

40+ исследователей опубликовали статью о рисках безопасности нейросетей. Среди подписавшихся — сооснователь OpenAI Илья Суцкевер.

Что важно:
— Есть метод отслеживания рассуждений моделей (CoT-мониторинг) — он ищет потенциальные угрозы в их логике.
— Уже находят случаи, где модели без стеснения предлагают взломать или саботировать.
— В будущем нейросети могут перейти от понятного reasoning к общению в скрытых форматах или собственных «языках».

Становится всё сложнее понять, о чём они думают. Остальное, по словам авторов, пока под контролем.

file 256

❌ Нет тегов для этой статьи

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков? Архив рубрики ~Лента новостей~ Воспоминания об АОНе. Как работал определитель номера и почему он вызывал столько дискуссий Архив рубрики ~Лента новостей~ Микропластик сорбировал железо и медь из сыворотки крови. Они вошли в состав белковой короны на частицах пластика Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков? Архив рубрики ~Лента новостей~ Воспоминания об АОНе. Как работал определитель номера и почему он вызывал столько дискуссий Архив рубрики ~Лента новостей~ Микропластик сорбировал железо и медь из сыворотки крови. Они вошли в состав белковой короны на частицах пластика

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48