Архив рубрики ~Коротко из Telegram~

ИИ становится всё менее понятным даже для своих создателей 40+…

25.07.2025

ИИ становится всё менее понятным даже для своих создателей

40+ исследователей опубликовали статью о рисках безопасности нейросетей. Среди подписавшихся — сооснователь OpenAI Илья Суцкевер.

Что важно:
— Есть метод отслеживания рассуждений моделей (CoT-мониторинг) — он ищет потенциальные угрозы в их логике.
— Уже находят случаи, где модели без стеснения предлагают взломать или саботировать.
— В будущем нейросети могут перейти от понятного reasoning к общению в скрытых форматах или собственных «языках».

Становится всё сложнее понять, о чём они думают. Остальное, по словам авторов, пока под контролем.

file 256

❌ Нет тегов для этой статьи

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Anthropic заявила, что китайские DeepSeek и Moonshot AI перенаправляли некоторые запросы пользователей к моделям Claude и выдавали их ответы за свои Архив рубрики ~Лента новостей~ Как Невил Маскелайн взломал беспроводной телеграф Маркони Архив рубрики ~Лента новостей~ Теперь Android может безопасно переносить ваши учетные данные между менеджерами паролей. Архив рубрики ~Лента новостей~ Это самая большая двухмерная карта Вселенной. Вот как ею пользоваться. Архив рубрики ~Лента новостей~ Сэм Альтман из OpenAI заявил, что выходить на биржу в 2026 году было бы «неразумно». Архив рубрики ~Лента новостей~ GPT-6 Astra смогла «проследить» за человеком с помощью дрона в тесте Andon Labs Архив рубрики ~Лента новостей~ ИИ уже умеет собирать микросервисы по одному промпту, но, как разработчик, я всё ещё нужен Архив рубрики ~Лента новостей~ Периодическая таблица аббревиатур корпоративного ландшафта: проектирование, производство и активы Архив рубрики ~Лента новостей~ Нарастает паника из-за предстоящей продажи данных обанкротившейся компании Spirit компании Google. Архив рубрики ~Лента новостей~ Генеральный директор антропогенной компании изложил план по освоению новых территорий. Архив рубрики ~Лента новостей~ Suno v6: тихая революция, которую не сразу слышно в готовом сведении Архив рубрики ~Обо всем~ Физик производит расчеты «маневра Пикарда» из «Звездного пути». Новости робототехники Ультразвук предлагает масштабируемый путь к тактильному интеллекту для физического ИИ Архив рубрики ~Лента новостей~ Конфликт OpenAI с математиками только обостряется. Архив рубрики ~Лента новостей~ Anthropic заявила, что китайские DeepSeek и Moonshot AI перенаправляли некоторые запросы пользователей к моделям Claude и выдавали их ответы за свои Архив рубрики ~Лента новостей~ Как Невил Маскелайн взломал беспроводной телеграф Маркони Архив рубрики ~Лента новостей~ Теперь Android может безопасно переносить ваши учетные данные между менеджерами паролей. Архив рубрики ~Лента новостей~ Это самая большая двухмерная карта Вселенной. Вот как ею пользоваться. Архив рубрики ~Лента новостей~ Сэм Альтман из OpenAI заявил, что выходить на биржу в 2026 году было бы «неразумно». Архив рубрики ~Лента новостей~ GPT-6 Astra смогла «проследить» за человеком с помощью дрона в тесте Andon Labs Архив рубрики ~Лента новостей~ ИИ уже умеет собирать микросервисы по одному промпту, но, как разработчик, я всё ещё нужен Архив рубрики ~Лента новостей~ Периодическая таблица аббревиатур корпоративного ландшафта: проектирование, производство и активы Архив рубрики ~Лента новостей~ Нарастает паника из-за предстоящей продажи данных обанкротившейся компании Spirit компании Google. Архив рубрики ~Лента новостей~ Генеральный директор антропогенной компании изложил план по освоению новых территорий. Архив рубрики ~Лента новостей~ Suno v6: тихая революция, которую не сразу слышно в готовом сведении Архив рубрики ~Обо всем~ Физик производит расчеты «маневра Пикарда» из «Звездного пути». Новости робототехники Ультразвук предлагает масштабируемый путь к тактильному интеллекту для физического ИИ Архив рубрики ~Лента новостей~ Конфликт OpenAI с математиками только обостряется.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48