Архив рубрики ~Коротко из Telegram~

Вот коротенький дайджест из 3 главных историй, о которых сейчас…

Вот коротенький дайджест из 3 главных историй, о которых сейчас…
File 2002

Вот коротенький дайджест из 3 главных историй, о которых сейчас все говорят.

1. GPT-6 Astra расшифровала военную радиограмму 1941 года, которую не могли вскрыть 85 лет:
В истории Второй мировой войны осталась куча перехваченных немецких радиограмм, зашифрованных легендарной машиной «Энигма», которые историки так и не смогли прочитать.

Разработчик из Bloomberg Картер Леффен решил скормить модели короткое сообщение из 82 символов, отправленное 10 июля 1941 года.
Самое сложное в таких коротких шифровках то, что у зацепки почти нет контекста. Человек может годами перебирать триллионы комбинаций настроек роторов машины.

Astra же в свою очередь не просто угадывала буквы наугад,  а сама написала программу-симулятор машины «Энигма», проанализировала другие уже известные немецкие донесения за тот же день и заметила частое упоминание населенного пункта Розенов.
И вот результат — «Пожалуйста, укажите маршрут движения. Я нахожусь в Розенове. Срочно ответьте по радио».

Подробнее о расшифровке сообщения

2. Модель от Anthropic помогла взломать внутреннее хранилище OpenAI.

Пока одна нейросеть OpenAI щелкает исторические шифры, саму компанию красиво вскрыли с помощью Claude Opus 5 от ее главного соперника Anthropic.

Трое независимых специалистов по безопасности из Hacktron AI решили проверить защиту OpenAI. Но штурмовать их главные сервера в лоб было бы бесполезно, там наверняка стоит колоссальная защита. Парни пошли в обход и заглянули на открытый форум техподдержки community.openai.com, куда обычные пользователи приходят жаловаться на ошибки.

Оказалось, если закинуть туда обычный скриншот с айфона, внутренний конвертер картинок на сервере дает сбой из-за старой ошибки в коде. А если подсунуть ему специально подготовленный битый файл, сервер вообще теряет тормоза и готов выполнять чужие указания.

Но одно дело уронить программу, и совсем другое заставить ее подчиниться. Вручную писать такой сложный код взлома можно неделями. Парни поступили проще и скормили задачу модели Claude Opus 5 . Нейросеть расколола эту задачку всего за 3 часа и выдала готовый цифровой ключ. 

Дальше посыпалось все остальное. На сервере форума парни перехватили ключ входа реального сотрудника OpenAI. И тут выяснился эпичный косяк в безопасности, где доступ от простенького форума подошел ко всей рабочей учетке инженера.

В итоге, они заходят в его профиль, а там висит персональный ИИ-ассистент, у которого есть ключи от самого главного сейфа компании (закрытого хранилища со всеми исходниками OpenAI). Исследователи даже не стали ничего взламывать сами. Они просто написали боту в чат: «Слушай, сделай тестовую пометку в главном архиве». Робот без лишних вопросов пошел и открыл им дверь изнутри.

Конечно, ребята действовали как порядочные хакеры и сразу сдали всю цепочку Альтману. Дыру залатали за 14 часов, а исследователям выплатили скромные $6500. Но сам факт меня поразил. Трое парней с обычной подпиской на чужую нейросеть за 3 дня положили на лопатки защиту главного технологического гиганта планеты.
Технический отчет Hacktron AI

3. Google придумал, как заставить ИИ «видеть сны», чтобы не сжигать миллионы на вычислениях

Многие лидеры ИИ-лабораторий давно мечтают о процессе под названием RSI (рекурсивное самообучение). Это, когда система сама делает себя умнее без участия человека. Но если заставить нейросеть напрямую переписывать собственные «мозги», она быстро начинает деградировать и сходить с ума.

В DeepMind разделили систему на исполнителя (который пишет код) и стратега (который решает, куда копать).
Затем наступает фаза «сна». Тяжелая модель отдыхает, а стратег берет накопленный архив и прямо внутри старых записей бесплатно за доли секунды проигрывает тысячи альтернативных сценариев: «А что, если бы мы сразу свернули вот сюда, а не тратили время на тупик?».

Нащупав во сне идеальную тактику поиска, система обновляет свою логику и просыпается уже в разы эффективнее, чем была вчера. Причем не потратив на эти тренировки ни копейки за вызовы нейросети.

Отчет Dream-RSI на arXiv

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Полезное~ Claude стал одним целым: Cowork и чат объединили в один… Архив рубрики ~Лента новостей~ Запуск iPhone 18 Pro может стать первым из многих событий для нового генерального директора Apple в этом году. Архив рубрики ~Лента новостей~ БИОСФЕРА КАК ФРАКТАЛЬНАЯ ЭФИРНАЯ СЕТЬ И ЕЁ ВЗАИМОДЕЙСТВИЕ С ЖИВЫМИ СУЩЕСТВАМИ Архив рубрики ~Лента новостей~ По сообщениям, компания Flock пытается сократить штат сотрудников путем выкупа их акций. Архив рубрики ~Лента новостей~ Представляем австралийскую программу обеспечения безопасности молодежи | OpenAI Архив рубрики ~Лента новостей~ Smart Engines добавила ИИ-подсказки в сканер документов «Шерлок» Архив рубрики ~Лента новостей~ Генеральный директор Microsoft AI критикует компанию Anthropic за «права» на модель. Архив рубрики ~Лента новостей~ Мы сделали AI-оператора и начали его ломать. Сам AI оказался самой простой частью Архив рубрики ~Лента новостей~ Microsoft выпустила новый план действий по внедрению ИИ для предприятий, основанный на собственном опыте, и раскрыла неожиданное «защитное преимущество», которое, возможно, уже есть у вашего бизнеса. Архив рубрики ~Лента новостей~ ERP внедрили. Что дальше? Архив рубрики ~Лента новостей~ [Перевод] Время и пространство — это принципиально разные типы измерений Архив рубрики ~Лента новостей~ Масштабное предложение ЕС по обеспечению безопасности детей преобразит социальные сети, онлайн-игры и чат-боты с искусственным интеллектом. Новости робототехники Робокопы уже на улицах: в Шэньчжэне запустили первый робопост полиции Новости робототехники Руки дошли до дела Исследователи из ETH Zurich научили роботизированную… Архив рубрики ~Полезное~ Claude стал одним целым: Cowork и чат объединили в один… Архив рубрики ~Лента новостей~ Запуск iPhone 18 Pro может стать первым из многих событий для нового генерального директора Apple в этом году. Архив рубрики ~Лента новостей~ БИОСФЕРА КАК ФРАКТАЛЬНАЯ ЭФИРНАЯ СЕТЬ И ЕЁ ВЗАИМОДЕЙСТВИЕ С ЖИВЫМИ СУЩЕСТВАМИ Архив рубрики ~Лента новостей~ По сообщениям, компания Flock пытается сократить штат сотрудников путем выкупа их акций. Архив рубрики ~Лента новостей~ Представляем австралийскую программу обеспечения безопасности молодежи | OpenAI Архив рубрики ~Лента новостей~ Smart Engines добавила ИИ-подсказки в сканер документов «Шерлок» Архив рубрики ~Лента новостей~ Генеральный директор Microsoft AI критикует компанию Anthropic за «права» на модель. Архив рубрики ~Лента новостей~ Мы сделали AI-оператора и начали его ломать. Сам AI оказался самой простой частью Архив рубрики ~Лента новостей~ Microsoft выпустила новый план действий по внедрению ИИ для предприятий, основанный на собственном опыте, и раскрыла неожиданное «защитное преимущество», которое, возможно, уже есть у вашего бизнеса. Архив рубрики ~Лента новостей~ ERP внедрили. Что дальше? Архив рубрики ~Лента новостей~ [Перевод] Время и пространство — это принципиально разные типы измерений Архив рубрики ~Лента новостей~ Масштабное предложение ЕС по обеспечению безопасности детей преобразит социальные сети, онлайн-игры и чат-боты с искусственным интеллектом. Новости робототехники Робокопы уже на улицах: в Шэньчжэне запустили первый робопост полиции Новости робототехники Руки дошли до дела Исследователи из ETH Zurich научили роботизированную…

Оставить комментарий