Google строит новые архитектуры AI на идеях российских учёных. Одна…
Google строит новые архитектуры AI на идеях российских учёных.
Одна из ключевых проблем нейросетей — ограниченное контекстное окно: чем длиннее входной текст, тем хуже модель удерживает информацию из ранних фрагментов.
В 2020–2022 годах исследователи из российского института AIRI (Куратов, Булатов, Бурцев) предложили решение — Recurrent Memory Transformer с токенами памяти, которые позволяют передавать информацию между сегментами длинного текста. Это позволяет масштабировать контекст до миллионов токенов без квадратичного роста вычислений.
Google цитирует эти работы напрямую в своей архитектуре Titans, а бенчмарк BABILong от той же команды стал стандартом для оценки работы моделей с длинным контекстом.
Суммарно — 800+ цитирований. Фундамент для одного из ключевых направлений Google Research заложили в Москве 🐘

Похожие записи
- Состояние дел с программами-вымогателями в 2026 году: выплаты падают, но уровень шифрования растет.
- «Узкое место» в пространственной биологии: почему модели ИИ терпят неудачу при работе со сложными тканями и что на самом деле помогает это исправить.
- Частый просмотр телевизора связали с патологией белого вещества головного мозга. Сидячий образ жизни с когнитивными нагрузками не оказывал подобного эффекта
Оцените материал:
Похожие записи
Хай-тек на службе В 19 лет Emelie из Германии (TikTok:…
28.06.2025
Где все еще можно бесплатно анимировать фото и картинки?
19.08.2025ТЕПЕРЬ ТЫ МОЖЕШЬ СОЗДАТЬ СВОЕГО СОБСТВЕННОГО ЦИФРОВОГО КЛОНА 🎭 Компания…
21.06.2026Присоединяйтесь и подпишитесь на рассылку самых свежих новостей по Email
Получайте свежие новости и идеи на почту. Без спама — только самое интересное.
Нажимая «Подписаться», вы соглашаетесь с политикой конфиденциальности.
