Архив рубрики ~Коротко из Telegram~

Google строит новые архитектуры AI на идеях российских учёных. Одна…

20.02.2026

Google строит новые архитектуры AI на идеях российских учёных.

Одна из ключевых проблем нейросетей — ограниченное контекстное окно: чем длиннее входной текст, тем хуже модель удерживает информацию из ранних фрагментов.

В 2020–2022 годах исследователи из российского института AIRI (Куратов, Булатов, Бурцев) предложили решение — Recurrent Memory Transformer с токенами памяти, которые позволяют передавать информацию между сегментами длинного текста. Это позволяет масштабировать контекст до миллионов токенов без квадратичного роста вычислений.

Google цитирует эти работы напрямую в своей архитектуре Titans, а бенчмарк BABILong от той же команды стал стандартом для оценки работы моделей с длинным контекстом.

Суммарно — 800+ цитирований. Фундамент для одного из ключевых направлений Google Research заложили в Москве 🐘

График точности моделей на бенчмарке QA1 и схема задачи bAbI.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Минус $80 млрд за полгода: утечка проспекта IPO Anthropic сорвала маски с экономики суперинтеллекта Архив рубрики ~Лента новостей~ От чата до агентов: 6 курсов по ИИ от Google, Anthropic и OpenAI Архив рубрики ~Лента новостей~ Сотни фагов от ИИ. Языковые модели сгенерировали рабочий вирусный геном Архив рубрики ~Лента новостей~ Ученые создали самый сложный в истории тест для искусственного интеллекта, и результаты оказались неожиданными. Архив рубрики ~Лента новостей~ Платформа для разработчиков Railway призывает «всех пользователей» отозвать секретные ключи после кибератаки. Архив рубрики ~Лента новостей~ Как написать промпт для картинок в ChatGPT: инструкция и примеры Архив рубрики ~Лента новостей~ Искали кобальт, нашли уран. Как пять тысяч тонн урана могли незаметно попасть в цепочку поставок Архив рубрики ~Лента новостей~ Мягкий экзоскелет облегчает вставание. Новости робототехники GM делает ставку на вычислительные технологии и искусственный интеллект, которые, по её мнению, помогут ей конкурировать с китайскими автопроизводителями. Архив рубрики ~Лента новостей~ AI-поиск выбирает победителя ещё до того, как покупатель сформулировал критерии Архив рубрики ~Лента новостей~ Из хаоса закладок — в галерею визуализаций: история создания DataDrops Архив рубрики ~Лента новостей~ J. W. — мечтатель, неудачник, законодатель моды Архив рубрики ~Лента новостей~ Генетики прочитали ДНК плейстоценовой семги. Ее остатки нашли в испанской пещере Эль-Мирон Архив рубрики ~Лента новостей~ Компания Anthropic предлагает законопроект о безопасности ИИ, который может заблокировать модель, если при этом может погибнуть более 50 человек. Архив рубрики ~Лента новостей~ Минус $80 млрд за полгода: утечка проспекта IPO Anthropic сорвала маски с экономики суперинтеллекта Архив рубрики ~Лента новостей~ От чата до агентов: 6 курсов по ИИ от Google, Anthropic и OpenAI Архив рубрики ~Лента новостей~ Сотни фагов от ИИ. Языковые модели сгенерировали рабочий вирусный геном Архив рубрики ~Лента новостей~ Ученые создали самый сложный в истории тест для искусственного интеллекта, и результаты оказались неожиданными. Архив рубрики ~Лента новостей~ Платформа для разработчиков Railway призывает «всех пользователей» отозвать секретные ключи после кибератаки. Архив рубрики ~Лента новостей~ Как написать промпт для картинок в ChatGPT: инструкция и примеры Архив рубрики ~Лента новостей~ Искали кобальт, нашли уран. Как пять тысяч тонн урана могли незаметно попасть в цепочку поставок Архив рубрики ~Лента новостей~ Мягкий экзоскелет облегчает вставание. Новости робототехники GM делает ставку на вычислительные технологии и искусственный интеллект, которые, по её мнению, помогут ей конкурировать с китайскими автопроизводителями. Архив рубрики ~Лента новостей~ AI-поиск выбирает победителя ещё до того, как покупатель сформулировал критерии Архив рубрики ~Лента новостей~ Из хаоса закладок — в галерею визуализаций: история создания DataDrops Архив рубрики ~Лента новостей~ J. W. — мечтатель, неудачник, законодатель моды Архив рубрики ~Лента новостей~ Генетики прочитали ДНК плейстоценовой семги. Ее остатки нашли в испанской пещере Эль-Мирон Архив рубрики ~Лента новостей~ Компания Anthropic предлагает законопроект о безопасности ИИ, который может заблокировать модель, если при этом может погибнуть более 50 человек.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48