Архив рубрики ~Коротко из Telegram~

Google строит новые архитектуры AI на идеях российских учёных. Одна…

20.02.2026

Google строит новые архитектуры AI на идеях российских учёных.

Одна из ключевых проблем нейросетей — ограниченное контекстное окно: чем длиннее входной текст, тем хуже модель удерживает информацию из ранних фрагментов.

В 2020–2022 годах исследователи из российского института AIRI (Куратов, Булатов, Бурцев) предложили решение — Recurrent Memory Transformer с токенами памяти, которые позволяют передавать информацию между сегментами длинного текста. Это позволяет масштабировать контекст до миллионов токенов без квадратичного роста вычислений.

Google цитирует эти работы напрямую в своей архитектуре Titans, а бенчмарк BABILong от той же команды стал стандартом для оценки работы моделей с длинным контекстом.

Суммарно — 800+ цитирований. Фундамент для одного из ключевых направлений Google Research заложили в Москве 🐘

График точности моделей на бенчмарке QA1 и схема задачи bAbI.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Мозговой оркестр… Играющий в разных несинхронизированных темпах Архив рубрики ~Лента новостей~ Пузырь генеративного ИИ: почему крах неизбежен и чем это грозит экономике Архив рубрики ~Лента новостей~ Meta устанавливает цену на Muse Voice Transcribe в размере 0,18 доллара в час, с возможностью записи разговоров в реальном времени для более чем 20 говорящих: выгодное предложение для крупных предприятий? Архив рубрики ~Лента новостей~ ИИ не может стать разумным, пока не сможет использовать ошибку как источник новых знаний Архив рубрики ~Лента новостей~ Новый вид пауков из Скалистых гор поселился в 500 километрах к востоку от ближайших родственников. Он живет в хвойных лесах штата Айдахо Архив рубрики ~Лента новостей~ Этот великолепный проектор с ультракоротким фокусным расстоянием скрывает высокотехнологичный секрет. Архив рубрики ~Лента новостей~ Agility Robotics сообщила о выручке в 1,8 миллиона долларов, опередив гуманоидный SPAC Архив рубрики ~Лента новостей~ Непрозрачная повторяемость и другие термины из области искусственного интеллекта, которые вам, вероятно, следует знать. Архив рубрики ~Лента новостей~ Новый генеральный директор PacBio, обновленная химическая формула для системы Vega. Архив рубрики ~Лента новостей~ Миллион запросов за бесплатный ИИ Архив рубрики ~Лента новостей~ Внедрение инженерных решений на передовой — это способ обучения корпоративной системы искусственного интеллекта. Архив рубрики ~Лента новостей~ Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены Архив рубрики ~Лента новостей~ [Перевод] «Я знаю, что ты знаешь»: задача про пиратов Архив рубрики ~Лента новостей~ Число подтвержденных жертв лихорадки Эбола в Конго превысило три тысячи. Подтвержденных случаев стало больше 6000 Архив рубрики ~Лента новостей~ Мозговой оркестр… Играющий в разных несинхронизированных темпах Архив рубрики ~Лента новостей~ Пузырь генеративного ИИ: почему крах неизбежен и чем это грозит экономике Архив рубрики ~Лента новостей~ Meta устанавливает цену на Muse Voice Transcribe в размере 0,18 доллара в час, с возможностью записи разговоров в реальном времени для более чем 20 говорящих: выгодное предложение для крупных предприятий? Архив рубрики ~Лента новостей~ ИИ не может стать разумным, пока не сможет использовать ошибку как источник новых знаний Архив рубрики ~Лента новостей~ Новый вид пауков из Скалистых гор поселился в 500 километрах к востоку от ближайших родственников. Он живет в хвойных лесах штата Айдахо Архив рубрики ~Лента новостей~ Этот великолепный проектор с ультракоротким фокусным расстоянием скрывает высокотехнологичный секрет. Архив рубрики ~Лента новостей~ Agility Robotics сообщила о выручке в 1,8 миллиона долларов, опередив гуманоидный SPAC Архив рубрики ~Лента новостей~ Непрозрачная повторяемость и другие термины из области искусственного интеллекта, которые вам, вероятно, следует знать. Архив рубрики ~Лента новостей~ Новый генеральный директор PacBio, обновленная химическая формула для системы Vega. Архив рубрики ~Лента новостей~ Миллион запросов за бесплатный ИИ Архив рубрики ~Лента новостей~ Внедрение инженерных решений на передовой — это способ обучения корпоративной системы искусственного интеллекта. Архив рубрики ~Лента новостей~ Я попросил Claude Code собрать макеты сайтов и выяснил, на что уходят токены Архив рубрики ~Лента новостей~ [Перевод] «Я знаю, что ты знаешь»: задача про пиратов Архив рубрики ~Лента новостей~ Число подтвержденных жертв лихорадки Эбола в Конго превысило три тысячи. Подтвержденных случаев стало больше 6000

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48