Архив рубрики ~Коротко из Telegram~

AGI ближе, чем кажется: Google Titans и бесконечная память Кажется,…

AGI ближе, чем кажется: Google Titans и бесконечная память Кажется,…

AGI ближе, чем кажется: Google Titans и бесконечная память

Кажется, ещё вчера мы удивлялись «большим» языковым моделям, а сегодня Google quietly выкатывает Titans – архитектуру, которая не просто читает данные, а учится на лету. Это уже не наращивание контекста, а качественный сдвиг к живым агентам.

Что изменилось

— Titans обновляют собственные веса прямо во время инференса
— Память фактически безгранична: важные факты оседают в параметрах, а не в буфере
— DeepSeek OCR сжимает знания визуальными токенами, а Titans делают ставку на непрерывное обучение

Как модель решает, что хранить

— Встроенный surprise metric смотрит на градиенты
— Предсказуемое пропускается – после «Мама мыла» никто не хранит «раму»
— Неожиданность или ценная информация вызывают всплеск «сюрприза» – и вес запоминает новое

Джефф Хокинс в книге «1000 мозгов» писал: только когда привычное меняется, наш мозг выходит из спящего режима, чтобы переписать программу. Titans звучат подозрительно похоже.

Если интересно, почитай Хокинса – там много ответов на вопрос, почему «сюрприз» работает лучше, чем простое запоминание всего подряд.

Человек прыгает через экран, слияние цифрового и физического, черный фон.

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ 4,9 на 3000 отзывов. Сколько из них написал живой человек? Архив рубрики ~Лента новостей~ Сколько примеров нужно, чтобы проверить безопасность AI-приложения Архив рубрики ~Лента новостей~ Как движется броуновская частица при отсутствии измерений? Архив рубрики ~Лента новостей~ Японская автоматическая станция MMX отправилась к спутникам Марса. Она доставит пробу грунта с Фобоса на Землю Архив рубрики ~Лента новостей~ Как Shazam узнаёт песню, даже если вокруг шумно Архив рубрики ~Лента новостей~ Исследование показало, что ChatGPT допускает научные ошибки чаще, чем вы думаете. Архив рубрики ~Лента новостей~ Компания Oura снова подала в суд на своего конкурента Ultrahuman, что угрожает ее возвращению на рынок США с «умными» кольцами. Архив рубрики ~Лента новостей~ Минус $80 млрд за полгода: утечка проспекта IPO Anthropic сорвала маски с экономики суперинтеллекта Архив рубрики ~Лента новостей~ От чата до агентов: 6 курсов по ИИ от Google, Anthropic и OpenAI Архив рубрики ~Лента новостей~ Сотни фагов от ИИ. Языковые модели сгенерировали рабочий вирусный геном Архив рубрики ~Лента новостей~ Ученые создали самый сложный в истории тест для искусственного интеллекта, и результаты оказались неожиданными. Архив рубрики ~Лента новостей~ Платформа для разработчиков Railway призывает «всех пользователей» отозвать секретные ключи после кибератаки. Архив рубрики ~Лента новостей~ Как написать промпт для картинок в ChatGPT: инструкция и примеры Архив рубрики ~Лента новостей~ Искали кобальт, нашли уран. Как пять тысяч тонн урана могли незаметно попасть в цепочку поставок Архив рубрики ~Лента новостей~ 4,9 на 3000 отзывов. Сколько из них написал живой человек? Архив рубрики ~Лента новостей~ Сколько примеров нужно, чтобы проверить безопасность AI-приложения Архив рубрики ~Лента новостей~ Как движется броуновская частица при отсутствии измерений? Архив рубрики ~Лента новостей~ Японская автоматическая станция MMX отправилась к спутникам Марса. Она доставит пробу грунта с Фобоса на Землю Архив рубрики ~Лента новостей~ Как Shazam узнаёт песню, даже если вокруг шумно Архив рубрики ~Лента новостей~ Исследование показало, что ChatGPT допускает научные ошибки чаще, чем вы думаете. Архив рубрики ~Лента новостей~ Компания Oura снова подала в суд на своего конкурента Ultrahuman, что угрожает ее возвращению на рынок США с «умными» кольцами. Архив рубрики ~Лента новостей~ Минус $80 млрд за полгода: утечка проспекта IPO Anthropic сорвала маски с экономики суперинтеллекта Архив рубрики ~Лента новостей~ От чата до агентов: 6 курсов по ИИ от Google, Anthropic и OpenAI Архив рубрики ~Лента новостей~ Сотни фагов от ИИ. Языковые модели сгенерировали рабочий вирусный геном Архив рубрики ~Лента новостей~ Ученые создали самый сложный в истории тест для искусственного интеллекта, и результаты оказались неожиданными. Архив рубрики ~Лента новостей~ Платформа для разработчиков Railway призывает «всех пользователей» отозвать секретные ключи после кибератаки. Архив рубрики ~Лента новостей~ Как написать промпт для картинок в ChatGPT: инструкция и примеры Архив рубрики ~Лента новостей~ Искали кобальт, нашли уран. Как пять тысяч тонн урана могли незаметно попасть в цепочку поставок