Архив рубрики ~Коротко из Telegram~

T1 — модель Mixture-of-Experts на 122B параметров, обученная через…

T1 — модель Mixture-of-Experts на 122B параметров, обученная через…
File 1971

‼️ T1 — модель Mixture-of-Experts на 122B параметров, обученная через RL прямо в реальном шелле облачной песочницы, способная выполнять до 300+ ходов вызова инструментов на одну задачу.

Ключевая проблема — расхождение между тем, что модель видела при обучении, и тем, что делает в реальном инференсе. Решение — точное сопоставление токенов с починкой дрейфа на границах ходов и повтор выбора «экспертов» в MoE-слоях при сэмплировании. Это сократило расхождение с 0.021 до 0.013. Модель специально тренировали на задачах, не пересекающихся с тестовым бенчмарком, чтобы прирост отражал реальный перенос навыков, а не заучивание теста.

📁 Результат: базовая модель выросла с 43.8% до 64.0% на Terminal-Bench 2.1, а на Long-Horizon версии T1 достигла 27.9%, обойдя GPT-5.4 и GLM-5.1.
Дополнение к теме харнесса, которую мы разбирали не раз — только здесь решение ищут в самой методике обучения, а не в обвязке вокруг модели.

❓ Узкоспециализированные terminal-native модели — более перспективный путь, чем универсальные фронтир-модели, или это тупиковая специализация?

❌ Нет похожих статей с такими тегами

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Завтра: саммит основателей TechCrunch захватит Бостон, и когда повысится процент успешных выступлений? Архив рубрики ~Лента новостей~ Как настроить MCP-сервер на Python без обрыва ответов: разбор параметров max_sse_event_size и httpx в SDK 2.3.0 Архив рубрики ~Лента новостей~ Новинка: «LLMOPs. Практическое руководство» Архив рубрики ~Лента новостей~ О вузовских ИИ‑детекторах: что они могут, а чего нет. Неочевидные результаты собственного тестирования Архив рубрики ~Лента новостей~ В Германии заявляют, что iPhone депутатов могли быть взломаны с помощью шпионского ПО. Архив рубрики ~Лента новостей~ Упоминаний стало больше, но бренд не вырос: как длинные AI-ответы создают ложную динамику Архив рубрики ~Лента новостей~ Одна картинка ‑шедевр, сто картинок ‑катастрофа: как я пытался укротить AI‑генерацию ассетов для инди‑RPG Архив рубрики ~Лента новостей~ Врачи удалили из глаз корейца 11 живых червей. Они размножались Архив рубрики ~Лента новостей~ Группа из 25 ученых — лауреатов Филдсовской премии — предупредила об угрозе, которую искусственный интеллект представляет для математики Архив рубрики ~Лента новостей~ Компания OpenAI может переименовать свои центры обработки данных в «вычислительные кампусы для ИИ». Архив рубрики ~Лента новостей~ Вычислительный колледж имени Шварцмана при Массачусетском технологическом институте запускает пилотный проект, призванный помочь преподавателям обучать искусственному интеллекту в различных дисциплинах. Архив рубрики ~Лента новостей~ NovaC.O.D.E-Python-Research-V2 Архив рубрики ~Лента новостей~ Черепашка, Дракон и вайбкодинг. 70 лет попыток обойтись без программиста Архив рубрики ~Лента новостей~ [Перевод] Наблюдение за птицами перестраивает мозг и замедляет снижение когнитивных способностей Архив рубрики ~Лента новостей~ Завтра: саммит основателей TechCrunch захватит Бостон, и когда повысится процент успешных выступлений? Архив рубрики ~Лента новостей~ Как настроить MCP-сервер на Python без обрыва ответов: разбор параметров max_sse_event_size и httpx в SDK 2.3.0 Архив рубрики ~Лента новостей~ Новинка: «LLMOPs. Практическое руководство» Архив рубрики ~Лента новостей~ О вузовских ИИ‑детекторах: что они могут, а чего нет. Неочевидные результаты собственного тестирования Архив рубрики ~Лента новостей~ В Германии заявляют, что iPhone депутатов могли быть взломаны с помощью шпионского ПО. Архив рубрики ~Лента новостей~ Упоминаний стало больше, но бренд не вырос: как длинные AI-ответы создают ложную динамику Архив рубрики ~Лента новостей~ Одна картинка ‑шедевр, сто картинок ‑катастрофа: как я пытался укротить AI‑генерацию ассетов для инди‑RPG Архив рубрики ~Лента новостей~ Врачи удалили из глаз корейца 11 живых червей. Они размножались Архив рубрики ~Лента новостей~ Группа из 25 ученых — лауреатов Филдсовской премии — предупредила об угрозе, которую искусственный интеллект представляет для математики Архив рубрики ~Лента новостей~ Компания OpenAI может переименовать свои центры обработки данных в «вычислительные кампусы для ИИ». Архив рубрики ~Лента новостей~ Вычислительный колледж имени Шварцмана при Массачусетском технологическом институте запускает пилотный проект, призванный помочь преподавателям обучать искусственному интеллекту в различных дисциплинах. Архив рубрики ~Лента новостей~ NovaC.O.D.E-Python-Research-V2 Архив рубрики ~Лента новостей~ Черепашка, Дракон и вайбкодинг. 70 лет попыток обойтись без программиста Архив рубрики ~Лента новостей~ [Перевод] Наблюдение за птицами перестраивает мозг и замедляет снижение когнитивных способностей

Оставить комментарий