Xiaomi устроила публичный стрим RL-обучения моделей MiMo-V2.6 После полугода тишины…

Xiaomi устроила публичный стрим RL-обучения моделей MiMo-V2.6

После полугода тишины команда Xiaomi вернулась с необычным экспериментом: инженеры запустили масштабное RL-обучение моделей MiMo-V2.6 и вывели телеметрию кластера в публичный дашборд.

Тренировочный процесс полностью асинхронный. На каждом шаге система берёт 1568 промптов и генерирует по 16 роллаутов на каждый. В сумме это около 2 млрд токенов за проход.

В одном процессе смешали сразу несколько доменов:
— генерация кода
— задачи по кибербезопасности
— мультимодальное зрение
— поведение чат-агентов
— несколько тестовых харнессов одновременно

Дашборд показывает метрики Mimo-v2.6-flash и Mimo-v2.6-pro в реальном времени: распределение задач, длину контекста, тайминги шагов и другие параметры обучения.

Сам процесс ещё идёт. Подробную документацию и наработки Xiaomi обещает выложить в открытый доступ в ближайшие недели.

Дашборд:
https://mimo.xiaomi.com/rl/#overview