ИИ начал «фильтровать» сам себя: нашли способ бороться с потерей…

ИИ начал «фильтровать» сам себя: нашли способ бороться с потерей контекста

В AIRI, «Сбере» и «Сколтехе» сделали детектор, который решает скрытую проблему LLM — искажения при сжатии длинных диалогов.

Когда контекст становится слишком большим, его сжимают.
И в какой-то момент это ломает смысл — модель начинает «плыть».

Теперь это можно отлавливать заранее.

Как работает решение:
— обучаемый классификатор проверяет токены до передачи в модель
— определяет, где сжатие уже портит данные
— не пропускает «битый» контекст

Если риск высокий — система:
— использует полный текст
— или подтягивает актуальные документы

По сути, это защитный слой между данными и моделью.

Главный эффект — стабильность.
ИИ меньше ошибается из-за потери смысла в длинных диалогах.

Решение уже внедрили в GigaChat Ultra — модель научилась лучше запоминать факты о пользователях и использовать их в общении.

Главный сдвиг — оптимизация больше не слепая.
Теперь система понимает, где «экономия токенов» начинает ломать качество.

Вывод: следующий этап развития ИИ — не только умнее модели, но и умнее контроль за их входными данными.