Нейросети станут прозрачнее — исследователи T-Bank AI Research представили на EMNLP 2025 метод HierarchicalTopK, который помогает «заглянуть внутрь» языковых моделей и понять, как они принимают решения🕵️♂️
Теперь не нужно обучать десятки отдельных моделей — одна справляется со всеми задачами, сохраняя баланс между точностью и понятностью.
Метод полезен для компаний, которым важно контролировать ИИ: он упрощает аудит, поиск ошибок и настройку поведения моделей. В тестах на Gemma-2 2B HierarchicalTopK показал качество не хуже, чем несколько специализированных систем.
Исходный код доступен на GitHub и Hugging Face.
