arXiv:2604.04958v2 Тип объявления: замена Аннотация: Недавние исследования показывают, что крупномасштабное моделирование с участием нескольких животных может значительно улучшить анализ нейронных записей. Однако для функциональных кальциевых трасс существующие подходы остаются специфичными для конкретной задачи, что ограничивает их применение в общих нейробиологических исследованиях. Для решения этой проблемы мы предлагаем textbf{CalM}, самообучающуюся нейронную модель, обученную исключительно на нейронных кальциевых трассах и адаптируемую к множеству последующих задач, включая прогнозирование и декодирование. Наш ключевой вклад заключается в структуре предварительного обучения, состоящей из высокопроизводительного токенизатора, отображающего трассы отдельных нейронов в общий дискретный словарь, и двухосевого авторегрессивного трансформера, моделирующего зависимости как вдоль нейронной, так и вдоль временной оси. Мы оцениваем CalM на крупномасштабном многоживотном многосессионном наборе данных. В задаче прогнозирования динамики нейронной популяции CalM превосходит сильные специализированные базовые модели после предварительного обучения. Благодаря специализированной головке, CalM дополнительно адаптируется к задаче декодирования поведения и достигает превосходных результатов по сравнению с моделями декодирования с учителем. Более того, линейный анализ представлений CalM выявляет интерпретируемые функциональные структуры, выходящие за рамки точности прогнозирования. В совокупности мы предлагаем новую и эффективную парадигму самообучения для базовых моделей на основе кальциевых следов, открывая путь к масштабируемому предварительному обучению и широкому применению в функциональном нейронном анализе. Код будет опубликован в ближайшее время.
Источник: arxiv.org
