«Яндекс» с нуля разработал Alice AI Foundation LLM — большую…

«Яндекс» с нуля разработал Alice AI Foundation LLM — большую языковую модель на 80 млрд параметров, из которых одновременно активны 3 млрд. Модель обучили на 18 трлн токенов без использования сторонних иностранных компонентов. Веса открыли под лицензией Apache 2.0, разрешающей коммерческое и исследовательское использование.

Модель стала экспериментальной основой будущей единой рассуждающей модели и агентных возможностей «Алисы AI». По данным «Яндекса», она показывает высокие результаты в программировании и задачах на рассуждение, а также превосходит ряд более крупных открытых моделей в тестах на русскоязычные знания. Вместе с моделью компания открыла собственные бенчмарки WikiWebFacts и HardMultiQA для оценки таких знаний.