LLM начали писать GPU-ядра — и теперь это можно использовать…

LLM начали писать GPU-ядра — и теперь это можно использовать

Институт AIRI выложил в открытый доступ фреймворк KernelEvo — систему, где LLM-агенты автоматически создают и оптимизируют GPU-ядра.

Ранее похожий подход показала Meta в проекте KernelEvolve, где модели генерировали и улучшали ядра под разные платформы. Однако тот код остался закрытым.

Как работает KernelEvo:

— LLM генерирует варианты CUDA и Triton-ядер
— автоматически запускаются тесты и профилирование
— система исправляет ошибки
— цикл повторяется до улучшения производительности

Фактически это автоматический перебор решений вместо ручного процесса «написал → протестировал → переписал». В одном запуске может генерироваться до миллиона токенов кода и комментариев.

Зачем это нужно:

— хорошо оптимизированное ядро ускоряет вычисления на десятки процентов
— на уровне больших кластеров это экономит тысячи GPU-часов
— специалисты по низкоуровневой оптимизации GPU остаются крайне дефицитными

Проект распространяется по MIT-лицензии, поэтому компании могут использовать его напрямую. Особенно полезно для команд, у которых нет собственных kernel-инженеров, но есть доступ к LLM API.