Архив рубрики ~Коротко из Telegram~

DeepSeek выжала из Huawei Ascend почти весь теоретический максимум DeepSeek…

DeepSeek выжала из Huawei Ascend почти весь теоретический максимум DeepSeek…
File 2395

DeepSeek выжала из Huawei Ascend почти весь теоретический максимум
DeepSeek выложила DeepGEMM-Ascend — порт своей библиотеки матричных ядер под NPU Huawei Ascend 950.
API оставили таким же, как у оригинального DeepGEMM, но сами ядра переписали под особенности железа Ascend. То есть для разработчиков переход должен быть максимально безболезненным, а для чипа — максимально плотным по нагрузке.

Что поддерживается:
— GEMM в FP4, FP8 и BF16
— grouped GEMM для MoE
— MQA logits
— слитые операторы MegaMoE

По производительности цифры почти упираются в потолок:
— FP4: 1701 TFLOPS, или 98,3% от пика
— FP8: 861 TFLOPS, или 99,5%
— BF16: 431 TFLOPS, или 99,8%

Внутри — JIT-компиляция, конвейеризация на корутинах и тонкая обёртка над матричными инструкциями Ascend.

Для запуска нужны CANN 9.20, torch_npu и Python 3.10+. Лицензия — MIT.

GitHub:
https://github.com/deepseek-ai/DeepGEMM-Ascend

❌ Нет похожих статей с такими тегами

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia? Архив рубрики ~Лента новостей~ Цифровой терроризм без границ: как Узбекистан предлагает защитить Центральную Азию от новых угроз Архив рубрики ~Лента новостей~ Искусственный интеллект выявляет ранние признаки риска развития рака кожи. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Архив рубрики ~Лента новостей~ Новая формула помогает РНК-вакцинам выдерживать высокие температуры. Архив рубрики ~Лента новостей~ Нейросеть знает продукт, но не связывает его с производителем: как бренд теряет собственную известность Новости робототехники Это простое изменение предотвращает застревание роев роботов. Архив рубрики ~Лента новостей~ Стартап Corma, специализирующийся на кибербезопасности и искусственном интеллекте, достиг оценки в 1 миллиард долларов примерно за 3 месяца. Архив рубрики ~Лента новостей~ Свой нативный клиент для AI-агентов за 3 дня: зачем делать харнес и как устроен BB на iPhone и Mac Архив рубрики ~Лента новостей~ Как мы с ИИ искали антиэнтропию и куда он меня завёл Архив рубрики ~Лента новостей~ «Уэбб» обнаружил «запрещённый» сигнал, который раньше не наблюдали ни во Вселенной, ни даже в лаборатории Архив рубрики ~Лента новостей~ ДНК с обложки юбилейного издания «Эгоистичного гена» оказалась закручена в неправильную сторону. Версию с ошибкой выпустили к 50-летию с момента первой публикации книги Архив рубрики ~Лента новостей~ Anthropic научила Claude участвовать в видеозвонках и выполнять задачи прямо во время встречи Архив рубрики ~Лента новостей~ Глубокая грамотность против нейрослопа Архив рубрики ~Лента новостей~ Где была команда безопасности Nvidia?

Оставить комментарий