Аппаратное обеспечение, которое делает возможным искусственный интеллект.

Центральные процессоры (CPU), графические процессоры (GPU), тензорные процессоры (TPU) и нейронные процессоры (NPU).

Делиться

Когда мы говорим об искусственном интеллекте, мы часто называем его программной революцией, и это действительно так! От прорывов в нейронных сетях и трансформерах до больших языковых моделей — легко предположить, что именно эти интеллектуальные алгоритмы ответственны за прогресс, который мы наблюдаем в последние годы.

Но сегодня я хочу пролить свет на то, как современный искусственный интеллект стал возможен только благодаря достижениям в области аппаратного обеспечения.

Обучение крупной языковой модели включает в себя выполнение триллионов математических операций над большими наборами данных. Создание изображения из текстовой подсказки требует миллиардов вычислений всего за несколько секунд. Запуск ИИ на смартфоне требует быстрых вычислений с минимальным энергопотреблением.

Традиционное компьютерное оборудование не было предназначено для этого. Но по мере того, как модели ИИ становились все больше и требовательнее к вычислительным ресурсам, потребовались новые аппаратные архитектуры для их запуска. Сегодня в мире ИИ важную роль играют каждый из следующих типов процессоров: CPU, GPU, TPU и NPU.

В этой статье мы рассмотрим аппаратное обеспечение, лежащее в основе современного искусственного интеллекта, и объясним, почему для разных задач требуются разные процессоры.

Почему ИИ нуждается в специализированном оборудовании

Чтобы понять, почему ИИ требует специального оборудования, давайте сделаем шаг назад и подумаем о том, что происходит во время машинного обучения. По сути, обучение нейронной сети включает в себя многократное выполнение математических операций над набором чисел. Большинство этих операций включают умножение матриц и тензорное произведение, которые должны быть выполнены миллионы или миллиарды раз.

Это существенно отличается от других программных приложений. Например, веб-браузер большую часть времени тратит на обработку пользовательского ввода и загрузку ресурсов. Приложения искусственного интеллекта, напротив, часто предполагают применение той же операции к большим объемам данных.

Таким образом, для эффективной работы ИИ необходимо одновременно выполнять множество вычислений. Эта потребность в параллельных вычислениях привела к разработке специализированного оборудования, оптимизированного для ИИ.

Итак, давайте поговорим об аппаратном обеспечении!

Процессоры: первопроходцы в области общего назначения!

Если уж говорить об аппаратном обеспечении, то начнём с самого начала: центрального процессора (ЦП). ЦП — это основа современных вычислительных систем. Каждый ноутбук, смартфон, рабочая станция и сервер используют ЦП для выполнения своих системных операций.

Поскольку центральные процессоры являются универсальными, они разработаны с учетом гибкости. Они могут эффективно выполнять широкий спектр инструкций и быстро переключаться между задачами. Можно представить себе центральный процессор как высококвалифицированного специалиста широкого профиля. Он может выполнять множество различных задач и адаптироваться к меняющимся требованиям.

Для этого процессоры часто содержат небольшое количество мощных ядер. Это позволяет им выполнять такие задачи, как запуск операционных систем, управление памятью, обработка взаимодействий с пользователем, координация работы программных приложений и принятие решений.

Несмотря на свою высокую мощность, центральные процессоры не оптимизированы для одновременного выполнения одной и той же операции над тысячами или миллионами точек данных. Это означает, что для задач искусственного интеллекта это становится ограничением.

Хотя центральные процессоры остаются важными компонентами систем искусственного интеллекта, они, как правило, координируют и поддерживают вычисления в системах ИИ, а не выполняют основную часть сложной математической работы.

В современных системах искусственного интеллекта центральные процессоры используются для загрузки и предварительной обработки данных, координации связи между аппаратными устройствами, управления рабочими процессами обучения и планирования вычислительных задач.

Графические процессоры: двигатель революции в глубоком обучении.

Если и есть какой-либо аппаратный компонент, наиболее тесно связанный с современным искусственным интеллектом, то это графический процессор (GPU).

Графические процессоры (GPU) изначально разрабатывались для рендеринга графики в видеоиграх и приложениях визуализации. Рендеринг изображения включает в себя выполнение аналогичных вычислений над миллионами пикселей, что делает его по своей сути параллельным процессом. Для этого графические процессоры были разработаны с тысячами небольших процессорных ядер, которые могут выполнять множество операций одновременно.

Исследователи вскоре обнаружили, что нейронные сети используют схожие вычислительные схемы. Обучение нейронной сети включает в себя многократное выполнение матричных умножений на больших наборах данных. Поскольку эти операции могут быть распределены между множеством ядер, графические процессоры очень хорошо подходят для глубокого обучения.

Таким образом, центральные процессоры (CPU) отдают приоритет гибкости, а графические процессоры (GPU) — пропускной способности. Это различие изменило наше представление об исследованиях в области искусственного интеллекта. Задачи, на выполнение которых раньше уходили недели или месяцы, теперь выполняются за дни или часы.

Многие из самых передовых современных моделей ИИ обучаются с использованием кластеров, содержащих сотни или тысячи совместно работающих графических процессоров. Революция в глубоком обучении была обусловлена не только улучшением алгоритмов. Она стала возможной благодаря аппаратному обеспечению, способному эффективно выполнять эти алгоритмы в больших масштабах.

TPU: Аппаратное обеспечение, разработанное специально для ИИ.

Таким образом, графические процессоры были адаптированы для искусственного интеллекта, и на сцену вышел новый игрок! Тензорные процессоры (TPU). TPU были разработаны Google для ускорения тензорных операций, распространенных в нейронных сетях.

Вместо поддержки широкого спектра вычислительных задач, TPU специализируются на меньшем наборе операций, обычно используемых при обучении в машинном обучении. Благодаря этой специализации, TPU обладают множеством преимуществ, таких как высокая пропускная способность, повышенная энергоэффективность, снижение накладных расходов и оптимизация для приложений машинного обучения.

По мере роста значимости задач искусственного интеллекта разработчики оборудования отходят от чисто универсальных архитектур и переходят к процессорам, оптимизированным для конкретных приложений. Сегодня TPU широко используются в облачной экосистеме Google и внесли свой вклад в обучение некоторых из крупнейших в мире моделей ИИ.

NPUs: воплощение ИИ в реальность

Не все задачи ИИ выполняются внутри центров обработки данных. На самом деле, многие приложения ИИ теперь запускаются непосредственно на персональных устройствах. Запуск ИИ локально выгоден, поскольку снижает задержку, повышает конфиденциальность и уменьшает зависимость от облачного подключения.

Для этого производители внедрили нейронные процессоры (NPU). NPU — это специализированные процессоры, разработанные в первую очередь для выполнения задач искусственного интеллекта. В отличие от графических процессоров (GPU), которые часто ориентированы на крупномасштабное обучение, NPU отдают приоритет энергоэффективному выполнению обученных моделей.

Это делает их особенно ценными для современных вычислительных приложений. Например, когда смартфон улучшает фотографию, выполняет распознавание речи или переводит текст в реальном времени, вычисления могут выполняться непосредственно на нейронном процессоре.

По мере все большей интеграции ИИ в потребительские устройства, нейронные процессоры, вероятно, станут такими же распространенными, как центральные и графические процессоры.

Подводя итог всему

Современные системы искусственного интеллекта редко полагаются на один аппаратный компонент. Вместо этого они объединяют множество специализированных технологий, каждая из которых разработана для выполнения определенной задачи.

Выбор аппаратного обеспечения во многом зависит от выполняемой задачи! А это значит, что не существует единого «лучшего» процессора для искусственного интеллекта.

Различные задачи искусственного интеллекта предъявляют разные вычислительные требования, и современные системы проектируются путем объединения нескольких аппаратных компонентов, которые дополняют друг друга.

Заключительные мысли

Быстрый прогресс в области искусственного интеллекта часто связывают с достижениями в алгоритмах, но аппаратное обеспечение сыграло не менее важную роль, причем сыграло ее незаметно для пользователя!

Процессоры центрального процессора (CPU) заложили основу для современных вычислительных систем. Графические процессоры (GPU) позволили осуществлять крупномасштабное глубокое обучение. Тензорные процессоры (TPU) продемонстрировали преимущества оборудования, разработанного специально для машинного обучения. А нейронные процессоры (NPU) напрямую внедряют искусственный интеллект в персональные устройства.

Понимание этих аппаратных компонентов позволяет получить ценные сведения о том, как работают современные системы искусственного интеллекта и почему они так быстро развивались в течение последнего десятилетия. И по мере дальнейшего развития ИИ будущие прорывы могут зависеть не только от усовершенствования самих алгоритмов, но и от инноваций в аппаратном обеспечении и памяти.

Сара А. Метвалли. Все публикации Сары А. Метвалли.

Источник: towardsdatascience.com