Эффективное использование ИИ: Как можно сэкономить энергию с помощью выбора подходящих моделей

Исследователи подсчитали, что если бы пользователи выбирали наиболее эффективную модель каждый раз, когда выполняют задачу с ИИ, это сократило бы потребление энергии более чем на четверть.

Более разумный подход к выбору моделей ИИ для выполнения задач может потенциально сэкономить 31,9 тераватт-часов энергии только в этом году, что эквивалентно мощности пяти ядерных реакторов.

Тьяго да Силва Баррос из Университета Лазурного берега во Франции и его коллеги рассмотрели 14 различных задач, для которых люди используют инструменты генеративного ИИ: от генерации текста до распознавания речи и классификации изображений.

Затем они изучили общедоступные таблицы лидеров, в том числе размещенные в центре машинного обучения Hugging Face, чтобы оценить эффективность различных моделей. Энергоэффективность моделей в процессе вывода (когда ИИ-модель выдает ответ) измерялась инструментом CarbonTracker, а общее энергопотребление этой модели рассчитывалось путем отслеживания загрузок пользователей.

«Исходя из размера модели, мы оценили потребление энергии, и на основе этого мы можем попытаться сделать наши расчеты», — говорит да Силва Баррос.

Исследователи обнаружили, что при выполнении всех 14 задач переключение с наиболее производительных на наиболее энергоэффективные модели для каждой задачи сократило потребление энергии на 65,8%, при этом сделав результаты менее полезными всего на 3,9% — компромисс, который, по их мнению, может быть приемлемым для общественности.

Поскольку некоторые люди уже используют самые экономичные модели, если бы люди в реальной жизни перешли с высокопроизводительных на самые энергоэффективные, это могло бы снизить общее потребление энергии на 27,8%. «Мы были удивлены, насколько много можно сэкономить», — говорит Фредерик Жируар, член команды Национального центра научных исследований Франции.

Однако это потребует изменений как со стороны пользователей, так и со стороны компаний, занимающихся разработкой ИИ, говорит да Силва Баррос. «Мы должны думать о запуске небольших моделей, даже если при этом мы потеряем в производительности», — говорит он. «И компаниям, разрабатывающим модели, важно делиться информацией о модели, которая позволяет пользователям понять и оценить, является ли модель очень энергозатратной».

Некоторые компании, занимающиеся разработкой ИИ, снижают энергопотребление своих продуктов с помощью процесса, называемого «дистилляцией моделей», когда большие модели используются для обучения моделей меньшего размера. По словам Криса Приста из Бристольского университета в Великобритании, это уже даёт значительный эффект. Например, Google недавно заявила о 33-кратном повышении энергоэффективности Gemini за последний год.

Однако, по словам Приста, предоставление пользователям возможности выбирать наиболее эффективные модели «вряд ли приведёт к ограничению роста энергопотребления центров обработки данных, как предполагают авторы, по крайней мере, в условиях нынешнего «пузыря» искусственного интеллекта . Сокращение энергопотребления на один запрос просто позволит обслуживать больше клиентов быстрее и с более сложными вариантами логического мышления», — говорит он.

«Использование моделей меньшего размера, безусловно, может привести к снижению энергопотребления в краткосрочной перспективе, но существует множество других факторов, которые необходимо учитывать при составлении любых значимых прогнозов на будущее», — говорит Саша Луччиони из Hugging Face. Она предупреждает, что необходимо учитывать и обратный эффект, например, рост потребления, «а также более широкое влияние на общество и экономику».

Луччони отмечает, что любые исследования в этой области опираются на внешние оценки и анализ из-за недостаточной прозрачности отдельных компаний. «Для проведения такого сложного анализа нам нужна большая прозрачность от компаний, занимающихся разработкой ИИ, операторов центров обработки данных и даже правительств», — говорит она. «Это позволит исследователям и политикам делать обоснованные прогнозы и принимать решения».

arXiv DOI: 10.48550/arXiv.2510.01889

Источник: www.newscientist.com