Hitech logo

Кейсы

«Рассуждающие» ИИ-модели потребляют в 100 раз больше энергии

TODO:
Екатерина ШемякинскаяСегодня, 01:46 PM

Согласно исследованию, проведенному при поддержке Hugging Face и Salesforce, включение функции рассуждений у языковых моделей ИИ увеличивает их энергопотребление в среднем в 100 раз. В некоторых случаях разница оказывается колоссальной: например, упрощённая версия модели DeepSeek R1 с отключённым рассуждением потребляла 50 Вт·ч на запрос, а с включённым — более 308 000 Вт·ч. Это ставит перед отраслью острый вопрос о балансе между мощностью алгоритмов и их экологической устойчивостью.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Исследование было проведено в рамках проекта AI Energy Score научными сотрудником Hugging Face Сашей Луччони и руководителем отдела устойчивого развития ИИ Salesforce Борисом Гамазайчиковым. Исследователи оценили 40 открытых моделей ИИ, включая разработки OpenAI, Google, Microsoft и китайской компании DeepSeek. Все модели запускались на одном и том же компьютере с одинаковыми подсказками — от простых вопросов о спорте до сложных математических задач. Для отслеживания энергопотребления использовался инструмент CodeCarbon в режиме реального времени.

Разница оказалась огромной. Так, упрощённая версия DeepSeek R1 при отключенной функции рассуждений потребляла всего 50 Вт·ч на один запрос, а с включенной функцией — 308 186 Вт·ч. Microsoft Phi 4 потребляла 9462 Вт·ч при активном рассуждении и 18 Вт·ч при отключенном. Модель OpenAI gpt-oss показала менее резкое различие — 8504 Вт·ч при максимальном рассуждении и 5313 Вт·ч при низком уровне мощности.

В августе Google опубликовала внутреннее исследование, согласно которому среднее потребление энергии на текстовую подсказку сервиса Gemini AI составило 0,24 Вт·ч, что соответствует времени просмотра телевизора менее девяти секунд. Google заявила, что этот показатель «значительно ниже многих публичных оценок».

Исследование помогает лучше понять различия в энергопотреблении моделей и осознанно выбирать подходящую систему для конкретной задачи. По словам Луччони, «не каждый запрос требует использования самых ресурсоёмких систем», и важно использовать ИИ разумно, чтобы снизить нагрузку на энергосети.

Рост энергопотребления ИИ вызывает обеспокоенность аналитиков и общественности. За последние пять лет оптовые цены на электроэнергию вблизи центров обработки данных выросли на 267%, а строительство новых дата-центров затрудняет достижение климатических целей крупных технологических компаний.

С ростом применения моделей рассуждений индустрия должна учитывать их энергопотребление. Как отметил генеральный директор Microsoft Сатья Наделла, отрасль должна получить «общественное разрешение на потребление энергии» и использовать ИИ так, чтобы он способствовал экономическому росту и приносил пользу обществу.