ChatGPT оказался менее энергоёмким, чем предполагалось

Исследование некоммерческого исследовательского института Epoch AI показало, что ChatGPT может быть не таким энергоёмким, как предполагалось ранее. Однако энергопотребление зависит от того, как используется чат-бот и какие модели ИИ отвечают на запросы.

Стандартная статистика гласит, что ChatGPT требует около 3 ватт-часов энергии для ответа на один вопрос — в 10 раз больше, чем поисковик Google.

Используя модель OpenAI GPT-4o в ChatGPT, исследователи Epoch обнаружили, что при обычном запросе она потребляет около 0,3 ватт-часов — меньше, чем многие бытовые приборы.

Аналитик данных Джошуа Ю решил провести исследование, чтобы проверить данные первых отчётов. Например, в работе, которая оценивала энергопотребление ChatGPT в 3 ватт-часа, предполагалось, что OpenAI использует старые и менее эффективные чипы для запуска своих моделей.

При этом в Epoch признают, что данные их исследования нельзя назвать абсолютно точными, так как анализ также не учитывает дополнительные затраты энергии на генерацию изображений или обработку ввода. 

Джошуа Ю ожидает, что базовое энергопотребление ChatGPT возрастёт. «Искусственный интеллект станет более продвинутым, обучение этого ИИ, вероятно, потребует гораздо больше энергии, и этот будущий искусственный интеллект может использоваться гораздо интенсивнее — для решения гораздо большего количества задач и более сложных задач, чем сегодня», — пояснил он.

Согласно отчёту Rand, в ближайшие два года центрам обработки данных искусственного интеллекта может потребоваться мощность, аналогичная потреблению всей Калифорнии в 2022 году (68 ГВт). К 2030 году обучение пограничной модели может потребовать выходной мощности, эквивалентной мощности восьми ядерных реакторов (8 ГВт).

Кроме того, OpenAI наравне с другими