Впечатляющие цифры: графические процессоры Nvidia H100, предназначенные для ИИ, будут потреблять больше энергии, чем некоторые страны!
Впечатляющие цифры!
Вы наверняка заметили, как возросла популярность ИИ за последний год. И для компании Nvidia 2023 удался действительно успешным.
Nvidia буквально продает тонны своих графических процессоров для ИИ H100, и каждый из них потребляет ошеломляющие цифры энергии.
Теперь, когда Nvidia продает свои новые графические процессоры в больших объемах для рабочих нагрузок ИИ, прогнозируется, что совокупное энергопотребление этих графических процессоров будет столь же высоким, как в большом городе. Некоторые быстрые подсчеты также показывают, что графические процессоры потребляют больше энергии, чем в некоторых небольших европейских странах.
Пол Чурнок, главный инженер-электрик отдела технического управления и стратегии центров обработки данных Microsoft отметил:
"Пиковое потребление процессора Nvidia H100 составляет 700 Вт. При годовой загрузке 61% это эквивалентно энергопотреблению среднестатистического американского домохозяйства (из расчета 2,51 человека на домохозяйство). По оценкам Nvidia, продажи графических процессоров H105 у 202 графических процессоров H100.По сравнению с энергопотреблением домохозяйств по городам, чипы Nvidia H100 займут 5-е место, сразу после Хьюстона, штат Техас, и опередив Феникс, штат Аризона».
К концу 2024 года будет развернуто 3,5 миллиона таких процессоров. В общей сложности они будут потреблять колоссальные 13 091 820 000 кВт электроэнергии в год, или 13 091,82 ГВт-ч.
Для сравнения, примерно 13 092 ГВт – это годовое потребление электроэнергии некоторыми странами, такими как Грузия, Литва или Гватемала. Хотя такое количество энергопотребления кажется достаточно шокирующим, следует отметить, что эффективность графических процессоров для ИИ и HPC растет.
Источник: tomshardware
|
|
