Вражаючі цифри: графічні процесори Nvidia H100, призначені для ШІ, будуть споживати більше енергії, ніж деякі країни!
Вражаючі цифри!
Ви напевно помітили як зросла популярність ШІ за останній рік. І для компанії Nvidia 2023 вдався справді успішним.
Nvidia буквально продає тонни своїх графічних процесорів для ШІ H100, і кожен з них споживає приголомшливі цифри енергії.
Тепер, коли Nvidia продає свої нові графічні процесори у великих обсягах для робочих навантажень ШІ, прогнозується, що сукупне енергоспоживання цих графічних процесорів буде таким же високим, як у великому місті. Деякі швидкі підрахунки також показують, що графічні процесори будуть споживати більше енергії, ніж у деяких невеликих європейських країнах.
Пол Чурнок, головний інженер-електрик відділу технічного управління та стратегії центрів обробки даних Microsoft зазначив:
"Пікове споживання процесора Nvidia H100 становить 700 Вт. При річному завантаженні 61% це еквівалентно енергоспоживанню середньостатистичного американського домогосподарства (з розрахунку 2,51 людини на домогосподарство). За оцінками Nvidia, продажі графічних процесорів H100 у 2024 році складуть 1,5 - 2 мільйони графічних процесорів H100. У порівнянні з енергоспоживанням домогосподарств за містами, чипи Nvidia H100 займуть 5-е місце, відразу після Х'юстона, штат Техас, і випередивши Фенікс, штат Арізона".
До кінця 2024 року буде розгорнуто 3,5 мільйона таких процесорів. Загалом вони споживатимуть колосальні 13 091 820 000 кВт електроенергії на рік, або 13 091,82 ГВт-год.
Для порівняння, приблизно 13 092 ГВт - це річне споживання електроенергії деякими країнами, такими як Грузія, Литва чи Гватемала. Хоча така кількість енергоспоживання здається досить шокуючою, слід зазначити, що ефективність графічних процесорів для ШІ та HPC зростає.
Джерело: tomshardware