12
Где взять сколько энергии?
В настоящее время развитие рынка ИИ связано в том числе и с потреблением электроэнергии, и уже с наступлением следующего года эта проблема может стать непреодолимым барьером для дальнейшего роста сектора. Поясняется это тем, что одна стойка Kyber Ultra NVL576 будет использовать 600 кВт электроэнергии.
Kyber Ultra NVL576 представляет собой стойку с 576 ускорителями Rubin Ultra. Соответствующее решение было представлено компанией в прошлом месяце, где сообщили о том, что ядра ускорителей будут объединены с применением технологии Customer Performance Optic (CPO). Ранее самой большой из анонсированных стоек была Kyber Ultra NVL144, которая включала 144 ускорителя.
Согласно официальным спецификациям, Rubin Ultra NVL576 обеспечит производительность на уровне 15 exaFLOPS в области вычислений с плавающей запятой 4-го порядка (вывод данных) и 5 exaFLOPS в области вычислений с плавающей запятой 8-го порядка (обучение данных). Это в 14 раз больше, чем у Blackwell GB300 NVL72.
Тем не менее, это мощное устройство потребует 600 кВт энергии, что сопоставимо с потреблением примерно 500 среднестатистических американских домов. Для сравнения, стойка с ускорителями Blackwell требовала около 120 кВт, а стойка поколения Hopper использовала лишь 40 кВт.
Однако проблема заключается не только в общем уровне энергопотребления центров обработки данных с такими стойками. Важно отметить, что переоборудование существующих объектов для непосредственной подачи 600 кВт электроэнергии в отдельные стойки практически невозможно. Таким образом, потребуется строить новые объекты с нуля, что потребует дополнительных значительных инвестиций.
Источник