Течно хлађење повећава перформансе и ефикасност Нвидијине Блацквелл платформе

 

Брз раст вештачке интелигенције (АИ), посебно у областима као што су Генеративна АИ (ГенАИ) и модели великих језика (ЛЛМ), подстакао је потражњу за рачунарском снагом без преседана. Како АИ модели постају сложенији и захтевају више података, хардвер потребан да подржи ове напретке суочава се са значајним изазовима, посебно са расипањем топлоте. Традиционалне методе хлађења, попут ваздушног хлађења, више нису довољне за управљање потрошњом енергије најсавременијег АИ хардвера, и ту на сцену ступају решења за течно хлађење.

 

Технологија течног хлађења је добила на значају као високо ефикасан начин управљања топлотним излазом центара података са вештачком интелигенцијом. То је посебно важно за платформе као што је Нвидијина Блацквелл архитектура, где огромна рачунарска снага захтева напредне системе хлађења да би се обезбедиле перформансе и дуговечност.

 

Ат тхеХотцхип 2024конференцији, Нвидиа је представила своје иновативно решење, интегришућитопла вода Директно у Цхип течно хлађењетехнологија са својом Блацквелл архитектуром за решавање све веће потрошње енергије и изазова хлађења. Овај развој означава кључни напредак у дизајну АИ хардвера, смањујући оперативне трошкове и побољшавајући ефикасност у великим АИ апликацијама.

 

▲ Водич за Хот Цхипс: Течно хлађење повећава перформансе и ефикасност

 

Успон технологије течног хлађења

 

Технологија течног хлађења се појављује као критична компонента у дизајну АИ центара података због растућих захтева за снагом АИ чипова. Како АИ апликације расту, очекује се да ће потрошња енергије у центрима података драстично порасти. Многи АИ процесори, укључујући Нвидијин Х100 и његов новиБлеквел архитектура, троши од 700В до 1200В снаге. Ово огромно повлачење енергије се погоршава када АИ кластери, који се састоје од хиљада ГПУ-а, раде унисоно.

 

на пример,Кластер за обуку АИ Елона Маска, највећи на свету са 100,000 Х100 ГПУ-а, у потпуности је хлађен течношћу да би могао да управља својим 31-мегаватним енергетским потребама. Такви примери показују зашто је оптимизација технологије хлађења критична – не само за смањење оперативних трошкова већ и за побољшање укупних перформанси АИ система. Како потреба за вештачком интелигенцијом виших перформанси наставља да расте, течно хлађење ће играти све централнију улогу у одржавању рачунарских система високих перформанси.

 

 

Предности течног хлађења у центрима података са вештачком интелигенцијом

Течно хлађење се истиче због своје способности да директно преноси топлоту са критичних компоненти као што су ЦПУ и ГПУ, побољшавајући дисипацију топлоте у поређењу са традиционалним ваздушним хлађењем. ИнДиректно течно хлађење (ДЛЦ), расхладна течност долази у директан контакт са чипом, повећавајући топлотну ефикасност и смањујући потребу за гломазним вентилаторима и системима за климатизацију. Ово резултира мањом потрошњом енергије за хлађење, чиме се смањују укупни оперативни трошкови дата центра.

 

Штавише,Потопљено течно хлађење, где су читави сервери потопљени у диелектричну течност, представља још ефикасније решење за хлађење. Овај метод не само да осигурава да све компоненте остану хладне, већ и минимизира механичко хабање, што продужава животни век хардвера и значајно смањује буку од опреме која покреће ваздух.

 

 

Изазови потрошње енергије у АИ хардверу

 

Како се АИ системи повећавају, њихова потрошња енергије представља све већи изазов. АИ хардвер, као што јеНвидиа Х100 ГПУанд тхеБлеквел архитектура, познато је да су гладни енергије, са захтевима за снагом до 1200В по чипу. Типичан АИ кластер који садржи 22,000 Х100 ГПУ-а, на пример, може захтевати до31 мегават струје-еквивалентно потрошњи енергије малог града.

 

Ова огромна потражња за електричном енергијом не само да повећава оперативне трошкове дата центара, већ доприноси и значајном утицају на животну средину. Да би решили ове изазове, центри података морају да се фокусирају и на смањење потрошње енергије и на побољшање ефикасности хлађења.

 

 

Нвидијина Блацквелл архитектура и топла вода директно на хлађење чипа

 

Ат тхеКонференција Хотцхип 2024, Нвидиа је представила своје решење за интеграцију течног хлађења са својом Блацквелл архитектуром, користећитопла вода Технологија директног хлађења чипа. Овај приступ користи топлу воду (за разлику од охлађене) да апсорбује и преноси топлоту директно са чипа. Коришћењем хлађења топлом водом, Нвидиа може смањити потрошњу енергије за хлађење центара података до 28%.

 

Ефикасност овог решења је двострука: оно не само да смањује укупну потрошњу енергије за хлађење, већ и омогућава поврат отпадне топлоте, која се може пренаменити за друге намене, као што је грејање оближњих зграда. Поред тога, хлађење топлом водом продужава радни век сервера тако што одржава чипове у оптималном температурном опсегу, спречава прегревање и смањује хабање.

 

▲ Решење за хлађење топле воде директно у чип

 

Ова техника хлађења је посебно важна јер АИ апликације као што су ГенАИ и ЛЛМ настављају да повећавају рачунарску снагу потребну у центрима података. Способност одржавања оптималних температура директно утиче на перформансе и скалабилност оптерећења АИ, обезбеђујући да ови системи могу да поднесу интензивне захтеве који им се постављају.

 

 

 

Течно хлађење потапањем: корак даље

 

Поред директног течног хлађења,Потопљено течно хлађењетакође добија на снази као решење следећег нивоа за велике АИ системе. Ова метода потапа читаве сервере у непроводну, диелектричну течност, која у потпуности апсорбује и расипа топлоту из свих компоненти. Хлађењем целог система на овај начин, Иммерсион Ликуид Цоолинг нуди следеће предности:

 

• Побољшана ефикасност хлађења: Окружујући све компоненте расхладном течношћу, овај метод обезбеђује равномерно и ефикасно одвођење топлоте.
• Нижи трошкови одржавања: Без покретних делова као што су вентилатори, мање је механичког хабања, што смањује трошкове одржавања и продужава век трајања опреме.
• Побољшана енергетска ефикасност: Потопно хлађење може драматично смањити потрошњу енергије, јер елиминише потребу за системима за климатизацију и другим активним компонентама за хлађење.

 

▲ Течни систем за хлађење потапањем

 

Штавише,Потопљено течно хлађењеје веома скалабилан, што га чини идеалним за центре података који раде са АИ радним оптерећењима која генеришу значајне количине топлоте, као што су оне које покреће Нвидијина Блацквелл архитектура. Пошто већи модели вештачке интелигенције постају све присутнији, хлађење утапањем може постати решење за центре података који желе да скалирају своје операције уз минимизирање трошкова енергије и утицаја на животну средину.

 

 

 

Улагање Силицијумске долине у технологије хлађења

 

Све већа потражња за ефикаснијим расхладним решењима у центрима података са вештачком интелигенцијом привукла је пажњу компанија ризичног капитала, посебно уСилицијумска долина. Ове компаније активно улажу у стартапове који су специјализовани затечно хлађењетехнологије, препознајући да су иновације у овој области од суштинског значаја за будућност АИ хардвера.

 

Стартапи се развијајунапредна решења за хлађењене само да пружају тренутне користи за системе вештачке интелигенције тренутне генерације, већ и постављају темеље за следећи талас АИ хардвера, који ће вероватно захтевати још софистицираније методе хлађења. Ове технологије треба да се позабаве и захтевима за високом снагом и топлотним изазовима АИ система, чинећи их атрактивном инвестицијом за оне који желе да померају границе могућег у рачунарству високих перформанси.

 

▲ АИ Дата Центер Инвестмент Трендс

 

 

Закључак

 

Како АИ хардвер наставља да се развија, потражња за иновативним технологијама хлађења расте. Нвидиа'сБлеквел архитектураје на челу ове промене, користећитопла вода Директно у чипхлађење ради повећања ефикасности и смањења оперативних трошкова.Течно хлађење, било путем директног контакта или метода потапања, показује се као најефикаснији начин управљања огромном потрошњом енергије и топлотном снагом модерних АИ система.

 

Компаније ризичног капитала примећују, а многи улажу у стартапе који могу понудити решења за хлађење следеће генерације. Како центри података са вештачком интелигенцијом постају све већи и сложенији, значај ефикасних и скалабилних система за хлађење ће се само повећавати, чинећи течно хлађење каменом темељцем будуће рачунарске инфраструктуре високих перформанси.