Течно хлађени АИ сервери суочавају се са уским грлима

 

 

 

Са повећањем испорука Блацквелл чипова, спремност купаца да усвоје течно хлађење ће такође порасти.

Инсајдери из индустрије извештавају да снабдевање универзалних уређаја за брзо искључивање (УКД) за решења за течно хлађење постаје ограничено, што може постати главно уско грло за раст течног хлађења АИ сервера.

 

Произвођачи ОДМ сервера наводе да ће Нвидијини Блацквелл АИ чипови, укључујући Б100 и Б200, почети да се испоручују ове године, док ГБ200 решење неће ући у масовну производњу до краја 2024. или 2025. Већина купаца Б100 и Б200 и даље користи дизајн ваздушног хлађења , али ОДМ произвођачи извештавају о сталном порасту продора течног хлађења, предвиђајући да ће спремност купаца да усвоје течно хлађење такође порасти са повећањем испорука Блацквелл чипова.

 

▲ Течно хлађени АИ сервери

 

 

И Проширивање капацитета како би се задовољила растућа потражња за течним хлађењем

 

Релевантне компаније проширују производњу како би дочекале нову еру течног хлађења. Произвођач термалних модула Амлогиц планира да повећа свој месечни производни капацитет плоча за хлађење водом са 30,000 на 300,000 јединица.

 

Аурас је основао нову фабрику на Тајланду како би се бавио геополитичким проблемима и захтевима купаца. Очекује се да ће ова фабрика почети масовну производњу у трећем кварталу. Поред проширења локалних производних капацитета за расхладне плоче, Аурас такође планира производњу расхладних дистрибутивних јединица (ЦДУ) и разводника расхладног флуида (ЦДМ) локално, са планираним месечним капацитетом од приближно 2,000-3,{{2 }} скупова.

 

Произвођач термичких модула АВЦ је у свом недавном позиву о зарадама навео да је његов месечни производни капацитет модула расхладне плоче у Кини и Вијетнаму око 115,000 јединица, што значи месечну производњу од око 420,000 јединица када израчунато расхладним плочама.

 

АВЦ планира да прошири своје капацитете за 50% до краја године. АВЦ такође планира да повећа свој месечни производни капацитет за ЦДУ на 1,000 јединица и за ЦДМ на 30,000 комплета. АВЦ је нагласио да се овај планирани капацитет може флексибилно прилагодити на основу захтева купаца.

 

Компанија Тхермо Тецхнологи Голи Тхермал Процессинг проширује своје капацитете у фабрици Зхонгли на Тајвану због повећане потражње купаца за течним хлађењем. До краја трећег тромесечја, очекује се да ће месечни капацитет ЦДМ-ова порасти са 1,000 јединице на 2,000 јединице, а до краја године на 4,{{5} } јединица, при чему се такође очекује да ће годишња ЦДУ производња достићи 2,000 јединица до краја године.

 

Ови произвођачи имају велика очекивања у погледу потражње за течним хлађењем, углавном због рачунарске ефикасности и ПУЕ стандарда центара података у Кини и ЕУ, али најзначајнији фактор је што је Нвидиа укинула самонаметнута ограничења на термичке спецификације за произвођаче чипова.

 

 

ИИ Брзи раст течног хлађења доводи до несташица УКД

 

Како индустрија жељно очекује долазак ере течног хлађења, УКД је постао највеће уско грло за раст. Произвођачи термичких модула су истакли да је снабдевање УКД-има недавно постало ограничено. Иако је тренутни тржишни удео течног хлађења само једноцифрен, ако у будућности порасте на двоцифрен, УКД може постати тешко добити.

 

УКД добављачи првенствено долазе из Европе и Сједињених Држава, као што су велике америчке компаније Паркер Ханнифин и ЦПЦ, швајцарски Стаубли Интернатионал, дански Данфосс и шведски Цејн. Тајвански гигант компоненти конектора Лотес такође активно улази на тржиште и започео је испоруку узорака.

 

Председавајући компаније Анбо Тецхнологи, Лианг Зхијиан, истакао је да пошто течно хлађење првенствено има за циљ да избегне цурење, а УКД су компоненте које су најсклоније цурењу, снабдевање УКД је најограниченије међу компонентама за течно хлађење. Ово није само техничко питање; релевантни произвођачи такође имају патентну заштиту, а Анбо Тецхнологи истражује начине да пробије ове патентне баријере.

 

Инсајдери из индустрије су приметили да иако произвођачи УКД имају патентну заштиту, они такође морају да прођу кроз вишеструке валидације, укључујући ОЦП сертификацију и валидације клијената, које захтевају много времена и напора. Штавише, постојећи европски и амерички произвођачи немају намеру да проширују капацитете, што ће постати главно уско грло за брзи развој течног хлађења.

 

Супермицро је један од најбрже растућих произвођача течног хлађења. Оснивач и извршни директор Лианг Јианхоу је истакао да је течно хлађење чинило само 1% тржишта сервера у последњих 30 година, али процењује да ће до 2025. стопа пенетрације скочити на 30%.

 

 

ИИИ Течно хлађење као потенцијално решење; АИ бум врши притисак на мрежу

 

Брз развој генеративне вештачке интелигенције довео је до невиђене експанзије центара података, изазивајући забринутост због њиховог утицаја на електричну мрежу. Ови енергетски интензивни објекти могу довести до нестанка струје и повећања трошкова енергије. Према проценама Института за истраживање електричне енергије, до 2030. центри података би могли да троше 9% електричне енергије у Сједињеним Државама, што би удвостручило тренутну цифру. Потрошња електричне енергије великог дата центра једнака је потрошњи електричне енергије стотина хиљада домаћинстава.

 

Посебно је забрињавајућа све већа потражња за моћи од вештачке интелигенције. Рани АИ модели су трошили десет пута више енергије од Гоогле претраге, док новији чипови захтевају још више енергије. Стручњаци упозоравају да будући развој вештачке интелигенције може бити ограничен нашом способношћу да генеришемо довољну снагу.

 

Неке земље се суочавају са озбиљним изазовима. На пример, до 2026. Ирска ће можда имати 30% своје електричне енергије намењене центрима података. У САД, потрошња електричне енергије у дата центрима је концентрисана у 15 држава, при чему су Тексас и Вирџинија највећа. Калифорнија је у критичној ситуацији, а очекује се да ће нови центри података производити потребе за електричном енергијом веће од оних у нуклеарним електранама.

 

 

ИВ Центри података: Огромна потрошња енергије и пораст течног хлађења

 

Рачунарски захтеви вештачке интелигенције подижу температуре сервера и емисије угљеника, што доводи до значајног повећања потражње за системима за хлађење. Системи за хлађење чине 40% укупне потрошње енергије дата центра, што их чини другим највећим извором потрошње енергије после самих сервера. Предвиђа се да ће глобално тржиште хлађења сервера порасти са 20 милијарди долара у 2024. на 90 милијарди долара до 2027. Очекује се да ће тржиште система за течно хлађење у центрима података порасти са 1% на 22%, а тржишна вредност ће порасти са 317 милиона долара на 7,8 милијарди долара у наредне три године.

 

Решења за течно хлађење, која користе воду или расхладне течности за хлађење сервера, постају све популарнија. Нове технологије укључују хлађење потапањем (урањање читавих серверских рекова у непроводне течности) и директно хлађење течностима (кружење воде око сервера). Иако је тренутно скупљи од система за ваздушно хлађење, течно хлађење може смањити потрошњу енергије дата центра за 10% или више.

 

Истраживачка компанија Глобал Маркет Инсигхтс предвиђа да ће глобално тржиште течног хлађења за дата центре порасти са 2,1 милијарде долара у 2022. на 12,2 милијарде долара до 2032. Истраживање Уптиме института показало је да 16% менаџера дата центара верује да ће течно хлађење постати примарно хлађење метода за 1-3 година, док 41% мисли да ће за то бити потребно 4-6 година. Стога је вероватније да ће се хибридне методе хлађења појавити у кратком року.

 

Упсите Тецхнологиес, ​​лидер у управљању системима ваздушног хлађења за дата центре, приметио је да, иако технологија непрестано напредује, постизање 100% центара података са течним хлађењем је мало вероватно у кратком року, пошто опрема за течно хлађење и даље захтева хлађење ваздухом ради одвођења топлоте . Иако је течно хлађење ефикасније, тешко га је имплементирати у великим размерама и захтева значајна улагања унапред. Ваздушно хлађење је јефтиније, али и мање ефикасно. Стога, хибридна постројења за хлађење постају све популарнија како би се максимизирале предности и течног и ваздушног хлађења.

 

 

В Енергетска криза центра података захтева хитну акцију

 

Због њиховог утицаја на животну средину, центри података све више се испитују. Владе широм света спроводе прописе за контролу потрошње енергије и угљичног отиска. Кинеске смернице за „Зелени центар података“ и сличне иницијативе у Немачкој, Сингапуру и Јапану представљају пример овог тренда. Стручњаци из индустрије као што је Сцхнеидер Елецтриц наглашавају потребу за свеобухватним еколошким метрикама за процену одрживости центара података, укључујући факторе изван употребе енергије, као што су водни ресурси и стварање отпада.

 

Америчка влада врши притисак на велике технолошке компаније да улажу у чисту енергију и препознају значајан утицај који растућа потражња за снагом вештачке интелигенције има на животну средину.

 

 

ВИ Проналажење одговарајућих извора енергије: центар података и енергетски изазови

 

Центрима података је потребан разноврсни микс енергије да би се уравнотежила поузданост и одрживост док истовремено испуњавају растуће захтеве. Обновљиви извори енергије попут сунца и ветра су атрактивни због ниског угљичног отиска. Међутим, њихова зависност од временских услова може довести до нестабилног излаза, што их чини неприкладним као једини извор напајања за центре података. Изградња сувишних објеката за компензацију ове недоследности може бити неопходна, али скупа.

 

Нуклеарна енергија се појавила као потенцијално решење. Традиционалне нуклеарне електране обезбеђују поуздану енергију базног оптерећења, генеришући стабилну електричну енергију кључну за рад центара података. Штавише, очекује се да ће глобално тржиште нуклеарне енергије постићи стабилан раст у наредној деценији.

 

Иновације у нуклеарном сектору нуде више обећавајуће могућности. Мали модуларни реактори (СМР) се развијају као мање, сигурније и скалабилније алтернативе традиционалним нуклеарним електранама. Иако су још увек у фази истраживања и развоја, СМР-ови имају потенцијал да се примене директно у центрима података, обезбеђујући посвећену чисту енергију.

 

▲ Глобално тржиште течног хлађења (УС$б)

 

 

Међутим, широко усвајање СМР-ова суочава се са значајним препрекама. Регулаторни и производни изазови могли би да одложе њихову комерцијалну примену за неколико година. Влада САД активно истражује решења, укључујући партнерство са технолошким гигантима за смањење трошкова и поједностављење процеса.

 

Други начин да се смање енергетски захтеви центра података је оптимизација оптерећења вештачке интелигенције. Пребацивањем неких задатака АИ са облака на локалне уређаје са мањим моделима вештачке интелигенције са мање ресурса, укупна потрошња енергије се може смањити.

 

Будући развој центара података захтева вишестрани приступ. Усвајање разноврсног енергетског микса, укључујући поуздане изворе енергије као што је нуклеарна енергија, уз активно тражење обновљивих и иновативних решења попут СМР-а, је од суштинског значаја. Поред тога, оптимизација оптерећења вештачке интелигенције на локалним уређајима може додатно промовисати одрживост центара података.