Kapalinou chlazené servery AI čelí úzkým místům

 

 

 

S nárůstem dodávek čipů Blackwell poroste také ochota zákazníků osvojit si kapalinové chlazení.

Zasvěcenci z oboru uvádějí, že dodávky univerzálních zařízení s rychlým odpojením (UQD) pro řešení kapalinového chlazení se stávají úzkými, což se může stát hlavní překážkou pro růst kapalinového chlazení serverů s umělou inteligencí.

 

Výrobci serverových ODM uvádějí, že čipy Blackwell AI společnosti Nvidia, včetně B100 a B200, se začnou dodávat v letošním roce, zatímco řešení GB200 vstoupí do sériové výroby až na konci roku 2024 nebo 2025. Většina zákazníků B100 a B200 stále používá design chlazení vzduchem. , ale výrobci ODM hlásí pokračující nárůst pronikání kapalinového chlazení a očekávají, že ochota zákazníků používat kapalinové chlazení také poroste s nárůstem dodávek čipů Blackwell.

 

▲ Kapalinou chlazené servery AI

 

 

I Rozšíření kapacity pro uspokojení rostoucí poptávky po kapalinovém chlazení

 

Příslušné společnosti rozšiřují výrobu, aby přivítaly novou éru kapalinového chlazení. Výrobce tepelných modulů Amlogic plánuje zvýšit svou měsíční výrobní kapacitu desek vodního chlazení z 30,{1}} na 300,{3}} jednotek.

 

Společnost Auras zřídila novou továrnu v Thajsku, aby reagovala na geopolitické obavy a požadavky zákazníků. Očekává se, že tato továrna zahájí sériovou výrobu ve třetím čtvrtletí. Kromě rozšíření místní výrobní kapacity pro chladicí desky plánuje Auras také lokálně vyrábět chladicí distribuční jednotky (CDU) a rozvody chladicí kapaliny (CDM) s plánovanou měsíční kapacitou přibližně 2,000-3,{{2 }} sady.

 

Výrobce tepelných modulů AVC ve své nedávné výdělečné zprávě uvedl, že jeho měsíční výrobní kapacita modulů chladicích desek v Číně a Vietnamu je přibližně 115,000 jednotek, což znamená měsíční výkon přibližně 420,000 jednotek, když počítáno podle chladicích desek.

 

AVC plánuje do konce roku rozšířit svou kapacitu o 50 %. AVC také plánuje zvýšit svou měsíční produkční kapacitu pro jednotky CDU na 1,000 jednotky a pro jednotky CDM na 30,000 sady. AVC zdůraznilo, že tuto plánovanou kapacitu lze flexibilně upravit na základě požadavků zákaznických objednávek.

 

Společnost Thermo Technology Company Goli Thermal Processing rozšiřuje svou kapacitu v závodě Zhongli na Tchaj-wanu kvůli zvýšené poptávce zákazníků po kapalinovém chlazení. Do konce třetího čtvrtletí se očekává, že měsíční kapacita CDM vzroste z 1,{1}} jednotky na 2,{3}} jednotky a do konce roku na 4,{5} } jednotek, přičemž se očekává, že roční produkce CDU do konce roku dosáhne 2,{7}} jednotek.

 

Tito výrobci mají velká očekávání ohledně poptávky po kapalinovém chlazení, hlavně kvůli výpočetní efektivitě a standardům PUE datových center v Číně a EU, ale nejvýznamnějším faktorem je, že Nvidia ruší vlastní omezení tepelných specifikací pro výrobce čipů.

 

 

II Rychlý nárůst kapalinového chlazení vede k nedostatku UQD

 

Protože průmysl netrpělivě očekává příchod éry kapalinového chlazení, UQD se stalo největší překážkou růstu. Výrobci tepelných modulů poukázali na to, že dodávky UQD jsou v poslední době omezené. Přestože je současný podíl na trhu kapalinového chlazení pouze jednociferný, pokud v budoucnu vzroste na dvouciferné číslo, může být obtížné získat UQD.

 

Dodavatelé UQD pocházejí především z Evropy a Spojených států, jako jsou velké americké společnosti Parker Hannifin a CPC, švýcarská Staubli International, dánský Danfoss a švédský Cejn. Tchajwanský gigant konektorových komponent Lotes také aktivně vstupuje na trh a zahájil dodávky vzorků.

 

Předseda Anbo Technology, Liang Zhijian, poukázal na to, že vzhledem k tomu, že hlavním cílem kapalinového chlazení je zabránit únikům a UQD jsou komponenty, které jsou nejvíce náchylné k úniku, je dodávka UQD ze všech komponentů pro kapalinové chlazení nejvíce omezená. Nejedná se pouze o technický problém; relevantní výrobci mají také patentovou ochranu a Anbo Technology zkoumá způsoby, jak tyto patentové bariéry prolomit.

 

Zasvěcenci z oboru poznamenali, že ačkoli výrobci UQD mají patentovou ochranu, musí také projít několika validacemi, včetně certifikace OCP a klientských validací, což je časově náročné a pracné. Stávající evropští a američtí výrobci navíc nemají v úmyslu rozšiřovat kapacitu, což se stane hlavním úzkým hrdlem pro rychlý rozvoj kapalinového chlazení.

 

Supermicro je jedním z nejrychleji rostoucích výrobců kapalinového chlazení. Zakladatel a generální ředitel Liang Jianhou poukázal na to, že kapalinové chlazení představovalo za posledních 30 let pouze 1 % trhu serverů, ale odhaduje, že do roku 2025 míra penetrace vyskočí na 30 %.

 

 

III Kapalinové chlazení jako potenciální řešení; Boom AI vyvíjí tlak na mřížku

 

Rychlý rozvoj generativní umělé inteligence vedl k nebývalému rozšíření datových center, což vyvolává obavy z jejich dopadu na rozvodnou síť. Tato energeticky náročná zařízení by mohla vést k výpadkům proudu a zvýšeným nákladům na energii. Podle odhadů Electric Power Research Institute by do roku 2030 mohla datová centra spotřebovávat 9 % elektřiny ve Spojených státech, což je dvojnásobek současného čísla. Spotřeba elektřiny velkého datového centra je ekvivalentní spotřebě stovek tisíc domácností.

 

Zvláště znepokojující je rostoucí poptávka po energii ze strany umělé inteligence. První modely s umělou inteligencí spotřebovávaly desetkrát více energie než vyhledávání Google, zatímco novější čipy vyžadují ještě více energie. Odborníci varují, že budoucí vývoj umělé inteligence může být limitován naší schopností generovat dostatečný výkon.

 

Některé země čelí vážným problémům. Například do roku 2026 může mít Irsko 30 % své elektřiny vyhrazené pro datová centra. V USA je spotřeba elektřiny datových center soustředěna v 15 státech, přičemž nejvyšší jsou Texas a Virginie. Kalifornie je v kritické situaci a očekává se, že nová datová centra budou generovat poptávku po elektřině převyšující požadavky jaderných elektráren.

 

 

IV Datová centra: Obrovská spotřeba energie a nárůst kapalinového chlazení

 

Výpočetní nároky umělé inteligence zvyšují teploty serverů a emise uhlíku, což má za následek výrazný nárůst poptávky po chladicích systémech. Chladicí systémy představují 40 % celkové spotřeby energie datového centra, což z nich dělá druhý největší zdroj spotřeby energie po samotných serverech. Očekává se, že globální trh s chlazením serverů vzroste z 20 miliard USD v roce 2024 na 90 miliard USD do roku 2027. Očekává se, že trh se systémy kapalného chlazení v datových centrech vzroste z 1 % na 22 %, přičemž tržní hodnota podle odhadů vzroste z 317 milionů USD na 7,8 miliardy dolarů v příštích třech letech.

 

Řešení kapalného chlazení, která k chlazení serverů používají vodu nebo chladicí kapaliny, jsou stále oblíbenější. Mezi nové technologie patří imerzní chlazení (ponoření celých serverových stojanů do nevodivých kapalin) a přímé kapalinové chlazení (cirkulace vody kolem serverů). Přestože je v současnosti dražší než vzduchové chlazení, může kapalinové chlazení snížit spotřebu energie datového centra o 10 % nebo více.

 

Výzkumná společnost Global Market Insights předpovídá, že globální trh s kapalinovým chlazením pro datová centra vzroste z 2,1 miliardy USD v roce 2022 na 12,2 miliardy USD do roku 2032. Průzkum společnosti Uptime Institute zjistil, že 16 % manažerů datových center věří, že se kapalinové chlazení stane primárním chlazením. metoda za 1-3 let, zatímco 41 % si myslí, že to bude trvat 4-6 let. Proto je pravděpodobnější, že se v krátkodobém horizontu objeví hybridní způsoby chlazení.

 

Společnost Upsite Technologies, přední společnost v oblasti správy systémů chlazení vzduchem pro datová centra, poznamenala, že ačkoli technologie neustále postupuje vpřed, dosažení 100% kapalinou chlazených datových center je v krátkodobém horizontu nepravděpodobné, protože zařízení pro chlazení kapalinou stále vyžadují chlazení vzduchem pro odvod tepla. . I když je kapalinové chlazení účinnější, je náročné jej implementovat ve velkém měřítku a vyžaduje značné počáteční investice. Chlazení vzduchem je méně nákladné, ale také méně účinné. Hybridní chladicí zařízení se tak stávají stále oblíbenějšími, aby se maximalizovaly výhody chlazení kapalinou i vzduchem.

 

 

V Energetická krize datového centra vyžaduje naléhavou akci

 

Vzhledem k jejich dopadu na životní prostředí jsou datová centra stále více sledována. Vlády po celém světě zavádějí předpisy ke kontrole spotřeby energie a uhlíkové stopy. Čínské směrnice „Green Data Center“ a podobné iniciativy v Německu, Singapuru a Japonsku dokládají tento trend. Odborníci z oboru, jako je Schneider Electric, zdůrazňují potřebu komplexních environmentálních metrik pro posouzení udržitelnosti datových center, včetně faktorů mimo spotřebu energie, jako jsou vodní zdroje a produkce odpadu.

 

Americká vláda tlačí na velké technologické společnosti, aby investovaly do čisté energie a uznaly významný dopad, který mají rostoucí energetické nároky umělé inteligence na životní prostředí.

 

 

VI Hledání vhodných zdrojů energie: Výzvy datových center a energie

 

Datová centra potřebují diverzifikovaný energetický mix, aby vyvážila spolehlivost a udržitelnost a zároveň splnila rostoucí požadavky. Obnovitelné zdroje energie, jako je slunce a vítr, jsou atraktivní díky své nízké uhlíkové stopě. Jejich závislost na povětrnostních podmínkách však může vést k nestabilnímu výkonu, což je činí nevhodnými jako jediný zdroj energie pro datová centra. Budování nadbytečných zařízení pro kompenzaci této nekonzistence může být nezbytné, ale nákladné.

 

Jako potenciální řešení se objevila jaderná energie. Tradiční jaderné elektrárny poskytují spolehlivou energii při základním zatížení a generují stabilní elektřinu, která je klíčová pro provoz datových center. Navíc se očekává, že globální trh s jadernou energií dosáhne v příštím desetiletí stabilního růstu.

 

Inovace v jaderném sektoru nabízejí slibnější možnosti. Malé modulární reaktory (SMR) jsou vyvíjeny jako menší, bezpečnější a škálovatelnější alternativy k tradičním jaderným elektrárnám. Přestože jsou SMR stále ve fázi výzkumu a vývoje, mají potenciál být nasazeny přímo v datových centrech a poskytují vyhrazenou čistou energii.

 

▲ Globální trh s kapalinovým chlazením (b USD)

 

 

Široké přijetí SMR však naráží na značné překážky. Regulační a výrobní problémy by mohly zpozdit jejich komerční nasazení o několik let. Americká vláda aktivně zkoumá řešení, včetně partnerství s technologickými giganty s cílem snížit náklady a zefektivnit procesy.

 

Dalším způsobem, jak snížit energetické nároky datových center, je optimalizace zátěže umělé inteligence. Přesunutím některých úloh umělé inteligence z cloudu na místní zařízení s menšími modely umělé inteligence, které jsou méně náročné na zdroje, lze snížit celkovou spotřebu energie.

 

Budoucí rozvoj datových center vyžaduje mnohostranný přístup. Je nezbytné přijmout diverzifikovaný energetický mix, včetně spolehlivých zdrojů energie, jako je jaderná energie, a zároveň aktivně hledat obnovitelná a inovativní řešení, jako jsou SMR. Optimalizace zátěže AI na místních zařízeních navíc může dále podpořit udržitelnost datových center.