Prudká poptávka zažehne revoluci v oblasti výpočetního výkonu, kapalinové chlazení bude silně podporovat růst průmyslu!

 

Od roku 2023 se model chatbota s umělou inteligencí OpenAI, ChatGPT, těší širokému uznání. Využívá velké množství trénovacích dat k simulaci chování lidského jazyka, generuje text pomocí sémantické analýzy, což mu umožňuje komunikovat s uživateli přirozeným a realistickým způsobem, často nerozeznatelným od lidské interakce.

 

V mnoha oblastech, jako je tvorba poezie a psaní scénářů, dokonce předčí lidské možnosti. Vývoj umělé inteligence však vyžaduje extrémně výkonný výpočetní výkon, což vede ke zvýšené spotřebě energie serverů, vyšší hustotě výkonu na jednotku v datových centrech a rostoucí spotřebě energie. Tradiční technologie chlazení vzduchem již nemůže uspokojit potřeby chlazení, takže kapalinové chlazení je nezbytností, která bude nepochybně řídit růst průmyslu!

 

▲ Model chatbota AI OpenAI, ChatGPT

 

 

Ⅰ Výbušný úspěch ChatGPT: Jaký druh výpočetního výkonu vyžaduje?

 

Data, algoritmy a výpočetní výkon jsou tři základní prvky umělé inteligence, přičemž výpočetní výkon se nazývá „motor“ nebo „motor“ umělé inteligence. Data i algoritmy spoléhají na výpočetní výkon. Podle odhadů OpenAI se od roku 2012 výpočetní výkon potřebný k trénování nejlepších světových modelů umělé inteligence zdvojnásobil přibližně každých 3-4 měsíců, přičemž roční nárůst výpočetního výkonu potřebný pro špičkové trénovací modely dosahuje až desetinásobku. Během tréninkové fáze ChatGPT spotřeboval celkem asi 3640 PF-dnů (což znamená běh s účinností 1 PetaFLOP/s po dobu 3640 dnů). To zdůrazňuje, že silný výpočetní výkon je klíčem k podpoře další aplikace a popularizace obsahu generovaného umělou inteligencí (AIGC) v budoucnosti.

 

Vezměte ChatGPT jako příklad: je podporován modelem GPT-3.5, který prošel třemi iteracemi (GPT-1, GPT-2, GPT-3), s nárůstem počtu parametrů ze 117 milionů na 175 miliard a nárůstem objemu předtréninkových dat z 5 GB na 45 TB (ekvivalent 160násobku celé anglické verze Wikipedie). Toto obrovské množství dat a výpočtů vyžaduje vyšší výpočetní výkon pro podporu svého provozu. Podle údajů z Similarweb měl v lednu 2023 ChatGPT asi 13 milionů aktivních uživatelů denně, z nichž každý kladl otázky v průměru kolem 1,{14}} slova.

 

To vygenerovalo celkem přibližně 13 miliard slov (17,33 miliard tokenů). Za předpokladu, že jsou úkoly rovnoměrně rozloženy do 24 hodin, počet požadovaných GPU A100 by byl 17,33 miliard * 2 * 300 miliard / (20 % * 24 hodin * 3600 sekund)=601.75 PetaFLOP/S. Vzhledem k tomu, že existují provozní špičky, za předpokladu, že špičkový provoz je pětinásobek denního průměru, bylo by potřeba celkem 602 serverů DGX A100 k uspokojení aktuálních požadavků na provoz, což činí požadavky na výpočetní výkon extrémně přísnými.

 

To ukazuje, že k trénování ještě lepších modelů umělé inteligence a skutečnému použití modelů umělé inteligence v různých odvětvích je zapotřebí efektivnější výpočetní výkon a hojnější výpočetní zdroje. Výpočetní výkon se stal kritickým faktorem omezujícím industrializaci umělé inteligence a musí spustit novou revoluci výpočetního výkonu! S rychlým nárůstem požadavků na výpočetní výkon AI se výkon souvisejících CPU/GPU zrychluje, což vyžaduje silnější a účinnější řešení chlazení, aby zařízení fungovalo hladce.

 

 

Ⅱ Rozsáhlé aplikace výpočetního výkonu

 

V éře digitální ekonomiky je výpočetní výkon nejen klíčovým faktorem produktivity, ale stane se také všeobecně používaným. Jak výstavba infrastruktury výpočetní energie postupuje, rychle se objevují nové modely a obchodní formy aplikací výpočetní energie, které hluboce integrují výpočetní výkon do více průmyslových odvětví, jako je výroba, doprava, vzdělávání, letecký průmysl, finance a média. Současně se plánování, správa a obchodování výpočetního výkonu stávají ústředními body průzkumu průmyslu. Výpočetní síla se vyvíjí ze „zdroje“ na „faktor“, který se stává nezbytnou součástí výroby a života lidí.

 

Rozvoj různých průmyslových odvětví spustil explozi v poptávce po výpočetní síle. Pro maximalizaci výkonu procesoru je nutná vyšší účinnost chlazení a tradiční technologie vzduchového chlazení již nemůže uspokojit rostoucí nároky na výpočetní výkon. Servery s kapalinovým chlazením se svými výhodami mají získat významný podíl na trhu a výrazně řídit rozvoj průmyslu!

 

 

Ⅲ Výrazné zvýšení poptávky po kapalinovém chlazení

 

V roce 2022 čtvrtá generace serverových procesorů Intel zaznamenala spotřebu jednoho CPU přes 350 wattů a spotřeba jednoho GPU čipu NVIDIA přesáhla 700 wattů. Hustota výpočetního výkonu klastrů AI obecně dosahovala 50 kW na skříň a tradiční technologie vzduchového chlazení již nezvládá! Pro maximalizaci výkonu procesoru je potřeba vyšší účinnost chlazení.

 

Mezitím, z politického hlediska, zahájení čínského projektu „Eastern Data, Western Computing“ a cíle týkající se dvojího uhlíku přiměly průmysl věnovat více pozornosti úsporám energie, snižování emisí a vysoce kvalitnímu rozvoji. Pro efektivitu využití energie (PUE) datových center byly stanoveny přísnější technické požadavky, přičemž průměrná hodnota PUE nově vybudovaných velkých a supervelkých datových center v celé zemi má být snížena pod 1,3 a dále snížena pod 1,25 v národním měřítku. uzly hubu.

 

Kapalinové chlazení splňuje požadavky trhu v oblasti nákladové efektivity a politických pokynů v mnoha aspektech, včetně ekonomické účinnosti a chladicího výkonu, díky čemuž je vysoce hodnotné a ekonomicky výhodné. Podle CCID Consulting se očekává, že čínský kapalinou chlazený trh IDC do roku 2025 překročí 120 miliard juanů, s mírou růstu přes 30 % a mírou penetrace v současnosti kolem 20 %. Poptávka po kapalinovém chlazení výrazně roste a vyhlídky na trhu jsou slibné.

 

 

Ⅳ Průmyslový řetězec serverů pro kapalinové chlazení

 

1. Panorama průmyslu chlazení kapalin

Odvětví serverů s kapalinovým chlazením zahrnuje mnohem více než jen servery s kapalinovým chlazením; celý průmyslový řetězec je dlouhý, se širokými dílčími oblastmi a mnoha zúčastněnými hráči, což z něj činí kapitálově náročné odvětví.Technologie kapalinového chlazení je v současné době ve fázi rychlého vývoje, a pokud mají příslušní hráči výhody ve financování nebo získávání zákazníků, mohou vytvořit určité bariéry vstupu.

 

Podniky v různých podoborech postupně pronikají do příbuzných oborů na základě svých hlavních výhod a budují své vlastní ekosystémy. Podle rozdělení od infrastruktury k aplikacím lze průmysl kapalinou chlazených datových center rozdělit do tří hlavních podoblastí: infrastruktura kapalinového chlazení, průmysl středního proudu a průmyslové aplikace.

 

Sektor infrastruktury chlazení kapalin poskytuje základní vybavení a zařízení pro výstavbu datových center chlazených kapalinou. Je rozdělena do podpolí, jako jsou kapalné chladicí skříně, chladivo, chladicí systémy, napájecí systémy, síťové systémy a systémy správy infrastruktury datových center. Tyto podoblasti dodávají především zařízení, softwarové systémy a chladiva pro provoz serverů. Kromě toho sektor infrastruktury zahrnuje stavební dodavatele, provozovatele sítí a dodavatele energie. Stavební dodavatelé jsou odpovědní za výstavbu a instalaci výše uvedených zařízení a zařízení, provozovatelé sítí zajišťují základní přístup k síti a dodavatelé energie zajišťují elektřinu potřebnou pro provoz zařízení. Tyto oblasti poskytují relativně základní periferní prostředí pro datová centra.

 

Střední průmysl zahrnuje výrobce serverů, poskytovatele hostingu datových center a některé nové subjekty na trhu. Výrobci serverů zkoumají, navrhují a vyrábějí servery vhodné pro prostředí s kapalinovým chlazením nebo přímo vyrábějí servery chlazené kapalinou. Poskytovatelé hostingu datových center budují a provozují datová centra, přičemž využívají své vlastní výhody k integraci zdrojů ze sektoru infrastruktury a nabízejí uživatelům aplikací služby hostování serverů. Jak se datová centra rychle rozvíjejí, vstupují na pole kapalinou chlazených datových center nové společnosti.

 

Uživatelé aplikací datových center se dělí především do tří podpolí: cloud computing a cloud computing power, internet a blockchain a další uživatelé. Jsou primárními uživateli datových center. Poskytovatelé cloud computingu a cloud computingu generují příjmy tím, že zákazníkům nabízejí flexibilní alokaci a plánování výpočetního výkonu prostřednictvím virtualizace. Některé velké internetové a blockchainové společnosti často staví datová centra přímo ve spolupráci s operátory datových center, zatímco jiní uživatelé obvykle buď přímo hostují nebo pronajímají servery nebo zdroje výpočetní energie od operátorů datových center.

 

2. Přehled průmyslu kapalinového chlazení

Ve srovnání s chlazením vzduchem nabízí technologie chlazení kapalinou výhody vysoké stability a vysoké účinnosti chlazení. Z pohledu komplexní aplikace kapalinové chlazení postupně odhaluje své ekonomické výhody, když hustota výkonu přesáhne 15 kW na skříň. PodleAplikace UPSžurnálu, teplota jádra CPU kapalinou chlazených serverů může být o 20-30 stupeň nižší než maximální teplota ve vzduchem chlazených systémech, což výrazně zvyšuje spolehlivost.

 

Bílá kniha společnosti Intel,Green Data Center Innovation Practices-Cold Plate Liquid Cooling System Reference Design, naznačuje, že vzduchem chlazená datová centra mohou obvykle řídit chlazení pro skříně s úrovní výkonu až 12 kW. U skříní přesahujících 15 kW dosáhla stávající vzduchem chlazená datová centra stropu svých možností chlazení vzduchem. Technologie kapalinového chlazení, která poskytuje silnější chladicí schopnosti, může podporovat vyšší hustoty výkonu.

 

Ve srovnání s řešeními vzduchového chlazení povede trend směrem k kapalinovému chlazení řízený AIGC a iniciativami „Eastern Data, Western Computing“ nevyhnutelně k nárůstu jak objemu, tak ceny trhu s řízením teploty datových center. Odvětví serverů chlazených kapalinou sleduje tři technologické cesty: chladící desku, ponorné chlazení a chlazení sprejem.Chladicí kapalina chladící desky zahrnuje metodu chlazení, kdy chladicí kapalina není v přímém kontaktu se součástmi serveru, které generují teplo.

 

▲ Chlazení studené desky

 

▲ Chladicí systém rozprašovací kapaliny

 

▲ Jednofázové kapalinové imerzní chlazení

 

▲ Dvoufázové chlazení

 

Místo toho jsou hlavní součásti generující teplo připojeny ke studené desce, přičemž chladicí kapalina cirkuluje uvnitř vnitřního kapalného chladicího systému studené desky, aby odváděla teplo. Aby se zlepšily možnosti výměny tepla, musí být oblast tepelné výměny maximalizována, což vyžaduje, aby byla chladicí deska co nejtěsněji připevněna k povrchu komponent generujících teplo serveru. Nepravidelně tvarované součásti generující teplo se touto metodou obtížně chladí. Pro chlazení studených desek jsou vhodné pouze třísky relativně pravidelného tvaru.

 

To představuje významný problém pro řešení chladícího kapalinového chlazení: přibližně 30 % tepla serveru generovaného jinými komponentami, jako je úložiště, paměť a napájecí zdroje, stále vyžaduje tradiční chlazení vzduchem. To vede k potřebě dvou chladicích systémů, které mají být použity současně v řešeních chladícího kapalinového chlazení, což zvyšuje jak náklady, tak skutečný systém PUE. Současné řešení studené desky je relativně vyspělé, s pevným komerčním základem a již zaznamenalo řadu komerčních aplikací.

 

▲ Chladicí kapalinové chladicí roztoky

 

Immersion Liquid Cooling označuje úplné ponoření serverového zařízení do chladicí kapaliny, kde je chlazení dosaženo přímým kontaktem mezi chladicí kapalinou a součástmi generujícími teplo. Při této metodě jsou součásti serveru generující teplo zcela ponořeny v chladicí kapalině, což umožňuje dostatečný kontakt s chladicí kapalinou, která nepřetržitě odvádí generované teplo, a tím ochlazuje server. Ponorné chlazení nabízí vyšší účinnost chlazení s potenciálem zvýšit hustotu výkonu na skříň více než trojnásobně. Očekává se, že do roku 2025 bude tvořit více než 40 % trhu, přičemž kapalinou chlazené servery s úplným ponorem se pravděpodobně stanou budoucím technologickým trendem.

 

▲ Imerzní chlazení kapalinou

 

Systém chlazení kapalinou spreje je technologie přímého chlazení kapalinou navržená k přesnému rozprašování chladicí kapaliny na součásti serverů, které generují teplo. Chladivo je aplikováno přímo na zařízení generující teplo nebo pevné tepelně vodivé materiály k nim připojené, buď gravitací nebo tlakem systému. Tento proces umožňuje výměnu tepla pro chlazení serveru. Během výměny tepla je hladina chladicí kapaliny uvnitř serveru udržována pod součástmi generujícími teplo nebo pevnými tepelně vodivými materiály, které jsou k nim připojeny. Systém využívá externí jednotky pro výměnu tepla k chlazení a recyklaci chladicí kapaliny.

 

 

3. Krajina trhu s kapalinovým chlazením

Kapalinové chlazení jako pokročilá technologie zahrnuje několik oborů a oblastí s vysokými technickými bariérami.

V současné době zůstává přijetí technologie kapalinového chlazení mezi domácími a mezinárodními výrobci infrastruktury datových center relativně nízké, přičemž tuto technologii ovládá jen málo společností.

 

Několik společností v tuzemsku i zahraničí však začalo svým klientům nabízet přizpůsobená řešení kapalinového chlazení a některé technologické společnosti postupně budují a nasazují svá vlastní kapalinou chlazená datová centra. Navzdory tomu zůstává míra přijímání technologie kapalinového chlazení mezi výrobci infrastruktury datových center nízká a na trhu se dosud neobjevili dominantní lídři, takže konkurenční prostředí je stále nejisté.

 

Na čínském trhu některé společnosti díky letům technologické akumulace a zkušeností prokázaly významné technické a tržní výhody a očekává se, že v budoucnu budou na trhu dominovat přední společnosti, které vytvoří konkurenční prostředí, kde hlavní hráči budou mít významný podíl na trhu. .

 

4. Chlazení kapalinou na úrovni třísek

Důležitým trendem je zmenšování vzdálenosti mezi kapalinovým chlazením a základními zdroji tepla, jako jsou čipy. V budoucnu se očekává, že se chlazení vyvine z úrovně místnosti, skříně a serveru na úroveň čipu, čímž se dosáhne lepšího chlazení čipu díky přímému kontaktu mezi chladicími součástmi a povrchem čipu. Kapalinové chladiče odvádějí teplo odváděním velkého množství tepla pryč třením mezi proudem kapaliny a vnitřním povrchem chladiče. Ve srovnání s konvenčními vzduchovými chladicími systémy může kapalinové chlazení výrazně zlepšit účinnost chlazení. V současné době se technologie kapalinového chlazení dělí především na nepřímé a přímé typy.

 

Podle nejnovějšíchSledování čínského pololetního trhu serverů s kapalinovým chlazením (druhá polovina roku 2022).ve zprávě zveřejněné International Data Corporation (IDC) dosáhl čínský trh serverů s kapalinovým chlazením v roce 2022 1,01 miliardy USD, což představuje meziroční nárůst o 189,9 %. IDC předpovídá, že od roku 2022 do roku 2027 dosáhne složená roční míra růstu čínského trhu serverů s kapalinovým chlazením 56,6 %, přičemž velikost trhu by měla do roku 2027 dosáhnout 9,5 miliardy USD, což naznačuje světlou budoucnost pro průmysl kapalinového chlazení!

 

 

▲ Prognóza pro trh kapalinou chlazených serverů v Číně od roku 2023 do roku 2027