Keď sa AI zahreje: Čo sa deje v dátovom centre, kým čakáte na odpoveď chatbota

Čipy, ktoré umožňujú umelej inteligencii odpovedať na naše otázky, pri práci spotrebúvajú veľa elektriny a intenzívne sa zahrievajú. Preto v dátových centrách pribúdajú potrubia, čerpadlá a výmenníky. Ako toto technické zázemie funguje a na čo musia myslieť ľudia, ktorí sa oň starajú?  

Keď počítaču zadáte náročnú úlohu, často sa ozve ventilátor. Procesor sa zahrieva a počítač musí odvádzať viac tepla. Podobný problém rieši aj infraštruktúra, ktorá zabezpečuje fungovanie umelej inteligencie. Len v oveľa väčšom rozsahu.

Bežný používateľ chatbota si pri písaní otázky sotva predstaví halu plnú serverov. Za jednoduchým oknom aplikácie však pracuje výpočtová technika uložená v stojanoch, ktoré pripomínajú vysoké skrine. Z analýz spoločnosti Schneider Electric, ktorá sa zaoberá energetickým manažmentom dátových centier, vyplýva, že pri vysokovýkonnej AI infraštruktúre môže príkon jedného serverového stojana presiahnuť 100 kW. Približne toľko ako päťdesiat súčasne zapnutých dvojkilowattových ohrievačov.

Takmer všetka elektrina spotrebovaná výpočtovou technikou sa napokon premieňa na teplo. Predstavte si teda, že z priestoru veľkej skrine musíte nepretržite odvádzať teplo z desiatok ohrievačov. A podobných skríň stojí v hale celý rad.

Prečo nestačí zapnúť silnejšiu klimatizáciu

AI využíva výkonné čipy, ktoré dokážu vykonávať množstvo výpočtov súčasne. Pri náročných úlohách spolupracujú celé skupiny procesorov. Ich výkon aj spotreba sa sústreďujú na malej ploche, z ktorej treba teplo rýchlo odviesť.

Je to trochu ako v kuchyni: aj keď klimatizácia udržiava v miestnosti príjemnú teplotu, pri zapnutom sporáku môže byť horúco. Podobne ani vhodná teplota vzduchu v dátovej hale nezaručuje, že sa niektorý čip neprehrieva. Ak chladenie nestíha, čip môže obmedziť svoj výkon, aby sa chránil.

Pri vzduchovom chladení funguje v hale princíp, ktorý poznáme z počítačov. Pri rastúcej koncentrácii výkonu však treba priviesť k zariadeniam čoraz viac vzduchu a odviesť ten ohriaty. Preto sa pri vysokovýkonnej AI technike presadzuje kvapalinové chladenie aj hybridné riešenia, ktoré kombinujú kvapalinu a vzduch podľa potrieb jednotlivých zariadení.

Liter vody namiesto tisícov litrov vzduchu

Pri porovnaní rovnakého objemu a rovnakej zmeny teploty dokáže voda objemovo preniesť približne 3 000-krát viac tepla než vzduch. V malom objeme teda dokáže kvapalina preniesť veľké množstvo tepla.

Podobný princíp poznáme z auta. Chladiaca kvapalina odoberá teplo od motora a prenáša ho do chladiča. Pri jednej z technológií využívaných v dátových centrách, označovanej ako direct-to-chip, prúdi kvapalina cez chladiace dosky v tepelnom kontakte s čipmi. Zachytené teplo odnáša potrubím ďalej. Čerpadlá udržiavajú obeh a výmenníky zabezpečujú jeho odovzdanie ďalšej časti chladiaceho systému.

Účinnejší odvod tepla umožňuje umiestniť viac výpočtového výkonu do menšieho počtu stojanov. Pri kompatibilnej infraštruktúre môže tiež podporiť postupné nasadzovanie výkonnejších serverov bez potreby úmerne zväčšovať plochu dátovej haly.

Aj teplá voda môže chladiť

Zažitou predstavou je, že čipy musí chladiť iba studená voda. Aj teplejšia kvapalina však dokáže odoberať teplo, pokiaľ je chladnejšia než čip a systém zabezpečuje dostatočný prenos tepla.

Simulácie Schneider Electric ukázali, že pri vhodne navrhnutom systéme môže vyššia prevádzková teplota chladiacej kvapaliny, samotnú potrebu chladenia dokonca znížiť, a to aj o desiatky percent. Konkrétna úspora však závisí od klimatických podmienok, požiadaviek serverov, teplotného spádu a architektúry celého chladiaceho systému. Dôvod je jednoduchý: chladiace zariadenia nemusia kvapalinu ochladzovať tak intenzívne a technici dokážu zachovať bezpečné podmienky pre čipy aj pri zvýšenej záťaži.

Dátové centrum nemá jedno nemenné nastavenie

Ventilátor v našom domácom počítači zrýchli, keď sa zariadenie viac zahreje. Podobne aj dátové centrum musí prispôsobovať chladenie tomu, čo sa v ňom práve deje. Pri tréningu AI modelov môže veľká skupina procesorov súčasne zvýšiť záťaž. Naraz tak rastie spotreba elektriny aj množstvo tepla.

Energetický manažment spočíva v tom, že sa sleduje teplota, tlak a prietok chladiacej kvapaliny a podľa potreby sa upravuje výkon. Obsluha tiež musí myslieť na situáciu, keď niektorý komponent zlyhá alebo potrebuje údržbu.

Zaujímavosťou je, že projektanti si môžu všetky tieto situácie preveriť ešte pred vybudovaním infraštruktúry, a to pomocou pokročilých simulácií alebo tzv. digitálneho dvojčaťa. Deje sa to cez pokročilé simulácie alebo tvorbu tzv. digitálneho dvojčaťa celej technológie.

Teplo môže dostať ďalšiu úlohu

Kvapalina pri prúdení cez chladiace dosky odoberá teplo z čipov a zahrieva sa. Potrubím potom putuje k výmenníku, kde môže teplo odovzdať vode v inom okruhu bez toho, aby sa obe kvapaliny zmiešali. Takto získané teplo možno pri vhodnom napojení využiť napríklad na predohrev vody alebo vykurovanie okolitých budov. Ak jeho teplota nestačí, môže ju zvýšiť tepelné čerpadlo.

Technológovia preto už pri návrhu počítajú s tým, že budova alebo prevádzka v okolí dátového centra dokáže teplo odoberať. Vďaka kvapalinovému chladeniu teplo vznikajúce pri výpočtoch AI môže dostať ďalšiu úlohu namiesto toho, aby sa iba odviedlo do vonkajšieho prostredia.

Za každou odpoveďou chatbota stojí aj úloha, ktorú na obrazovke nevidíte: odviesť teplo z čipov s čo najnižšou spotrebou energie. Moderné dátové centrá preto priebežne riadia chladenie a hľadajú možnosti, ako zachytené teplo ďalej využiť.