Nvidia går over til flytende kjøling for å redusere storteknologiens energibruk


Nvidia har annonsert sin nye plan for å redusere energibruken til datasentre som knuser enorme mengder data eller trener AI-modeller: væskekjølte grafikkort. Firmaet annonsert på Computex som den introduserer en væskekjølt versjon av A100 datakort, og sier at den bruker 30 prosent mindre strøm enn den luftkjølte versjonen. Nvidia lover også at dette ikke bare er en engangstilfelle, det har allerede flere væskekjølte serverkort på veikartet, og antyder å bringe teknologien til andre applikasjoner som bilsystemer som må holde seg kjølige i lukkede rom. Selvfølgelig viser Teslas nylige tilbakekalling for overopphetede sjetonger hvor vanskelig det kan væreselv med væskekjøling.

I følge Nvidia kan det å redusere energien som trengs for å utføre komplekse beregninger ha stor innvirkning – selskapet sier at datasentre bruker over én prosent av verdens elektrisitet, og 40 prosent av det skyldes kjøling. Å redusere det med nesten en tredjedel ville være en stor sak, selv om det er verdt å merke seg at grafikkort bare er en del av ligningen; CPUer, lagrings- og nettverksutstyr trekker også strøm og trenger også kjøling. Nvidias påstand er at med væskekjøling vil GPU-akselererte systemer være langt mer effektive enn CPU-bare servere på AI og andre høyytelsesoppgaver.

Nvidias veikart for væskekjølte apparater og kort.
Bilde: Nvidia

Det er en grunn til at væskekjøling er populært i brukstilfeller med høy ytelse, fra superdatamaskiner til tilpassede spill-PCer og til og med en telefoner: væske absorberer varme bedre enn luft, ifølge Asetek, en stor produsent av vannkjølesystemer. Og når du først har varm væske, er det relativt enkelt å overføre det andre steder slik at det kan kjøle seg ned, sammenlignet med å prøve å kjøle ned luften i en hel bygning eller øke luftstrømmen til de spesifikke komponentene på et kort som slipper ut all varmen.

I tillegg til energieffektiviteten har væskekjølte kort en annen bonus i forhold til sine luftkjølte motparter – de tar opp betydelig mindre plass, noe som betyr at du kan få plass til flere av dem på samme plass.

Nvidias press for å redusere energibruken via væskekjøling kommer på et tidspunkt da mange selskaper vurderer mengden energi serverne deres bruker. Mens datasentre er det langt fra den eneste kilden av karbonutslipp og forurensning for storteknologi, de er en del av puslespillet som ikke kan ignoreres, og kritikere har bemerket at utligne energibruk gjennom kreditter er ikke så effektfullt som å redusere forbruket totalt. Selskaper som Microsoft har eksperimentert med senke servere helt ned i væske Til og med sette hele datasentre i havet i et forsøk på å bruke mindre energi og vann.

Selvfølgelig er disse løsningene ganske eksotiske – mens den type væskekjølende Nvidias tilbud ikke nødvendigvis er normen for datasentre, er det ikke så der ute som å sette serverne dine i havet (selv om så langt Microsofts eksperimenter med det har vært sjokkerende vellykket). Nvidia markedsfører eksplisitt sine væskekjølte GPU-er som for “mainstream”-servere, i stedet for som en nyansert løsning.

Dette reiser spørsmålet om vi kunne se Nvidia prøve å ta væskekjøling til og med mer mainstream ved å bygge væskekjøling inn i referansedesignene for sine spillfokuserte kort. Selskapet nevner ingen planer om å gjøre det, men sier bare at det planlegger å “støtte væskekjøling i våre høyytelses datasenter-GPUer” i “overskuelig fremtid.”

Serverteknologien siler imidlertid ned til hjemme-PC-teknologien hele tiden, og spillkort som kommer rett fra fabrikken med en alt-i-ett væskekjøler er ikke noe som er helt uhørt – AMD hadde noen få referansedesign at inkludert en væskekjølesløyfeog tredjeparter har solgte væskekjølte Nvidia-kort før. Ettersom Nvidias kort fortsetter å trekke mer og mer kraft (en lager 3090 Ti kan trekke opp til 450 watt), Jeg ville ikke bli overrasket om Nvidia kunngjør et kort i RTX 5000-serien som kommer på lager med en væskekjøler.

Når det gjelder Nvidas datasenterfokuserte kort, sier selskapet at selskaper som ASRock, Asus og Supermicro vil inkorporere væskekjølte kort i serverne sine “senere i år”, og at PCIe A100-kort kommer i tredje kvartal i år. . En væskekjølt PCIe-versjon av sin nettopp annonsert H100-kort (som er neste generasjons versjon av A100) kommer i “tidlig 2023.”